Das ethische Dilemma beim Skalieren von KI: Einblicke von Abeba Birhane.

\"Scaling up\" ist ein Schlagwort in der Künstliche Intelligenz-Branche, da Technologiefirmen ihre KI-Systeme mit immer größeren Internetdatenmengen verbessern wollen. Auch für Abeba Birhane von Mozilla, eine Expertin für Künstliche Intelligenz, die seit Jahren die Werte und Praktiken ihres Fachgebiets hinterfragt, ist dies ein Warnsignal.

Ihre neueste Forschung zeigt, dass das Erweitern von Online-Daten, die zur Schulung von populären KI-Bildgenerierungstools verwendet werden, überproportional rassistische Ergebnisse produziert, insbesondere gegenüber schwarzen Männern. Birhane ist leitende Beraterin für KI-Verantwortung bei der Mozilla Foundation, der gemeinnützigen Mutterorganisation der freien Softwarefirma, die den Firefox-Webbrowser betreibt.

In ihrem Interview mit der Associated Press wurden die Inhalte für mehr Klarheit und Kürze bearbeitet. Die Fragen und Antworten wurden ebenfalls verkürzt, um die wesentlichen Inhalte hervorzuheben.

Ihre Forschung hat gezeigt, dass das Erweitern von Datensätzen auch die Probleme erhöht, die diese enthalten. Sie misst den Anteil hasserfüllter Inhalte in zwei Datensätzen und fand heraus, dass der hasserfüllte Inhalt mit der Größe des Datensatzes von 400 Millionen auf 2 Milliarden zunahm.

Sie hat wenig Vertrauen, dass die KI-Industrie die von ihr vorgeschlagenen Änderungen umsetzen wird. Große Unternehmen reagieren meist nur, wenn gesetzliche Regelungen dies erfordern, oder wenn öffentliche Empörung und Bewusstsein dies erzwingen.