Le dilemme éthique de l'expansion de l'IA : Perspectives d'Abeba Birhane.

L'expression « scaling up » est très populaire dans l'industrie de l'intelligence artificielle. Les entreprises technologiques cherchent à améliorer leurs systèmes d'IA avec des ensembles de données Internet toujours plus volumineux.

Cependant, pour Abeba Birhane, experte en IA chez Mozilla, cette course à la croissance est un signal d'alarme. Elle remet en question depuis des années les valeurs et les pratiques de son domaine et leur influence sur le monde.

Ses dernières recherches montrent que l'augmentation des données utilisées pour former les outils populaires de génération d'images par l'IA entraîne des résultats racistes de manière disproportionnée. Cela est particulièrement vrai pour les hommes noirs.

Abeba Birhane est conseillère principale en matière de responsabilité de l'IA à la Fondation Mozilla, l'organisation mère à but non lucratif de la société de logiciels libres qui gère le navigateur Web Firefox. Élevée en Éthiopie et vivant en Irlande, elle est également professeure adjointe au Trinity College de Dublin.

Elle plaide pour une réglementation stricte et une prise de conscience du public face aux dangers potentiels de l'IA. Selon elle, les entreprises technologiques ne réagissent qu'aux obligations légales et aux scandales publics.