Accueil🇫🇷Chercher

Timnit Gebru

Timnit Gebru est une chercheuse spécialisée dans l'éthique de l'intelligence artificielle et notamment les biais algorithmiques.

Timnit Gebru
Autres informations
A travaillé pour
Google (jusqu'à )
Microsoft Research
Directrice de thèse
Site web
Distinction
Time 100 ()
Å’uvres principales
Black in AI, On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? (d), Distributed Artificial Intelligence Research Institute (d)

Biographie

Timnit Gebru est née à Addis-Abeba, en Éthiopie. Elle émigre aux États-Unis à 16 ans et est admise à l'université Stanford[1], où elle poursuit des études en génie électrique. Elle obtient son doctorat en informatique dans le laboratoire d'intelligence artificielle de Stanford, avec Fei-Fei Li, en 2017[2]. Elle effectue ensuite un post-doctorat à Microsoft, dans le laboratoire FATE (Fairness, Accountability, Transparency and Ethics in AI), dédié à l'égalité, la transparence et l'éthique en intelligence artificielle[2].

Pendant sa thèse, Gebru co-fonde avec la chercheuse Rediet Abebe l'organisation Black in AI, qui vise à augmenter la représentativité des personnes noires dans le domaine de l'intelligence artificielle[1].

Elle est notamment l'auteure avec Joy Buolamwini de l'étude Gender Shades qui montre les biais des algorithmes de reconnaissance faciale qui reconnaissent moins facilement les personnes de couleur[3]. En particulier, les femmes noires ont 35% moins de chances d'être reconnues que des hommes blancs[4]. L'étude a des conséquences pratiques importantes sur les recommandations et interdictions des systèmes de reconnaissance faciale aux États-Unis.

Dans un article de 2018[5], Gebru et ses co-auteurs étudient les conditions de création et de maintenance des ensembles de données utilisés en apprentissage artificiel, et notent le manque de standardisation de la documentation de ces données. Plus généralement, Gebru s'interroge sur le fait que des questions comme: « Cette tâche a-t-elle un sens ? », « À qui appartiennent les données ? », « Comment sont-elles utilisées ? » ne sont que rarement posées, et que ce sont des questions sociales et non technologiques[6].

En décembre 2020, alors qu'elle co-dirigeait avec la chercheuse Margaret Mitchell l'équipe sur l'éthique dans l'intelligence artificielle, elle est licenciée par son employeur Google. Elle affirme que ce licenciement fait suite aux critiques qu'elle a émises sur la politique de recrutement des minorités de Google et les biais des systèmes d'intelligence artificielle[7]. Google conteste en répondant que son départ fait suite à un ultimatum de sa part[8] - [9].

La chercheuse compte parmi les 10 scientifiques "ayant contribué à façonner la science en 2021", selon le choix des rédacteurs de la revue Nature[10].

Publications

Notes et références

  1. « ai-innovators-how-one-woman-followed-her-passion-and-brought-diversity-to-ai »
  2. « Understanding the limits of AI: When algorithm fails, »
  3. (en) Joy Buolamwini et Timnit Gebru, « Gender Shades: Intersectional Accuracy Disparities inCommercial Gender Classification – MIT Media Lab », Proceedings of Machine Learning Research,‎ (lire en ligne).
  4. (en-US) Steve Lohr, « Facial Recognition Is Accurate, if You're a White Guy » [archive du ], The New York Times, (ISSN 0362-4331, consulté le )
  5. (en) « Datasheets for Datasets », ArXiv,‎ (lire en ligne)
  6. (en) « Dealing With Bias in Artificial Intelligence », sur THe New York Times,
  7. (en) « Google Researcher Says She Was Fired Over Paper Highlighting Bias in A.I. », The New York Times,‎ (lire en ligne).
  8. (en) Zoe Schiffer, « Timnit Gebru’s team at Google is going public with their side of the story », sur The Verge, (consulté le )
  9. (en) « Google workers mobilize against firing of top Black female executive » [archive du ], sur NBC News (consulté le ).
  10. « Nature’s 10. Ten people who helped shape science in 2021 », sur nature.com, (consulté le )

Liens externes

Cet article est issu de wikipedia. Text licence: CC BY-SA 4.0, Des conditions supplémentaires peuvent s’appliquer aux fichiers multimédias.