Margaret Mitchell (informaticienne)
Margaret Mitchell est une informaticienne et chercheuse américaine spécialiste des biais algorithmiques et de l'équité en apprentissage artificiel (en). Elle est plus particulièrement connue pour ses travaux sur la suppression automatique des biais de certains groupes démographiques dans les modèles d'apprentissage automatique, ainsi que sur le gain en transparence dans l'utilisation de ces modèles.
| Naissance | |
|---|---|
| Formation | |
| Activité |
| A travaillé pour | |
|---|---|
| Site web |
(en) m-mitchell.com |
Études
Margaret Mitchell commence ses études universitaire en linguistique à Reed College, Portland, Oregon en 2005. Après avoir travaillé en tant qu'assistante de recherche au OGI School of Science and Engineering pendant deux ans, elle obtient un master en linguistique informatique à l'University of Washington en 2009. Elle obtient ensuite un doctorat en 2013 à l'université d'Aberdeen, sur la génération de texte à partir d'une image[1].
Carrière
En 2012, Margaret Mitchell rejoint le centre technologique pour le langage humain à la Johns Hopkins University en tant que post-doctorante, puis est recrutée par Microsoft Research en 2013. Elle travaille ensuite à Google, où elle fonde l'équipe sur l'éthique dans l'intelligence artificielle avec Timnit Gebru. En février 2021, elle est brutalement licenciée par Google, qui invoque, après une enquête de cinq semaines, des violations au code de conduite et de sécurité de la compagnie[2] - [3] - [4]. Ce départ controversé intervient après seulement quelques semaines après l'éviction également brutale et controversée de sa collègue Timnit Gebru en décembre 2020. Margaret Mitchell était une fervente avocate de la diversité au sein de Google, et avait émis des réserves sur une censure de la recherche à ce sujet dans l'entreprise[4].
Sujets de recherche
Margaret Mitchell est principalement connue pour ses études sur l'équité en apprentissage artificiel et les méthodes pour contrer les biais algorithmiques. En particulier ses travaux sur l'introduction de « fiches de modèles », qui regroupent des informations sur un modèle d'apprentissage pour une meilleure transparence[5]. Elle est également connue pour ses travaux sur la supppression des biais des modèles par des méthodes d'apprentissage automatique contradictoire (en)[6].
À Microsoft, Mitchell dirigeait l'équipe du projet Seeing AI, une application qui aide les déficients visuels en générant des descriptions audio compréhensibles à partir d'une image, et en particulier de la caméra d'un smartphone[7]. En février 2018, elle donne une conférence TED sur « Comment construire une IA pour aider les humains, et non leur porter préjudice »[8].
Publications
- (en) Emily Bender, Timnit Gebru, Angelina McMillan-Major et Shmargaret Shmitchell, « On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 », FAccT '21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency,‎ , p. 610–623 (DOI 10.1145/3442188.3445922)
Notes et références
(en) Cet article est partiellement ou en totalité issu de la page de Wikipédia en anglais intitulée « Margaret Mitchell (scientist) » (voir la liste des auteurs).
- Margaret Mitchell, « Generating Reference to Visible Objects », University of Aberdeen,
- « Après Timnit Gebru, Google licencie Margaret Mitchell, une autre spécialiste de l'éthique en intelligence artificielle », sur L'Usine digitale,
- « Google fires Margaret Mitchell, another top researcher on its AI ethics team », sur BBC, (consulté le )
- « Margaret Mitchell: Google fires AI ethics founder », sur The Guardian, (consulté le )
- Margaret Mitchell, Simone Wu, Andrew Zaldivar, Parker Barnes, Lucy Vasserman, Ben Hutchinson, Elena Spitzer, Inioluwa Deborah Raji et Timnit Gebru « Model Cards for Model Reporting » () (DOI 10.1145/3287560.3287596, arXiv 1810.03993, lire en ligne)
—Conference on Fairness, Accountability, and Transparency
— « (ibid.) », dans Proceedings of the Conference on Fairness, Accountability, and Transparency - Brian Hu Zhang, Blake Lemoine et Margaret Mitchell « Mitigating Unwanted Biases with Adversarial Learning » () (DOI 10.1145/3278721.3278779, lire en ligne)
—AAAI/ACM Conference on AI, Ethics, and Society
— « (ibid.) », dans Proceedings of the 2018 AAAI/ACM Conference on AI, Ethics, and Society, p. 220–229 - « Seeing AI in New Languages », sur Microsoft (consulté le )
- « Margaret Mitchell's TED talk », sur TED, (consulté le )