Ligue de justice algorithmique

La fondatrice d'AJL, Joy Buolamwini, a collaboré avec la spécialiste de l'éthique de l'IA Timnit Gebru. Elles ont publié en 2018 une étude sur les préjugés raciaux et sexistes existants dans les algorithmes de reconnaissance faciale utilisés par les systèmes commerciaux de Microsoft, IBM et Face++. Leur enquête, intitulée «Gender Shades» , a démontré que les modèles d'apprentissage automatique publiés par IBM et Microsoft étaient moins précis quant à l'analyse des visages féminins et à la peau foncée, en comparaison avec leurs performances sur les visages masculins et à la peau claire[8] - [9] - [10]. Le rapport « Gender Shades » s'est accompagné du lancement de Safe Face Pledge, une initiative conçue avec le Georgetown Center on Privacy & Technology, qui a exhorté les organisations technologiques et les gouvernements à interdire l'utilisation létale des technologies de reconnaissance faciale[11]. Le projet Gender Shades et les actions de plaidoyer entreprises par la suite par l'AJL et d'autres groupes similaires ont conduit de nombreuses entreprises technologiques, dont Amazon et IBM, à prendre en compte les préjugés dans le développement de leurs algorithmes et même à interdire temporairement l'utilisation de leurs produits par les forces de l'ordre en 2020[12] - [13].

Buolamwini et AJL ont été présentés dans le documentaire Netflix 2020 Coded Bias, qui a été présenté pour la première fois au Festival du film de Sundance[14] - [15]. Ce documentaire s'est concentré sur les efforts de recherche et de plaidoyer de l'AJL pour faire connaître les biais algorithmiques dans les systèmes de reconnaissance faciale[16] - [15].

Une collaboration de recherche impliquant l'AJL a publié un livre blanc en mai 2020 appelant à la création d'un nouveau bureau du gouvernement fédéral des États-Unis pour réglementer le développement et le déploiement des technologies de reconnaissance faciale[17]. Le livre blanc proposait que la création d'un nouveau bureau du gouvernement fédéral dans ce domaine contribuerait à réduire les risques de surveillance de masse et de biais posés par les technologies de reconnaissance faciale envers les populations vulnérables[18].

L'AJL a mené des initiatives pour sensibiliser le public aux biais algorithmiques et aux inégalités dans les performances des systèmes d'IA pour la modélisation de la parole et du langage dans les populations de sexe et de race. Le travail de l'AJL dans cet espace se concentre sur la mise en évidence des disparités entre les sexes et les races dans les performances des systèmes commerciaux de reconnaissance vocale et de traitement du langage naturel, dont il a été démontré qu'ils étaient moins performants sur les minorités raciales et renforçaient les stéréotypes de genre[19] - [20] - [21].

En mars 2020, AJL a publié une pièce artistique de création parlée, intitulée Voicing Erasure, qui a sensibilisé le public aux préjugés raciaux dans les systèmes de reconnaissance automatique de la parole (ASR)[22] - [23]. La pièce a été interprétée par de nombreuses chercheuses et chercheuses non binaires dans le domaine, dont Ruha Benjamin, Sasha Costanza-Chock, Safiya Noble et Kimberlé Crenshaw[22] - [23]. AJL a basé son développement de « Erasure » un article PNAS de 2020, intitulé «Disparités raciales dans la reconnaissance vocale automatisée» qui a identifié les disparités raciales dans les performances de cinq systèmes ASR commerciaux[24].

En 2019, Buolamwini a représenté l'AJL lors d'une audience du Congrès du Comité de la Chambre des États-Unis sur la science, l'espace et la technologie, afin de discuter des applications des technologies de reconnaissance faciale dans le commerce et au sein du gouvernement[25] - [26]. Buolamwini a servi de témoin à l'audience et a parlé de la sous-performance des technologies de reconnaissance faciale pour identifier les personnes à la peau plus foncée et aux traits féminins et a soutenu sa position avec les recherches du projet AJL « Gender Shades »[27] - [28].

En janvier 2022, l'AJL a collaboré avec Fight for the Future et l' Electronic Privacy Information Center pour publier une pétition en ligne appelée DumpID.me, appelant l'IRS à cesser d'utiliser ID.me, une technologie de reconnaissance faciale qu'ils utilisaient sur les utilisateurs. lorsqu'ils se connectent[29]. L'AJL et d'autres organisations ont envoyé des lettres aux législateurs et leur ont demandé d'encourager l'IRS à arrêter le programme. En février 2022, l'IRS a accepté d'arrêter le programme et de cesser d'utiliser la technologie de reconnaissance faciale[30]. L'AJL a maintenant réorienté ses efforts pour convaincre d'autres agences gouvernementales de cesser d'utiliser la technologie de reconnaissance faciale. Depuis mars 2022, la pétition DumpID.me a pivoté pour arrêter l'utilisation d'ID.me dans toutes les agences gouvernementales[29].

En septembre 2021, Olay a collaboré avec AJL et O'Neil Risk Consulting & Algorithmic Auditing (ORCAA) pour mener la campagne Decode the Bias, qui comprenait un audit visant à déterminer si le Olay Skin Advisor (OSA). Le système comprenait des préjugés contre les femmes de couleur[31]. L'AJL a choisi de collaborer avec Olay en raison de son engagement à obtenir le consentement des clients pour que leurs selfies mais aussi leurs données de peau soient utilisés dans cet audit[32]. L'audit de l'AJL et de l'ORCAA a révélé que le système OSA contenait des biais dans ses performances en fonction de la couleur de peau et de l'âge des participants[32]. Le système OSA a démontré une plus grande précision pour les participants ayant des tons de peau plus clairs, selon les échelles de classification du type de peau Fitzpatrick et de l'angle de typologie individuelle de la peau. Le système OSA a également démontré une plus grande précision pour les participants âgés de 30 à 39 ans[33]. Olay a depuis, pris des mesures pour auditer en interne et atténuer les biais du système OSA[32]. De plus, il a également financé 1 000 filles pour participer au camp Black Girls Code, afin d'encourager les filles afro-américaines à poursuivre des carrières STEM[32].

En juillet 2020, le projet Community Reporting of Algorithmic System Harms (CRASH) a été lancé par AJL[34]. Ce projet a débuté en 2019 lorsque Buolamwini et la chercheuse en sécurité numérique Camille François (en) se sont rencontrés au Bellagio Center Residency Program, hébergé par la Fondation Rockefeller. Depuis lors, le projet est également co-dirigé par la professeure du MIT et directrice de recherche de l'AJL, Sasha Costanza-Chock (en). Le projet CRASH s'est concentré sur la création d'un cadre pour le développement de programmes de primes de bugs (BBP) qui inciteraient les individus à découvrir et à signaler les cas de biais algorithmique dans les technologies d'IA[34] - [35]. Après avoir mené des entretiens avec des participants au BBP et une étude de cas du programme BBP de Twitter[36]. De plus, les chercheurs de l'AJL ont développé et proposé un cadre conceptuel pour la conception de programmes BBP qui compensent et encouragent les individus à localiser et à divulguer l'existence de biais dans les systèmes d'IA[37]. AJL souhaite que le cadre CRASH donne aux individus la possibilité de signaler les dommages algorithmiques et de stimuler le changement dans les technologies d'IA déployées par les entreprises, en particulier les individus qui ont traditionnellement été exclus de la conception de ces technologies d'IA [38] - [39].