AI Now Institute
L' AI Now Institute de NYU ( AI Now ) est un institut de recherche américain qui étudie les implications sociales de l'intelligence artificielle . AI Now est fondée par Kate Crawford et Meredith Whittaker en 2017 après un symposium organisé par la Maison Blanche sous Barack Obama[1] - [2]. Il est situé à l'Université de New York . AI Now est en partenariat avec des organisations telles que la L'Institut Polytechnique de l'université de New York, L'Institut de Science des données de l'université de New York, Partenariat sur l'IA et l' Union américaine pour les libertés civiles . AI Now a produit des rapports annuels qui examinent les implications sociales de l'intelligence artificielle .
| Fondation |
|---|
| Type |
501(c)(3) Nonprofit organization |
|---|---|
| Domaine d'activité | |
| Pays | |
| Coordonnées |
40° 44′ 06″ N, 73° 59′ 41″ O |
| Fondatrices | |
|---|---|
| Dirigeant |
Kate Crawford, Meredith Whittaker |
| Site web |
(en) ainowinstitute.org |
Fondation et mission
AI Now est né d'un symposium organisé en 2016 par le Bureau de la politique scientifique et technologique de la Maison-Blanche d'Obama. L'événement est dirigé par Meredith Whittaker, fondatrice de l'Open Research Group de Google, et Kate Crawford, chercheuse principale chez Microsoft Research [3].L'événement s'est concentré sur les implications à court terme de l'IA dans les domaines sociaux : inégalités, travail, éthique et soins de santé [4].
En novembre 2017, Whittaker et Crawford organisent un deuxième symposium sur l'IA et les problèmes sociaux, et lancent publiquement l'AI Now Institute en partenariat avec l'Université de New York[3]. L'institut se revendique être le premier institut de recherche universitaire axé sur les implications sociales de l'IA, et le premier institut d'IA fondé et dirigé par des femmes[1].
Dans une interview avec NPR, Crawford déclare que la motivation pour fonder AI Now était que l'application de l'IA dans les domaines sociaux - tels que les soins de santé, l'éducation et la justice pénale - était traitée comme un problème purement technique. L'objectif de la recherche d'AI Now est de les traiter d'abord comme des problèmes sociaux et de faire appel à des experts dans des domaines tels que la sociologie, le droit et l'histoire pour étudier les implications de l'IA[5].
Recherche
Suite à chaque symposium, AI Now publie un rapport annuel sur l'état de l'IA et son intégration dans la société. Son rapport de 2017 indique que "les cadres actuels de l'éthique de l'IA échouent" et fournit dix recommandations stratégiques pour le domaine - y compris des essais préalables à la sortie de systèmes d'IA et une recherche accrue sur les préjugés et la diversité dans le domaine. Le rapport est noté pour avoir appelé à la fin des systèmes de « boîte noire » dans les domaines sociaux essentiels, tels que ceux responsables de la justice pénale, des soins de santé, de l'aide sociale et de l'éducation[6] - [7] - [8].
En avril 2018, AI Now publie un programme pour les évaluations d'impact algorithmiques ( rapport AIA ), comme moyen pour les gouvernements d'évaluer l'utilisation de l'IA dans les organismes publics. Selon AI Now, une AIA serait similaire à une évaluation de l'impact sur l'environnement, en ce sens qu'elle exigerait une divulgation publique et l'accès d'experts externes pour évaluer les effets d'un système d'IA et toute conséquence imprévue. Cela permettrait aux systèmes d'être contrôlés pour des problèmes tels que des résultats biaisés ou des données de formation biaisées, que les chercheurs ont déjà identifiés dans les systèmes algorithmiques déployés à travers le pays[9] - [10] - [11].
AI Now mène des recherches interdisciplinaires qui se concentrent sur quatre thèmes :
- Biais et inclusion
- Travail et automatisation
- Droits et libertés
- Sécurité et infrastructures civiles
Références
- (en-US) « The field of AI research is about to get way bigger than code », Quartz, (consulté le )
- (en-US) « Biased AI Is A Threat To Civil Liberties. The ACLU Has A Plan To Fix It », Fast Company, (lire en ligne, consulté le )
- Ahmed Salmana, « In Pursuit of Fair and Accountable AI », luminategroup, (consulté le )
- (en-US) « 2016 Symposium » [archive du ], ainowinstitute.org (consulté le )
- Linda Wertheimer, « Studying Artificial Intelligence At New York University », sur https://www.npr.org, (consulté le )
- « AI Now 2017 Report », AI Now (consulté le )
- Tom Simonite, « AI Experts Want to End 'Black Box' Algorithms in Government », Wired,
- Scott Rosenberg, « Why AI is Still Waiting For Its Ethics Transplant », Wired,
- Dave Gershgorn, « AI experts want government algorithms to be studied like environmental hazards », Quartz, (consulté le )
- « AI Now AIA Report », AI Now (consulté le )
- Reisman, « Algorithms Are Making Government Decisions. The Public Needs to Have a Say. », Medium, ACLU (consulté le )
Voir également
- Banjo (application)
- IA Clearview