Régulation des algorithmes

En 2016, Joy Buolamwini a fondé Algorithmic Justice League après une expérience personnelle avec un logiciel de détection faciale biaisé afin de sensibiliser aux implications sociales de l'intelligence artificielle à travers l'art et la recherche[12].

En 2017, Elon Musk a plaidé pour une régulation des algorithmes dans le contexte du risque existentiel de l'intelligence artificielle générale[13] - [14] - [15]. Selon NPR, le PDG de Tesla n'était "clairement pas ravi" de plaider en faveur d'un examen gouvernemental qui pourrait avoir un impact sur son propre secteur, mais estimait que les risques d'une absence totale de surveillance étaient trop élevés : "Normalement, la façon dont les réglementations sont établies est lorsqu'un de mauvaises choses se produisent, il y a un tollé public et, après de nombreuses années, une agence de réglementation est créée pour réglementer cette industrie. Cela prend une éternité. Cela, dans le passé, a été mauvais mais pas quelque chose qui représentait un risque fondamental pour l'existence de la civilisation." [13].

En réponse, certains politiciens ont exprimé leur scepticisme quant à la sagesse de réglementer une technologie qui est encore en développement[16]. Répondant à la fois à Elon Musk et aux propositions de février 2017 des législateurs de l'Union européenne visant à réglementer l'IA et la robotique, le PDG d'Intel, Brian Krzanich, a fait valoir que l'intelligence artificielle en était à ses balbutiements et qu'il était trop tôt pour réglementer la technologie[17]. Au lieu d'essayer de réglementer la technologie elle-même, certains chercheurs suggèrent plutôt de développer des normes communes comprenant des exigences pour le test et la transparence des algorithmes, éventuellement en combinaison avec une certaine forme de garantie[18]. Une suggestion a été de développer un conseil de gouvernance mondial pour réglementer le développement de l'IA[19]. En 2020, l'Union européenne a publié son projet de document de stratégie pour la promotion et la réglementation de l'IA[20].

La collusion tacite algorithmique est une pratique antitrust légalement douteuse commise au moyen d'algorithmes, que les tribunaux ne sont pas en mesure de poursuivre[21]. Ce danger concerne les scientifiques et les régulateurs de l'UE, des États-Unis et d'ailleurs[21]. La commissaire européenne et Margrethe Vestager a mentionné un exemple précoce de collusion tacite algorithmique dans son discours sur « Algorithmes et collusion » le 16 mars 2017, décrit comme suit[22] :

"Il y a quelques années, deux entreprises vendaient un manuel intitulé The Making of a Fly. L'un de ces vendeurs a utilisé un algorithme qui correspondait essentiellement au prix de son rival. Ce rival avait un algorithme qui fixait toujours un prix 27% plus élevé que le premier. Le résultat a été que les prix ont continué à monter en flèche, jusqu'à ce que finalement quelqu'un remarque ce qui se passait et ajuste le prix manuellement. À ce moment-là, le livre se vendait - ou plutôt ne se vendait pas - pour 23 millions de dollars l'exemplaire."

En 2018, les Pays-Bas ont utilisé un système algorithmique SyRI (System Risico Indicatie) pour détecter les citoyens perçus comme étant à haut risque de commettre une fraude à l'aide sociale, ce qui a discrètement signalé des milliers de personnes aux enquêteurs[23]. Cela a provoqué une protestation publique. Le tribunal de district de La Haye a fermé SyRI en se référant à l'article 8 de la Convention européenne des droits de l'homme (CEDH)[24].

En 2020, des algorithmes attribuant des notes d'examen aux étudiants au Royaume-Uni ont déclenché une protestation ouverte sous la bannière « Fuck the algorithm »[25]. Cette protestation a été couronnée de succès et les notes ont été retirées[26].

La législation et la réglementation en matière d'IA peuvent être divisées en trois thèmes principaux, à savoir la gouvernance des systèmes de renseignement autonomes, la responsabilité et l'imputabilité des systèmes, et les questions de confidentialité et de sécurité[4]. L'élaboration de stratégies du secteur public pour la gestion et la réglementation de l'IA est de plus en plus jugée nécessaire aux niveaux local, national [27] et international[20] et dans divers domaines, de la gestion des services publics[28] à l'application de la loi[20], le secteur financier[27], la robotique[29], l'armée[30], et le droit international[31] - [32]. Il y a de nombreuses inquiétudes quant au manque de visibilité et de surveillance de l'IA dans ces secteurs[33]. Dans le secteur financier, par exemple, des appels ont été lancés au Consumer Financial Protection Bureau pour qu'il examine de plus près le code source et les algorithmes lors de la vérification des données non publiques des institutions financières[34].

Aux États-Unis, le 7 janvier 2019, à la suite d'un décret exécutif sur le « Maintien du leadership américain en matière d'intelligence artificielle », le Bureau de la politique scientifique et technologique de la Maison Blanche a publié un projet de directives pour la réglementation des applications d'intelligence artificielle, qui comprend dix principes pour agences des États-Unis lorsqu'il s'agit de décider si et comment réglementer l'IA[35] - [36]. En réponse, l'Institut national des normes et de la technologie a publié un document de position[37], la Commission de sécurité nationale sur l'intelligence artificielle a publié un rapport provisoire[38], et le Conseil de l'innovation de la défense a émis des recommandations sur l'utilisation éthique de l'IA[39].

En 2016, la Chine a publié une prise de position remettant en question l'adéquation du droit international existant pour faire face à l'éventualité d' armes entièrement autonomes, devenant ainsi le premier membre permanent du Conseil de sécurité de l'ONU à aborder la question [31] et conduisant à des propositions de réglementation mondiale[40]. Aux États-Unis, le pilotage de la réglementation de l'IA liée à la sécurité est assuré par la National Security Commission on Artificial Intelligence[41].