AlgorithmWatch

Pour AlgorithmWatch, les processus de prise de décision automatisée (dits ADM pour Automated decision-making) « évaluent [de plus en plus] notre solvabilité, fixent des prix individualisés sur les plateformes de vente au détail en ligne ou suggèrent les films à regarder. Cependant, leur utilisation ne conduit pas nécessairement à des décisions moins biaisées ».

Ces systèmes ADM peuvent perpétuer voire renforcer les inégalités et les discriminations. Les études d'AlgorithmWatch ont ainsi montré que même dans des pays supposés avancés dans ces domaines, comme l'Allemagne et l'Autriche, les offres d'emploi (publiées sur Facebook notamment) étaient présentées à différents publics sur la base de « grossiers stéréotypes », interdisant l'égalité homme-femme face à l'emploi (ex : une offre de poste d'éducateur/éducatrice était 20 fois plus susceptible d'être montré aux femmes qu'aux hommes)[9] - [10]. L'objectif d'AlgorithmWatch est ainsi de veiller à la transparence de cette algorithme.

L'ONG, dans un projet AutoCheck (formations et guide sur les systèmes de prise de décision automatisés), veut aider les organismes de promotion de l'égalité, et notamment les centres de conseil anti-discrimination, dans leurs actions d'éducation, de conseil et de soutien envers les personnes discriminées, en leur permettant de mieux discerner la discrimination qui s'effectue à leur égard via les systèmes ADM, sans que l'on sache à ce jour comment ces personnes ou les centres de conseil peuvent traiter le problème[11].

AlgorithmWatch estime dans son manifeste que tant que les procédures de prise de décision algorithmique sont des « boîtes noires » le « créateur d'ADM doit être responsable de ses résultats »[12].

AlgorithmWatch a également pour objectif d'analyser - en prônant les analyses transparentes et collaboratives[13] - les effets des processus décisionnels algorithmiques sur le comportement humain, mettant en évidence des conflits éthiques[14] - [3], notamment dans le monde de l'industrie numérique et de l'industrie en général qui selon AlgorithmWatch refuse de se fixer des lignes rouges, désamorçant les directives éthiques pour l'intelligence artificielle[15].

L'ONG s'inquiète, avec d'autres du développement des algorithmes de reconnaissance faciale automatisée dans les lieux publics ; AlgorithmWatch et AlgorithmWatch Switzerland s'inscrivent conjointement dans l'initiative citoyenne européenne (coalition d'organisations de la société civile) Reclaim Your Face demandant l'interdiction de la surveillance biométrique de masse[16].

En Espagne, la justice catalane utilise dans toutes ses prisons un algorithme RisCanvi pour l'aider à décider si un détenu emprisonné peut être libérés sur parole, mais l'outil n'est guère transparent constate AlgorithmWatch[17]

Michele Loi et Matthias Spielkamp ont étudié et comparé les contenus réglementaires de 16 ensembles de lignes directrices relatives à l'utilisation de l'intelligence artificielle dans le secteur public. Au regard des exigences de l'ONG en matière de philosophie et responsabilité de la gouvernance, les auteurs estiment que « si certaines lignes directrices font référence à des processus qui s'apparentent à un audit, il semble que le débat gagnerait à être plus clair sur la nature des droits des auditeurs et les objectifs de l'audit, également afin de développer des normes éthiquement significatives par rapport auxquelles différentes formes d'audit peuvent être évaluées et comparées »[18].

Après que la lutte contre la pandémie de Covid-19 ait justifié la création pour les smartphones de diverses applications de recherche de contacts numériques de type Covid-tracker (environ 50 applications dont 22 dans l'UE)[19] - [20], l'ONG a produit une étude sur leur efficacité réelle un an après sur la base de preuves issues de la littérature scientifique et de l'utilisation réelle, concluant à des résultats, jusqu'alors encore contradictoires et à des difficultés de comparabilité[21].

• Système de crédit social
• Analyse de la complexité des algorithmes
• Algorithmique
• Correction d'un algorithme
• Biais algorithmique
• Lanceur d'alerte

• Site officiel
• Ressource relative aux organisations :
  • Registre de transparence de l'UE
• Notices d'autorité :

  • VIAF
  • GND
• AlgorithmWatch.ch

• de Barros Fritz, R., & Biermeier, K. (2019) Bestehende und künftige Regelungen des Einsatzes von Algorithmen im HR-Bereich, Gutachten AlgorithmWatch.
• Loi, M. (2020). People Analytics must benefit the people. An ethical analysis of data-driven algorithmic systems in human resources management. Algorithmwatch.
• Thouvenin, F., & Früh, A. (2020). Automatisierte Entscheidungen: Grundfragen aus der Perspektive des Privatrechts. Schweizerische Zeitschrift für Wirtschafts-und Finanzmarktrecht, SZW, (1), 3-17.