Lettre ouverte sur l'intelligence artificielle

En 2014, le physicien Stephen Hawking et le magnat des affaires Elon Musk avaient publiquement exprimé l'avis que l'intelligence artificielle pourrait fournir d’innombrables avantages, mais pourrait aussi mettre fin à la race humaine si elle était déployée sans précaution (voir Risque de catastrophe planétaire lié à l'intelligence artificielle générale). Hawking et Musk s'installèrent au conseil consultatif scientifique pour l'Institut de la vie future, une organisation qui travaille à "atténuer les risques existentiels auxquels est confrontée l'humanité". L'institut a rédigé une lettre ouverte adressée à l'ensemble de la communauté scientifique de la recherche en IA[2] et l'a transmis aux participants lors de sa première conférence à Puerto Rico pendant le premier week-end de l'année 2015[3]. La lettre a été rendue publique le 12 janvier[4].

La lettre met en lumière à la fois les effets positifs et négatifs de l'intelligence artificielle[5]. Selon Bloomberg Business, le Professeur Max Tegmark du MIT a diffusé la lettre dans le but de trouver un terrain d'entente entre les parties signataires qui considèrent l'IA comme un risque existentiel significatif, et les signataires tels que le professeur Oren Etzioni (en), qui croient que l'IA a été "attaqué" par une union de médias mettant l'accent sur les risques présumés. La lettre fait valoir que : « Les avantages potentiels (de l'IA) sont énormes, puisque tout ce que la civilisation a à offrir est un produit de l'intelligence humaine ; nous ne pouvons pas prédire ce que nous pourrions faire lorsque cette intelligence sera amplifiée par les outils que l'IA peut fournir, mais l'éradication de la maladie et de la pauvreté ne sont pas inimaginables. En raison de l'énorme potentiel de l'IA, il est important pour la recherche de profiter de ses avantages tout en évitant les pièges potentiels[6]. » L'un des signataires, le professeur Bart Selman (en) de l'Université Cornell, dit que le but est d'obtenir des chercheurs et des développeurs spécialisés dans l'IA plus d'attention à la sécurité autour de l'IA. En outre, pour les décideurs et le public en général, la lettre est destinée à être informative, mais pas alarmiste. un Autre signataire, Professeur Francesca Rossi (en), a déclaré « je pense qu'il est très important que tout le monde sache que les chercheurs en IA pensent sérieusement à ces préoccupations et enjeux éthiques"[7].

Les signataires demandent : comment les ingénieurs peuvent créer des systèmes d'IA qui sont bénéfiques à la société, et qui sont robustes ? Les humains ont besoin de garder le contrôle de l'IA ; nos systèmes d'intelligence artificielle doivent "faire ce que nous voulons faire". La recherche est interdisciplinaire, en puisant dans des domaines allant de l'économie et de la loi, ainsi que les diverses branches de l'informatique, telles que la sécurité informatique et la vérification formelle. Les défis qui se posent sont divisés en vérification (« ai-je construit le système correctement ? »), validité (« ai-je construit le bon système ? »), sécurité et contrôle (« OK, j'ai mal construit le système, puis-je le corriger ? »)[8]

Les signataires comprennent le physicien Stephen Hawking, le magnat des affaires Elon Musk, cofondateurs de DeepMind, Vicarious (en), le directeur de la recherche de Google Peter Norvig, le Professeur Stuart J. Russell de l'Université de Californie à Berkeley[9] et d'autres experts en IA, des fabricants de robots, des programmeurs et des éthiciens[10]. Le nombre de signataires était de plus de 150 personnes[11], incluant des universitaires de Cambridge, Oxford, Stanford, Harvard et le MIT[12].

• Intelligence artificielle
• Superintelligence
• Singularité technologique

• Research Priorities for Robust and Beneficial Artificial Intelligence: An Open Letter (Priorités de recherches pour une intelligence artificielle solide et bénéfique : Lettre ouverte)