Accueil🇫🇷Chercher

Center for Human-Compatible Artificial Intelligence

Le Center for Human-Compatible Artificial Intelligence (CHAI, Centre pour des intelligences artificielles compatibles avec l'humain) est un centre de recherche américain, situé dans l'université de Californie à Berkeley, qui se concentre sur la sûreté des intelligences artificielles. Le centre a été fondé en 2016 par un groupe d'universitaires dirigé par Stuart J. Russell[1] - [2]. Russell est connu pour avoir coécrit le célèbre manuel d'intelligence artificielle Artificial Intelligence: A Modern Approach.

Center for Human-Compatible Artificial Intelligence
Histoire
Fondation

En 2016, l'Open Philanthropy Project a accordĂ© Ă  CHAI un soutien de 5 555 550 $ sur cinq ans[3]. CHAI a depuis reçu des subventions supplĂ©mentaires de l'Open Philanthropy Project de plus de 12 000 000 $[4] - [5].

Recherche

Une des principales approches de CHAI consiste à rendre les intelligences artificielles capables de déduire les valeurs humaines à partir de l'observation du comportement humain (apprentissage par renforcement inverse)[6]. Stuart Russel a détaillé cette piste de solution au problème de l'alignement dans le livre Human Compatible: Artificial Intelligence and the Problem of Control[7]. Il a également travaillé sur la modélisation de l'interaction homme-machine dans des scénarios où les machines intelligentes ont un bouton d'arrêt qu'elles sont capables de déjouer[8].

Articles connexes

Notes et références

  1. (en) Norris, « UC Berkeley launches Center for Human-Compatible Artificial Intelligence », (consulté le ).
  2. (en) Solon, « The rise of robots: forget evil AI – the real risk is far more insidious », The Guardian, (consulté le ).
  3. (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2016) », (consulté le )
  4. (en) Open Philanthropy Project, « UC Berkeley — Center for Human-Compatible AI (2019) », (consulté le ).
  5. (en) « UC Berkeley — Center for Human-Compatible Artificial Intelligence (2021) », openphilanthropy.org.
  6. (en) Conn, « New Center for Human-Compatible AI », Future of Life Institute, (consulté le ).
  7. (en) Stuart J. Russell, Human compatible : artificial intelligence and the problem of control, (ISBN 978-0-525-55861-3, 0-525-55861-6 et 978-0-525-55863-7, OCLC 1113410915, lire en ligne)
  8. (en) Bridge, « Making robots less confident could prevent them taking over », The Times, .
Cet article est issu de wikipedia. Text licence: CC BY-SA 4.0, Des conditions supplémentaires peuvent s’appliquer aux fichiers multimédias.