| Fondation |  |
|---|
| Type | |
|---|---|
| Domaine d'activité | |
| Pays |
| Affiliation | |
|---|---|
| Site web |
LeCenter for Human-Compatible Artificial Intelligence (CHAI, Centre pour des intelligences artificielles compatibles avec l'humain) est uncentre de rechercheaméricain, situé dans l'université de Californie à Berkeley, qui se concentre sur lasûreté des intelligences artificielles. Le centre a été fondé en 2016 par un groupe d'universitaires dirigé parStuart J. Russell[1],[2]. Russell est connu pour avoir coécrit le célèbre manuel d'intelligence artificielleArtificial Intelligence: A Modern Approach.
En2016, l'Open Philanthropy Project a accordé à CHAI un soutien de 5 555 550 $ sur cinq ans[3]. CHAI a depuis reçu des subventions supplémentaires de l'Open Philanthropy Project de plus de12 000 000 $[4],[5].
Une des principales approches de CHAI consiste à rendre les intelligences artificielles capables de déduire les valeurs humaines à partir de l'observation du comportement humain (apprentissage par renforcement inverse)[6]. Stuart Russel a détaillé cette piste de solution auproblème de l'alignement dans le livreHuman Compatible: Artificial Intelligence and the Problem of Control[7]. Il a également travaillé sur la modélisation de l'interaction homme-machine dans des scénarios où les machines intelligentes ont un bouton d'arrêt qu'elles sont capables de déjouer[8].
