Des chercheurs en IA alertent sur un risque pour l’humanité

Plusieurs chercheurs en IA issus d’entreprises de premier plan ont exprimé cette semaine de sérieuses inquiétudes concernant la sécurité de l’intelligence artificielle avancée. Un chercheur d’Anthropic affirme qu’il existe plus de 10 % de chances que l’IA tue tous les humains au cours de la prochaine décennie.

En bref :

• Des chercheurs d’Anthropic, d’OpenAI et de Google DeepMind alertent sur les risques existentiels liés à l’IA
• L’un d’eux indique que les entreprises d’IA agissent de manière imprudente et travaillent directement au développement d’une superintelligence
• Selon plusieurs chercheurs, il n’existe actuellement aucun plan pour résoudre les problèmes d’alignement

Un chercheur quitte Anthropic

Un chercheur, qui a travaillé trois ans sur la recherche en pré-entraînement à la fois chez OpenAI et chez Anthropic, a quitté Anthropic cette semaine. Il affirme qu’aucune des deux entreprises n’agit de manière responsable et qu’elles se dirigent à toute vitesse vers une superintelligence auto-améliorante.

Ses critiques ont été confirmées par des collègues au sein des mêmes entreprises. Un chercheur travaillant sur l’alignement de l’IA chez Anthropic reconnaît que l’équipe croit sincèrement que l’IA pourrait tuer tout le monde sur Terre, et estime que la probabilité dépasse 10 % d’ici dix ans.

Plusieurs chercheurs expriment leurs inquiétudes

Un autre chercheur, qui a quitté Google DeepMind en juin, a pleinement soutenu ces avertissements. Selon lui, de nombreux chercheurs pensent travailler sur quelque chose qui pourrait tuer tout le monde sur la planète. Cela faisait littéralement partie de son travail quotidien.

Ces avertissements conjoints suggèrent que de sérieux doutes existent au sein de l’industrie de l’IA quant à la capacité de maintenir les systèmes avancés en sécurité. Les chercheurs soulignent que, bien qu’Anthropic déploie des efforts maximaux, il n’existe actuellement aucun plan pour résoudre les problèmes d’alignement de la superintelligence, et que, clairement, aucun progrès n’est réalisé.