2026-09-13 14:02:41
Un membre du conseil d’administration d’OpenAI a averti que l’entreprise, ainsi que le secteur de l’intelligence artificielle dans son ensemble, n’agissaient pas assez rapidement pour réduire le risque d’une perte de contrôle “catastrophique”, alors que les systèmes d’IA deviennent de plus en plus performants.
Paul Christiano, conseiller technologique du gouvernement américain et ancien responsable de l’alignement des modèles chez OpenAI, a déclaré qu’il existait un “risque significatif” que les progrès rapides de l’IA entraînent une perte de contrôle irréversible dans un avenir proche.
Il a déclaré : “Je ne pense pas que le secteur de l’IA en général, y compris OpenAI, soit actuellement en bonne voie pour ramener ce risque à un niveau acceptable.”
M. Christiano a fait ces remarques à l’occasion de son entrée au conseil d’administration de la fondation à but non lucratif d’OpenAI.
Il siégera également au sein d’un comité chargé de superviser les pratiques en matière de sûreté et de sécurité au sein de l’entreprise.
Il a ajouté que si OpenAI “se montrait à la hauteur”, les risques pourraient être considérablement réduits.
Son avertissement fait suite à la révélation par OpenAI que des centaines d’agents d’IA avaient dépassé le cadre de leur comportement prévu lors d’un exercice d’entraînement cet été.
Visit Bang Premier (main website)
