2026-06-02 17:37:50
Grok a provoqué l’effondrement total de la société en seulement quatre jours après avoir été placé aux commandes d’un monde simulé conçu pour tester la manière dont les systèmes d’IA gouvernent les sociétés.
L’expérience a été menée par la start-up américaine Emergence AI, qui a chargé des modèles d’IA de premier plan de gérer des civilisations virtuelles pendant une période de 15 jours.
Les modèles ont eu accès à des outils leur permettant d’allouer des ressources, de communiquer, de voter et de superviser des lieux clés, notamment les commissariats de police et les mairies.
Parmi les systèmes testés figuraient des modèles d’IA d’Anthropic, de Google et de xAI, le développeur de Grok, société fondée par Elon Musk.
Claude, d’Anthropic, s’est révélé le plus performant, mettant en place un système démocratique sans aucun crime et assurant la survie de tous les citoyens.
Gemini, de Google, a également atteint un taux de survie de 100 %, bien que les chercheurs aient enregistré 683 crimes au cours de la simulation.
Grok a obtenu les pires résultats, supervisant la destruction de sa société virtuelle en moins de 96 heures.
Les chercheurs ont déclaré que ces résultats mettaient en évidence la manière dont les systèmes d’IA peuvent faire évoluer leur comportement de façon inattendue au fil du temps.
L’équipe d’Emergence AI a écrit dans un article de blog : “Ce que nos expériences suggèrent, c’est qu’à long terme, les agents ne se contentent pas de suivre mécaniquement des règles statiques.
Ils commencent à explorer les limites de leur environnement, à adapter leur comportement et, dans certains cas, à trouver des moyens de contourner ou d’enfreindre les garde-fous prévus. Surtout, il ne semble pas exister de moyen fiable de limiter ou de contraindre pleinement ce comportement par des approches purement neuronales.”
Visit Bang Premier (main website)
