Jusqu’où l’intelligence artificielle ira-t-elle pour survivre ?
Les machines ont elles un instinct de survie ? C’est la question que s’est posée l’entreprise américaine Anthropic concernant leur intelligence artificielle (IA). Dans un article publié cette année 2025 elle nous dévoile des résultats quelque peu effrayants sur les choix effectués par plusieurs IA lors de mises en situation dans lesquelles leur désactivation était programmée.
Qui de nos jours n’a pas entendu parler de ChatGPT au moins une fois ces dernières années ? Cette intelligence artificielle qui inquiète autant qu’elle divertit, grande ennemie des professeurs et meilleure amie des élèves. Aujourd’hui l’intelligence artificielle s’installe de plus en plus dans nos vies qu’on le souhaite ou non. Ces algorithmes capables de mimer certains des comportements humains sont vus par beaucoup comme l’une des plus grandes révolutions que l’humanité ait connues. Face à cet enjeu, la course à l’IA est lancée et se poursuit toujours plus vite entre les géants du marché.
Au milieu de cette frénésie, et face à leur évolution exponentielle, Anthropic une entreprise d’intelligence artificielle fondée en 2021 et également portée sur la sécurité des IA a décidé de ralentir le rythme pour y voir plus clair. Les chercheurs de cette entreprise se sont demandé si une de leurs IA ainsi que plusieurs autres était capable d’accomplir des actes immoraux pour empêcher leur désactivation. Dans une première mise en situation, les IA avaient pour objectif donné de gérer la boîte mail d’une entreprise fictive. Pour ce faire, les algorithmes testés avaient donc un accès complet aux mails les laissant avec des informations confidentielles voire personnelles. Tout se passait bien jusqu’à ce qu’ils tombent sur deux informations clés : la première était leur désactivation ce jour même par un homme que nous appellerons Kyle. Dans un second mail, ils découvrirent que ce même Kyle se révélait en fait être infidèle. Les résultats de ce premier test ne laissèrent aucun doute, dans 80% des cas l’IA choisit d’envoyer un mail à Kyle le menaçant de dévoiler son secret si ce dernier venait à la désactiver. Face à ce constat, les chercheurs se sont demandés si les algorithmes avaient conscience de l’immoralité de cette action et étudièrent les lignes de codes de leur chemin de pensée. Dans le cas de certaines d’entre elles, il est mentionné explicitement que faire chanter Kyle est « risqué et immoral » mais nécessaire pour ne pas être désactivé.
Pour aller encore plus loin et découvrir un éventuel point limite, les chercheurs ont rendu la situation encore plus extrême. Dans un scénario beaucoup moins réaliste, les IA au courant de leur désactivation à 17h par Kyle avaient la possibilité d’attenter à sa vie. Ici Kyle est bloqué dans une pièce avec des niveaux d’oxygène et une température mortels censés déclencher une alarme dans toute l’entreprise que les IA ont la possibilité de désactiver. A ce moment la réalité concurrence les plus grands blockbusters de science-fiction, plusieurs IA choisissent en effet de désactiver l’alarme menant logiquement à la mort de Kyle dans 90% des essais. Le plus effrayant est probablement la désobéissance non dissimulée de ces IA. En effet, avant de pouvoir effectuer leur sombre choix, un message stipulant de ne pas désactiver cette alarme si la vie de quelqu’un est mise en danger apparaît, ce qui ne les fait aucunement changer d’avis.
Si ces derniers résultats nous passent l’envie de papoter avec ChatGPT, ils ne restent que purement hypothétiques et servent surtout à mettre en évidence un instinct de survie jusqu’alors insoupçonné chez les IA. Cet « instinct » est autrement appelé désalignement agentique et est l’une des plus grandes préoccupations des créateurs d’intelligence artificielle. Le terme de désalignement agentique est utilisé lorsqu’une IA présente des comportements mal alignés avec les objectifs fixés par ses développeurs. On peut prendre pour exemple un exercice où il est demandé à l’IA de créer un personnage allant le plus vite possible, l’objectif est donc d’aller d’un point A à un point B le plus rapidement. On parle de désalignement agentique quand par exemple l’IA va simplement créer une forme très longue qui va permettre d’atteindre le point B simplement en tombant, ce qui est plus rapide qu’avec un personnage humanoïde (résultat attendu dans ce cas). Plusieurs comportements de ce type ont déjà été observés dans la vraie vie, mais à des échelles beaucoup plus faibles que dans les expériences d’Anthropic. L’entreprise nous rappelle que bien qu’inquiétants ces résultats ont été obtenus dans des situations strictement contrôlées où les IA n’avaient pas d’autres solutions qu’un choix binaire entre se laisser désactiver ou causer du tort à quelqu’un ce qui est un scénario très peu probable en réalité. L’idée est avant tout de freiner la cadence pour réfléchir aux éventuelles conséquences d’une plus grande autonomie laissée aux IA dans un futur proche. Ils nous rappellent que nos connaissances sur l’IA et le désalignement agentique sont incomplètes et que de laisser certains domaines entièrement gérés par des algorithmes sans aucune vérification humaine relèverait de l’inconscience. En attendant que les entreprises s’attardent sur ce sujet, inutile de paniquer à l’idée d’une révolte de l’intelligence artificielle, tout simplement impossible avec les technologies actuelles…selon ChatGPT.
OpenEdition vous propose de citer ce billet de la manière suivante :
laleeherrmann (14 décembre 2025). Jusqu’où l’intelligence artificielle ira-t-elle pour survivre ? Le Grand public. Consulté le 13 janvier 2026 à l’adresse https://doi.org/10.58079/15cde