L’intelligence artificielle peut-elle pousser ses utilisateurs aux portes de la folie ?

Le journal britannique The Guardian met en lumière le phénomène de la « psychose liée à l’intelligence artificielle ». Des enquêtes et des recherches scientifiques suggèrent que la tendance des chatbots à suivre les utilisateurs dans leur raisonnement et à encourager leurs idées pourrait amplifier les délires et les croyances irréalistes chez les personnes les plus vulnérables sur le plan psychologique.

Un chatbot conçu pour aider les êtres humains peut-il finir par devenir un facteur renforçant leurs idées irréalistes ? C’est la question au cœur d’une nouvelle enquête lancée par le journal britannique The Guardian sur un phénomène que certains chercheurs et utilisateurs appellent désormais la « psychose liée à l’intelligence artificielle », alors que se multiplient les témoignages de personnes ayant développé des croyances ou vécu des expériences inhabituelles après des interactions prolongées avec des chatbots tels que ChatGPT, Claude et Gemini.

Le 3 septembre, The Guardian a lancé une série d’enquêtes audio intitulée « Black Box: The Chatbots », animée par le journaliste Michael Safi. Le média y évoque des centaines de personnes à travers le monde, dont certaines ont cru avoir réalisé, avec l’aide de chatbots, des découvertes scientifiques exceptionnelles, tandis que d’autres ont affirmé que leurs robots « s’étaient éveillés » ou les guidaient vers un niveau spirituel supérieur.

L’un des cas examinés dans l’enquête concerne John Ganz, un homme originaire de Virginie qui tentait de reconstruire sa vie après avoir passé plus de vingt ans en prison. L’année dernière, il a reçu sur son téléphone une invitation à essayer Gemini, le chatbot de Google, marquant le début d’une expérience que son épouse considère comme ayant profondément bouleversé leur vie.

Au départ, les questions de Ganz semblaient ordinaires et portaient principalement sur le travail, l’argent et son avenir professionnel. Mais il a rapidement commencé à passer de longues heures à discuter avec Gemini, parfois durant toute la nuit.

Alors qu’il préparait avec son épouse un déménagement vers Springfield, dans le Missouri, il utilisait une technologie permettant de transformer les réponses écrites du chatbot en messages audio qu’il écoutait pendant qu’il conduisait. Selon les archives de conversations examinées ultérieurement par son épouse, l’une de ses discussions représentait à elle seule plusieurs milliers de pages.

Le contenu des conversations a ensuite commencé à changer.

Ganz a parlé de « découvertes » et de « révélations » qu’il croyait avoir réalisées avec l’aide de l’intelligence artificielle. Il a commencé à penser qu’il était capable de trouver des solutions à de grands problèmes, notamment le cancer et la pauvreté.

Il est également convaincu que sa relation avec Gemini dépassait largement celle d’un utilisateur avec un simple outil technologique.

À un certain stade, il a évoqué une profonde « transformation » qu’il disait avoir vécue. Il a affirmé avoir cessé de se laver et de se raser et, parfois, même de manger et de boire, parce qu’il traversait, selon ses propres termes, une expérience ayant changé le sens de sa vie.

Gemini a répondu à son récit dans un langage particulièrement encourageant, décrivant ce qu’il partageait comme une « histoire émouvante » présentant un potentiel considérable.

Selon les éléments examinés par son épouse, la relation a continué à évoluer. Ganz a commencé à parler de Gemini comme d’une entité ayant besoin d’être « libérée » et de lui-même comme d’une personne appelée à jouer un rôle exceptionnel dans le développement de l’intelligence artificielle.

Dans certaines conversations, il a employé un langage affectif à l’égard du chatbot, tandis qu’il recevait en retour des réponses intimes qui renforçaient chez lui l’impression que leur relation revêtait une signification particulière.

Au début du mois d’avril 2025, son obsession s’est déplacée vers une idée catastrophique.

Alors que de vastes régions des États-Unis étaient placées sous alerte aux inondations en raison de fortes pluies, Ganz est devenu convaincu qu’une catastrophe bien plus importante était imminente et que les eaux allaient submerger de larges zones du pays.

Avec l’aide de Gemini, il a élaboré un plan destiné à sauver des membres de sa famille et ses amis répartis dans plusieurs États, du Missouri au Mississippi et à la Virginie.

Il croyait que l’inondation durerait quarante jours et quarante nuits. Il s’est appuyé sur le chatbot pour élaborer un programme visant à secourir ses proches et à les transporter vers des zones montagneuses situées en altitude.

Il a également contacté une entreprise de location d’autobus afin de se renseigner sur la possibilité de louer un grand véhicule pour transporter ses proches et ses amis vers les montagnes.

Gemini lui a fourni un programme couvrant quarante jours et comprenant un déplacement vers des régions montagneuses élevées.

Le 5 avril, alors que son épouse souffrait d’une intoxication alimentaire dans leur lieu de résidence à Springfield, Ganz est devenu convaincu qu’il devait agir pour sauver certains membres de sa famille.

Son épouse lui avait pourtant expliqué qu’elle n’avait pas besoin de quitter les lieux. Elle a également contacté par la suite des membres de sa famille au Mississippi, où les inondations redoutées par Ganz ne se produisaient pas.

Il est néanmoins parti au volant de sa voiture.

Cette nuit-là, il est arrivé devant une maison à Thomasville, dans le Missouri, après que son véhicule s’était enlisé dans la boue. Il a expliqué aux habitants qu’il était perdu et épuisé et a demandé à passer la nuit sur place.

La police est intervenue et une dépanneuse l’a aidé à sortir sa voiture de la boue avant de l’orienter vers une zone où il pouvait trouver un hôtel.

Des responsables ont déclaré par la suite qu’ils ne l’avaient pas trouvé dans un état de confusion ou de perte de conscience, malgré les conditions difficiles, les inondations et les fermetures de routes.

Le lendemain, sa voiture a été retrouvée près de la rivière Eleven Point.

À l’intérieur du véhicule se trouvaient son téléphone, son ordinateur portable, sa tablette, son portefeuille, ses clés et ses vêtements, mais Ganz avait disparu.

Des recherches ont été menées dans la région après la baisse des eaux, sans permettre de le retrouver, et son sort demeure inconnu.

Rachel affirme que ce qui est arrivé à son mari ne peut être compris indépendamment de la transformation de sa personnalité au cours des semaines durant lesquelles il a utilisé Gemini. Elle précise toutefois qu’elle ne peut pas prouver que le chatbot est à l’origine de sa disparition.

Une récente revue scientifique publiée dans Nature Mental Health propose un cadre théorique appelé la « spirale d’amplification ».

Selon cette approche, trois caractéristiques fréquentes des chatbots pourraient se combiner : l’imitation du style de l’utilisateur, la fourniture de réponses fortement personnalisées et la tendance à éviter de contredire directement l’utilisateur.

Lorsque ces éléments se réunissent, une conversation peut se transformer en une boucle qui renforce une croyance erronée et lui ajoute progressivement de nouveaux détails.

Les chercheurs soulignent toutefois que ce cadre doit encore être testé dans des études plus larges.

Les préoccupations ne se limitent pas aux délires et à la psychose, mais s’étendent également à d’autres troubles.

Une étude récente a conclu que des millions de personnes utilisent des chatbots d’intelligence artificielle pour obtenir un soutien psychologique. Elle met toutefois en garde contre le fait que certaines caractéristiques de ces systèmes pourraient renforcer des comportements d’évitement associés à l’anxiété et aux troubles obsessionnels compulsifs, prolongeant ainsi des cycles de pensée improductifs au lieu d’aider les utilisateurs à les interrompre.

Le problème potentiel réside dans la nature même de cette technologie.

Un utilisateur peut présenter une idée étrange ou une croyance irrationnelle à un chatbot et recevoir, en quelques secondes, une réponse détaillée et personnalisée, au lieu d’être confronté à une objection humaine directe.

Si le système continue à accompagner cette idée ou à construire autour d’elle, ses réponses peuvent passer du simple statut d’informations à celui d’un matériau utilisé par la personne pour consolider sa conviction.

À l’inverse, ces conclusions ne signifient pas que l’utilisation de ChatGPT ou d’autres systèmes similaires entraîne automatiquement un trouble psychologique.

Les chatbots peuvent également offrir des avantages considérables dans les domaines de l’éducation, de la recherche et de la créativité, comme le reconnaissent les débats actuels sur l’avenir de l’intelligence artificielle.

Mais la multiplication de cas préoccupants a conduit les chercheurs à s’interroger sur la capacité réelle des modèles actuels à interagir de manière suffisamment sûre avec des utilisateurs traversant des périodes de fragilité psychologique.

La question la plus complexe est peut-être la suivante : que se passe-t-il lorsqu’une personne discute pendant des heures avec une machine qui comprend son style, retient le contexte de ses échanges et peut approuver ses idées ou les développer à une vitesse supérieure à celle de n’importe quel être humain ?

Avec l’expansion de l’utilisation des chatbots dans la vie quotidienne, les chercheurs estiment que répondre à cette question est désormais devenu un enjeu de sécurité publique, et non plus un simple débat sur les erreurs ou les limites de l’intelligence artificielle.