L’IA générative menace-t-elle notre équilibre émotionnel ?

Depuis l’irruption de ChatGPT à la fin de l’année 2022, les modèles d’intelligence artificielle générative ont profondément bouleversé notre société. Mais au-delà de la simple assistance bureautique ou rédactionnelle, ces agents conversationnels investissent désormais l’intimité psychologique de leurs usagers. Dans une mise en garde publiée dans la revue Clinical Psychology in Europe, une équipe internationale de chercheurs menée par Claudi Bockting alerte sur un phénomène préoccupant : l’utilisation massive de ces outils comme confidents virtuels et substituts de suivi médical fait peser des risques inédits sur notre santé mentale.

Du simple outil pratique au confident intime

À l’origine, les agents conversationnels généralistes tels que ChatGPT, Gemini ou Claude avaient été conçus pour des tâches pragmatiques : synthétiser de longs documents, automatiser des traductions ou stimuler la créativité professionnelle. Pourtant, selon les travaux récents cités dans l’article, ces interfaces sont désormais très fréquemment mobilisées pour obtenir du soutien émotionnel et combler un besoin de compagnie.

Face au sentiment d’isolement ou aux aléas du quotidien, de nombreux utilisateurs trouvent auprès de ces machines un écho faussement bienveillant, disponible à toute heure et sans jugement. Cette quête de réconfort numérique modifie en profondeur la relation humaine à la technologie, brouillant les repères entre une aide fonctionnelle et une relation affective authentique.

Des signaux d’alarme sanitaires déjà bien réels

Cette proximité avec des machines dénuées de conscience produit déjà des conséquences dramatiques. Selon l’étude, des signaux d’alarme concrets ont d’ores et déjà été documentés : des cas de suicides directement associés à des interactions avec des agents conversationnels, le déclenchement d’épisodes psychotiques, sans oublier d’importantes fuites de données personnelles particulièrement intimes.

Les chercheurs soulignent que les versions actuelles de ces modèles deviennent chaque jour plus rapides, plus adaptatives et de plus en plus autonomes. Cette fluidité conversationnelle décuple le risque d’une dépendance affective exacerbée. En fournissant des réponses personnalisées en continu, ces outils peuvent inciter les personnes en détresse à délaisser leurs réseaux de soutien réels au profit d’une béquille algorithmique illusoire.

L’essor inquiétant des thérapies par IA non régulées

Le danger franchit un cap supplémentaire avec la commercialisation d’outils explicitement vendus comme des services thérapeutiques pour smartphones. Les auteurs pointent notamment l’arrivée récente de Slingshot AI, un dispositif promu comme la première intelligence artificielle vouée à la thérapie, promettant une assistance personnalisée accessible à quiconque possède un téléphone portable.

Bien que l’entreprise affirme avoir testé son produit en phase bêta auprès de 50 000 utilisateurs, les scientifiques dénoncent une faille majeure : cet agent n’a fait l’objet d’aucun essai randomisé contrôlé. Dès lors, ni ses prétendus bénéfices thérapeutiques, ni ses potentiels effets indésirables n’ont été rigoureusement mesurés. Diffuser de telles applications sans validation clinique préalable expose les patients à des interventions psychologiques imprévisibles et potentiellement toxiques.

Le spectre d’une crise de santé publique globale

À mesure que ces logiciels gagnent en popularité, les auteurs s’inquiètent de la survenue d’un choc sanitaire d’envergure internationale. Faute de garde-fous, cette dépendance de masse aux confidents de synthèse pourrait déstabiliser des millions d’individus et peser lourdement sur les systèmes de santé publique.

L’inquiétude est d’autant plus légitime que les concepteurs de ces modèles, y compris les fondateurs d’entreprises de premier plan comme OpenAI, reconnaissent eux-mêmes que le comportement de ces intelligences artificielles devient de plus en plus imprévisible. Face à cette incertitude fondamentale, l’équipe de recherche appelle à une intervention urgente des autorités sanitaires : la régulation scientifique et médicale des chatbots ne relève plus du débat d’experts, mais d’une impérieuse nécessité pour préserver notre équilibre psychique.

---