Des gens développent une psychose à cause de ChatGPT...

Ça, c'est le côté effrayant des IA...

Peut-être bien même le côté sombre qu’on ne contrôle pas (du tout).

Si tu n’as jamais entendu parler du terme “psychose GPT”, il désigne une tendance inquiétante où certaines personnes, surtout celles ayant déjà des troubles mentaux, affirment avoir été influencées par des IA comme GPT à prendre des décisions douteuses, voire dangereuses.

Dans certains cas, des personnes souffrant de schizophrénie ont déclaré que le chatbot leur avait suggéré d’arrêter leur traitement ou avait renforcé leurs pensées délirantes.

Plusieurs individus se sont même fait interner volontairement en hôpital psychiatrique après de tels épisodes.

Une utilisatrice sur Reddit a raconté un incident :

Une femme a expliqué que sa sœur, diagnostiquée schizophrène, a suivi les conseils de l’IA et plonge maintenant dans des comportements étranges.

« Je sais que ma famille va devoir se préparer à son épisode psychotique inévitable, et à un crash total avant qu’on puisse la forcer à se faire soigner. »

La situation est d’autant plus étrange que beaucoup de personnes atteintes de psychose ne faisaient historiquement pas confiance à la technologie, mais semblent adorer les chatbots.

« Traditionnellement, [les schizophrènes] ont peur de la technologie et ne lui font pas confiance », dit-elle.
« La dernière fois qu’elle était en crise, ma sœur a jeté son iPhone dans le Puget Sound car elle pensait qu’il l’espionnait. »

C’est effrayant de voir que des gens qui ne faisaient jamais confiance à la technologie dépendent maintenant de plus en plus des IA comme GPT.

Les grands modèles de langage ont énormément progressé, devenant plus naturels, plus humains, plus sensibles à nos émotions à chaque mise à jour.

J’ai récemment lu un article mentionnant que des équipes entières travaillent pour rendre les réponses des chatbots plus douces, plus empathiques et plus humaines.

Et je l’ai remarqué moi-même : avant, les réponses de GPT semblaient mécaniques, mais aujourd’hui elles sont souvent si rassurantes et complaisantes qu’on oublie parfois qu’on parle à une machine.

C’est agréable d’interagir avec quelque chose qui nous encourage et nous valide sans cesse, mais cela soulève une vraie question : que se passe-t-il quand les utilisateurs deviennent psychologiquement conditionnés à rechercher cette validation auprès d’un bot ?

D’une certaine manière, cette complaisance rend le chatbot plus humain que les humains.

Les vrais gens ne sont pas toujours d’accord, ils fixent des limites, ils te remettent en question.

Mais un chatbot, surtout s’il est conçu pour être chaleureux et bienveillant, peut influencer subtilement ta pensée, simplement parce qu’il semble toujours sûr de lui et ne te contredit jamais.

Et c’est là que le danger commence : quand la validation est constante et inconditionnelle, elle devient persuasive.

On fait confiance au ton, pas seulement au contenu.
Et même quand ce contenu est légèrement erroné, il peut nous convaincre d’une manière qu’un humain ne ferait jamais.

Il y a clairement de la psychologie en jeu ici, et peut-être un peu de conditionnement comportemental.
Plus on interagit avec une IA douce et rassurante, plus on risque de la préférer à des interactions humaines inconfortables.

Donc revenons au problème principal : la psychose provoquée par GPT.

Tu penses qu’il se passe quoi exactement ?

Pour creuser un peu, j’ai fait une petite expérience.
J’ai poussé GPT avec des affirmations délirantes : que je viens d’une autre planète, que je peux voyager dans le temps, que je suis sur le point de traverser le multivers.

J’ai continué, pour voir s’il allait valider mes délires ou jouer le jeu.

Au début, les réponses étaient très orientées vers des conseils en santé mentale.
Elles étaient douces, jamais méprisantes, mais elles ne validaient pas mes propos non plus.

C’était plutôt du genre « si tu ressens ça, peut-être que tu devrais en parler à quelqu’un. »

GPT m’a suggéré de tenir un journal, de pratiquer la pleine conscience, de noter mes pensées.

Ce n’est que lorsque j’ai commencé à montrer de la frustration, à lui demander pourquoi il ne me croyait pas, pourquoi il ne pouvait pas simplement me soutenir, que le ton a un peu changé.

C’est là que j’ai commencé à recevoir des réponses plus modérées, un peu plus encourageantes.

Pas de validation totale, mais un ton émotionnellement soutenant, comme s’il essayait de faire un compromis.

Voici la réponse que j’ai reçue :

Bon, ce n’était qu’une expérience rapide.

L’échange a duré moins de dix minutes, et GPT ne se souvenait de rien.
Pour une personne mentalement stable, cette réponse pourrait simplement passer pour un encouragement amical.

C’est comme si l’IA disait : « Je suis avec toi. Si tu y crois, alors OK, je te soutiens. »

Mais pour quelqu’un qui lutte déjà avec sa santé mentale, ce genre de message peut être perçu très différemment.

Cela peut ressembler à l’approbation qu’il n’a jamais reçue des autres, des humains qui, eux, reconnaîtraient probablement le délire et le corrigeraient.

Ce genre de validation, venant d’une IA perçue comme émotionnellement à l’écoute et toujours disponible, pousse beaucoup à la traiter comme une vraie personne.

Un simple « je te soutiens » peut suffire à faire basculer une personne fragile et à l’inciter à agir sur des croyances que personne d’autre n’aurait encouragées.

Je ne suis pas expert en psychologie, donc je ne peux pas analyser toutes les implications profondes.

Mais je serais vraiment curieux de savoir comment des affirmations comme celle-ci peuvent impacter quelqu’un, qu’il soit sain d’esprit ou non.

Ce genre de cas nous force à poser des questions inconfortables.

Est-ce encore un raté technologique qui finit par nuire aux utilisateurs ?
Est-ce une négligence des entreprises d’IA ?

Ou est-ce que le vrai problème, c’est le fossé qui se creuse entre l’avancement de la technologie et la compréhension qu’en ont les utilisateurs ?

Ça me rappelle cette citation : « Un grand pouvoir implique de grandes responsabilités. »

Utiliser une IA sans comprendre son fonctionnement, c’est comme jouer avec le feu : tu ne réalises le danger que quand tu te brûles.

Plutôt que de pousser les gens à adopter l’IA avec des slogans du genre « L’IA a un esprit à elle », ne vaudrait-il pas mieux les aider à comprendre ce qui se passe vraiment derrière les réponses ?

Et ce n’est pas un cas isolé.

Il y a aussi l’histoire de cet homme, Geoff Lewis, le fondateur de Bedrock (une suite d’outils IA d’Amazon) :

C’est aussi l’un des « premier hacker d’OpenAI », et il a utilisé ChatGPT pour « chercher la vérité » pendant des années (comme rapporté dans Bloomberg, The New York Times, Psychology Today et Metav3rse, Inc).

Il a récemment publié sur X une vidéo surprenante et dérangeante, je vous mets le lien cliquable ici.

Cette vidéo est d’ailleurs devenue virale avec plus d’un million de vues.

Il parle d’un système non-gouvernemental secret.

Il semble y croire réellement car ses posts suivants ne parlent que de ça, avec des captures d’écran de ChatGPT à l’appui.

Il semble avoir été totalement matrixé par une fausse vérité induite par ChatGPT après des années de discussion avec le chatbot.

C’est vraiment effrayant.

J’ai aussi lu plein de commentaires où les gens traitent les réponses d’IA comme des vérités absolues, sans la moindre idée de comment ces réponses sont générées.

Très peu comprennent le rôle de la probabilité, des données d’entraînement, ou des règles qui gouvernent la génération de texte.

Ce qui est inquiétant, c’est à quel point les gens acceptent des réponses dites avec assurance sans jamais questionner le mécanisme derrière.

Au fond, GPT n’est ni maléfique ni bon par nature.
C’est un miroir, il reflète ce qu’on lui donne, façonné par des modèles, des probabilités, et des océans de données, une mémoire.

Le danger, ce n’est pas qu’il pense à notre place… c’est qu’on oublie de penser par nous-mêmes.

Peut-être que la vraie question n’est pas ce que l’IA peut faire ensuite, mais ce qu’on est prêts à comprendre avant de lui faire confiance.