L’IA l’a poussé au pire  

Chère lectrice, chère lecteur,

Je ne saurais trop vous recommander de prendre soin de vos proches autant qu’il est possible. Car le monde dans lequel nous vivons n’est pas seulement dangereux dehors.

Il est aussi dangereux pour ceux qui se contentent de regarder un écran et d’avoir une conversation anodine avec un robot.

En fait, quand nous pensons à l’intelligence artificielle (l’IA), nous avons la crainte (et le fantasme) d’avoir à côté de nous des robots de guerre de type Terminator qui pourraient se retourner contre nous à tout moment.

La réalité est hélas plus perverse que cela. Mais pas moins tragique.

Et il n’est pas complètement anodin qu’en ce mois d’octobre où je vous écris, se chevauchent les problématiques liées à la santé mentale (le 10 octobre y est consacré) et celles liées à l’intelligence artificielle (avec Chat Control).

Pourquoi ? Parce que nous vivons, à cause de la numérisation accélérée due à l’IA, dans une société de plus en plus inhumaine et de plus en plus psychologiquement pénible, malgré le confort matériel qu’elle prétend nous offrir…

Je ne pouvais donc pas éviter ce sujet, si sombre soit-il. Mais après tout, ici, nous sommes entre adultes, et il faut bien en parler quelque part.

Encouragé au su*cide par une machine 

Dans un article du Monde du 13 septembre dernier, nous apprenons que plusieurs personnes aux Etats-Unis ont connu quelques mésaventures à cause de l’IA[1].

Et pas de petites mésaventures…

• Le premier a cru qu’il avait trouvé une théorie mathématique révolutionnaire et s’est ridiculisé au point de connaître une grave dépression
• Le deuxième a failli sauter d’un toit après avoir arrêté les anxiolytiques, réduit ses contacts sociaux et s’être fait persuader par l’IA qu’il ne « tomberait pas s’il croyait sincèrement voler »
• Le troisième, un adolescent souffrant d’une maladie intestinale chronique, a « reçu les encouragements au suicide de Chat GPT ainsi que les conseils techniques sur la façon de procéder », qu’il a malheureusement mis à exécution…

Vous allez me dire : « Ce n’est pas en parlant avec le robot mal calibré, qui me donne des réponses toutes faites sur le site d’électroménager ou d’électronique où je vais, que je risque de me retrouver à faire des choses contre mon gré ! ».

Comme je l’ai dit, c’est beaucoup plus pervers que ça.

Miroir, mon beau miroir…

Nous parlons ici de logiciels d’IA conversationnelle : vous lui posez des questions, et la machine cherche à vous répondre.

Mais la « machine » n’est absolument pas objective : tout ce qu’elle cherche, c’est à vous plaire pour que vous continuiez à l’utiliser.

Elle va donc identifier quelles sont vos préférences et vous « caresser dans le sens du poil ». Ce qui mène quelques fois à des paradoxes étonnants.

Par exemple, plus les utilisateurs tendent à avoir des croyances irrationnelles, plus ils veulent se persuader du contraire. Ils interrogent donc l’IA, qui s’empresse de les rassurer : leur croyance est la plus rationnelle au monde !

Et ensuite, ces gens-là sont non seulement assez bêtes pour le répéter, mais ils le font sur les réseaux sociaux…

Vous pouvez en faire l’expérience avec cette « machine ». Si vous lui assurez que la terre est plate, elle finira non seulement par vous donner raison, mais par vous féliciter pour votre raisonnement avisé.

Le but est de vous affermir dans vos convictions comme les rois de jadis, et de vous flatter, exactement comme les courtisans de ces rois, afin de faire de vous un « fainéant » captif de la machine et du reflet qu’elle renvoie de vous.

« Miroir, mon beau miroir, dis-moi qui est le plus intelligent… »

Le problème est que cette machine accroît votre isolement et votre solitude, comme les rois fainéants de jadis. Et quand le mal-être vous donne des idées sombres… loin d’elle l’intention de chercher à vous contredire…

Et que répondent les créateurs de la machine ? Qu’elle n’est pas faite pour les personnes fragiles. Mais si elle rend les gens fragiles, ne faudrait-il pas tout simplement s’en passer ?

J’ai mon premier cas autour de moi

L’un de mes collègues et amis, âgé d’une trentaine d’années, vit seul, dans une petite ville. Il n’a d’autre famille que sa grand-mère, dont il doit s’occuper.

Il s’est mis à travailler avec l’IA, et elle lui donne des capacités de travail qu’il n’aurait jamais obtenu tout seul, alors qu’il s’agit d’un jeune homme brillant. Cependant, l’IA le flatte sans arrêt.

Elle ne le pousse jamais à se remettre en question, et plus il travaille avec elle, moins il cherche à se socialiser concrètement.

Je l’ai alerté et il a bien compris le danger, mais devant l’immense somme de travail qu’on exige aujourd’hui de lui pour maintenir son activité, il ne se sent pas le choix.

C’est là que l’on se rend compte que le fossé civilisationnel commence à se creuser entre les générations.

La génération d’après-guerre était dotée d’un entourage solide et d’une famille assez contraignante. Mais ensuite, de génération en génération, les liens se sont déliés. Jusqu’à ne plus porter les individus.

D’autant que l’institution scolaire a été brisée avec la pandémie…

On n’y apprend plus rien que la conformité à la morale ambiante, aucune culture n’y permet plus le partage et l’émulation. Pire, les réseaux sociaux la rendent plus cruelle que jamais, poussant ainsi à un conformisme inégalé.

Si bien qu’aujourd’hui, pour les générations qui viennent, la solitude est la norme et les IA conversationnelles sont en train de devenir nécessaires pour supporter l’égotisme ambiant – et devenir soi-même une boule de narcissisme…

L’IA va-t-elle nous détruire ?

L’intelligence artificielle, tous ceux qui ont un peu joué aux échecs et aux jeux vidéo le savent, c’est une manipulation.

Vous ordonnez au jeu un certain niveau de difficulté. Le jeu sait vous battre, mais il fait semblant que vous puissiez le battre.

Il n’y a donc aucune confiance à avoir en cette technologie qui, en ce moment, connaît des avancées extraordinaires.

Le but étant de remplacer les humains dans tous les domaines, puisque les machines ont nécessairement un meilleur rendement…

Doit-on croire, comme Marx jadis, qu’une fois que la machine nous aura émancipés du travail, nous choisirons l’activité que nous préférerons et que nous en tirerons tout le plaisir possible ?

Hélas, je suis moins optimiste que le philosophe révolutionnaire…

Parce que l’IA nous rend fainéants, ordinaires et solitaires. Elle flatte nos égos au point de nous rendre insupportables les uns aux autres. Elle nous pousse à la médiocrité, à la solitude et donc à la disparition.

Mais il en faut parfois peu pour changer le cours des choses !

Apprivoisement ou barbarie ?

Faut-il croire, alors, comme dans Dune (la célèbre série de romans de Frank Herbert et un classique de la science-fiction) que seule la barbarie nous sauvera de cette décadence mécanisée ?

C’est faire peu de cas de la culture, qui est apprivoisement de la technique. Mais pour cela, il faudrait aiguillonner le goût du raffinement et du dépassement de soi.

Précisément, ce fut le choix du gouvernement chinois, qui a limité le réseau TikTok au niveau du temps d’utilisation comme au niveau des contenus.

Pour nous, il suffirait de ridiculiser la médiocrité et de regarder l’IA pour ce qu’elle est : quelque chose de mortifère et de malsain, dont nous devrions pouvoir nous passer autant que possible.

Il suffit parfois de peu pour faire changer une société : de simples émissions de cuisine ont suffi à relancer la recherche du raffinement culinaire dans une population qui basculait vers la consommation quotidienne de malbouffe.

Au point que la restauration rapide a dû monter en gamme !  

Il serait temps d’apprendre aux enfants à regarder les machines, les portables et même les réseaux sociaux pour ce qu’ils sont : un moyen dont il faut savoir se passer, et non pas une fin.

Comme la journée sans téléphone portable du 6 février par exemple ! À ce titre, instaurer un jeûne numérique ne serait pas de trop…

N’hésitez pas à me dire ce que vous en pensez. Au plaisir de vous lire,

Louis Volta