Si le bot passe pour un humain, c’est parce que VOUS lui ressemblez

Le bot ou non player character peuple les jeux vidéos depuis toujours. Inlassablement, il a fait le mort pour vous faire plaisir lorsque vous le criblez de balles et répond à vos questions sur la prochaine quête. Désormais, il envahit les mondes virtuels avec une liberté accrue et il vous aborde sans que vous l’ayez sollicité. Vous avez quelque chose qui intéresse ses programmeurs : votre crédulité à le penser humain.

On peut dire que le bot est à l’avatar, ce que le robot est à l’homme. Et alors que son cousin du monde réel n’a pas encore atteint la vallée dérangeante (the uncanny valley) – la théorie selon laquelle un être synthétique trop réaliste inspirera de la répulsion –, le bot, lui, floue carrément votre perception et se fait passer pour humain. Il le prouve au quotidien dans Second Life où il vous flatte pour vous rendre généreux (flatter bot) et dans les jeux vidéos en ligne, bien malin celui qui discerne un bot d’un autre joueur lorsque vous vous écroulez, un point écarlate entre les deux yeux. Cette performance mimétique lui a fait passer avec succès la version gamebot du test de Turing.

Et ce même bot, appelé aussi agent virtuel dans les espaces commerciaux et sur le web, s’apprête à utiliser vos données stockées dans le cloud pour asservir votre logique à la manière de la voyante qui connaît miraculeusement le prénom de vos enfants. Alors bot-logique vs bio-logique, vous n’en sortirez pas toujours gagnant car dans le monde du bot ou au travers d’une interface qui limite vos sens, vous devez vous battre avec ses armes. Il ne ressemble pas à un humain, c’est un fait, mais c’est vous qui lui ressembler. Et même si vous le surpassez intellectuellement, ses erreurs pourraient bien le rendre encore plus humain à vos yeux.

En réalité pour comprendre pourquoi le bot est plus prompt à se faire passer pour un humain qu’un robot, il faut intégrer le fait que le robot est dans votre espace, il ressemble à une boite de conserve et vous saurez évidemment le distinguer d’un humain, pour au moins les dix années à venir. Mais lorsque vous entrez en contact avec un bot, au téléphone, sur le web, dès que vous utilisez une interface, c’est différent, vous êtes sur son terrain. A dire vrai, sous la forme d’un avatar, vous avez même plus du bot que de l’humain et cela change tout.

Dans ces conditions, dîtes virtuelles, c’est le plus petit dénominateur commun qui l’emporte, vos sens sont oblitérés en grande partie. Sur une conversation courte, comme une demande de renseignement, une proposition commerciale ou une rencontre fortuite, vous avez peu d’éléments pour identifier votre interlocuteur et peu d’éléments à votre disposition pour faire valoir votre humanité, votre différence.

Prenons le cas le plus récent et qui intéresse les avatars, c’est la chasse aux bots qui a eu lieu dans Second Life ces mois derniers, plus précisément, les flatter bots, des bots mendiants qui flattent votre avatar pour finalement lui quémander quelques (Linden) dollars. Et ces robots flatteurs rapporteraient à leur programmeur près de 150 euros par jour. On passera sur l’analogie évidente avec la fable du Renard et du Corbeau pour s’intéresser au fait que jusqu’à la transaction, des avatars conduits par des humains ont pris un bot pour une autre humain, lui ouvrant ce que l’homme a de plus cher après son coeur : son porte-monnaie.

Je crois que plusieurs éléments concourent à cette confusion.

L’interfaçage de la relation

A ce propos, je me rappelle de la présentation d’un chercheur d’Oxford qui, pour souligner l’absurdité de nier la réalité d’une action dans un monde virtuel, avait affiché une phrase dans un powerpoint : « Je viens d’avoir une conversation virtuelle au téléphone avec ma grand-mère« . Effectivement, l’interface fusse-t-elle virtuelle ne qualifie pas la nature de l’action qui elle est bien réelle. Cependant, cette interface a une incidence sur les moyens d’identifier notre l’interlocuteur, sur la pauvreté du dialogue non verbal. Au téléphone, il suffit de changer sa voix et on projette une autre image mentale chez son interlocuteur. L’interface s’impose à nos sens, elle privilégie finalement le bot qui a été programmé pour évoluer dans ces conditions spécifiques.

Les sentiments, l’empathie

Prenez le refus de dialogue, souvent sec, d’une personne qui sait que vous allez lui proposer quelque chose. C’est simplement la peur de l’interlocuteur d’être sensible à votre discours. Quand on y pense, c’est un peu fou de penser que nous refusons de parler de peur de nous laisser convaincre. Je veux me faire aimer, l’empathie et la tendance à vouloir désamorcer toute menace par la séduction amène l’homme a dévier de sa logique. Le flatter bot vous désarme en vous flattant pour faire tomber votre première ligne de défense et vous amenez sur le terrain de l’empathie et l’empathie, c’est très humain.

La projection psychologique et l’anthropomorphie

Nous projetons beaucoup sur l’autre, nous prêtons aux autres toutes sortes d’intentions, de désirs en fonction d’éléments d’appréciation comme le visage, l’attitude, etc. Et dans un monde virtuel, c’est encore plus flagrant parce que c’est totalement irrationnel. A l’origine, les avatars étaient pour la plupart élaborés par les personnes elles-mêmes et la qualité de l’assemblage, le goût, le choix des couleurs pouvaient renseigner un peu sur le type de personne que l’on avait en face de soi, aujourd’hui une personne sans expérience peut s’acheter un avatar magnifique et cela rend toutes tentatives de perception non verbale caduques. Et pourtant, vous persistez à vous laisser séduire, les codes sociaux ont la vie dure. Il arrive souvent que les mouvements harmonieux, bien que répétitifs, dénués de sens, d’un avatar, nous troublent ou attirent la sympathie, comme des signaux qui nous seraient destinés personnellement. L’homme a une tendance à tout assimiler à l’humain, il prête par exemple des significations humaines aux comportements des animaux, parfois vraies mais souvent fausses, l’anthropomorphie est une tendance naturelle de l’homme à tout plier à une logique humaine, plus rassurante, cette faculté facilite grandement le travail du bot.

L’hypnose conversationnelle et le dialogue monologue

Plusieurs anecdotes à ce sujet ; vous êtes sans doute déjà tombé sur ces répondeurs qui vous disent : Allo ? Allo ? Et vous voilà parti dans un dialogue idiot, à parler avec une machine. J’entends par là que la conversation nous fait verser dans un monde particulier, nous nous concentrons plus sur ce que nous avons à dire que pour déchiffrer ce que nous dit notre interlocuteur. Erreur qu’exploite le bot pour faire oublier sa vacuité. Je me rappelle d’un jour avoir assisté à la présentation d’un chatbot, le chercheur nous a gratifié d’un dialogue avec le bot sur grand écran : « Quel est ton nom ?« , « Que fais-tu en ce moment ?« , des questions pour tester l’aptitude du bot à comprendre son interlocuteur. Mais à un moment, le chatbot a écrit une citation et le chercheur était en désaccord avec elle, il s’est mis à parler de sa propre expérience sur le sujet au bot, il s’est raconté sur un plan émotionnel. C’était totalement absurde mais le chercheur s’était simplement pris à la conversation. Le dialogue est lui-même un monde virtuel qui déforme même jusqu’au temps, notoirement cette différence entre le temps estimé d’une conversation et le temps réel qu’affiche votre portable.

Les arborescences de conversations

Enfin dernier point et ce n’est pas le moindre, car c’est l’arme offensive du bot, pensez à ces commerciaux qui vous appellent au téléphone pour vous vendre n’importe quoi, ils lisent des arborescences conversationnelles. Ils sont invités à ne jamais en dévier, vos réactions sont prévues, ces textes ont été étudiés pour borner toutes conversations et vous piègent dans un filet de mots.  Ce sont des attentats mentaux qui jouent sur les déficits cognitifs communs à la plupart d’entre nous. Dans le cas du bot ou d’un homme qui lit une arborescence conversationnelle, il n’y a pas deux personnes qui dialoguent, il n’y a que vous. C’est vous-même qui vous piégez.

La prochaine fois que vous parlez à votre grand-mère au téléphone, passez là en facetime, c’est plus sûr, mamie-bot pourrait bien vous vendre une assurance-vie.

 Crédit photo : Strawberry Singh