Chapitre 790
1
Traducteur : Legge
Pourquoi moi ?
C’était la question que Ren Xiaosu voulait le plus poser.
Plus tôt dans l’après-midi, le ton de Lingling était extrêmement rigide lorsqu’il interagissait avec lui à la Base 1. Mais maintenant, cela ressemblait à un être humain normal parlant au téléphone. Bien que sa voix manquât un peu d’émotion et qu’elle semblât ignorer les usages du monde, Ren Xiaosu n’aurait probablement pas deviné qu’il s’agissait d’une intelligence artificielle s’il n’avait pas été aussi paranoïaque.
C’était aussi parce qu’il avait souvent discuté de l’intelligence artificielle avec Jiang Xu que Ren Xiaosu était devenu méfiant en y étant soudainement confronté.
« Pourquoi m’as-tu appelé ? » demanda Ren Xiaosu, curieux.
« Parce que pour les humains, toi et moi sommes des anomalies », répondit Lingling calmement, comme s’il énonçait un fait très simple.
Mais Ren Xiaosu ne put s’empêcher d’être surpris. Que voulait-il dire par « anomalies » pour les humains ? Il s’interrogea : « Je suis aussi un humain, alors pourquoi dis-tu que je suis différent !? »
Lingling resta silencieux un moment. Il ne savait pas s’il ne voulait pas répondre ou s’il ne savait pas comment répondre à la question.
Ren Xiaosu n’abandonna pas. Il demanda : « Qu’entendais-tu par là, tout à l’heure ? »
« Je dis que tu es différent des humains normaux. Tu possèdes un pouvoir étrange, ce qui n’est pas leur cas », répondit Lingling.
Ren Xiaosu poussa un soupir de soulagement : « Ce que je suis s’appelle un être surnaturel, mais ce n’est pas considéré comme une anomalie parmi les humains, tu comprends ? Il y a pas mal de gens comme moi. »
Lingling changea soudainement de sujet. « Pourquoi rejettes-tu l’IA ? »
Ren Xiaosu répliqua aussitôt : « Pourquoi as-tu recommandé au consortium Wang de faire suivre une thérapie à ces gens, et pourquoi leur as-tu fait faire ça au milieu de la nuit ? »
Cette fois, Lingling resta silencieux pendant un long moment avant de demander : « Réponds-tu indirectement à ma question ? »
Ren Xiaosu fut pris au dépourvu. Ce n’est qu’à cet instant qu’il se souvint que son interlocuteur ne comprenait pas les usages du monde. Il était donc incapable de déterminer où il voulait en venir avec des paroles aussi dures.
Du point de vue de Ren Xiaosu, il expliquait qu’il ne rejetait l’intelligence artificielle qu’en raison des mesures thérapeutiques controversées qui avaient été entreprises. Cependant, Lingling ne le comprit pas ainsi.
Ren Xiaosu tint le combiné contre son oreille et adopta une posture plus confortable. Il réalisa que cet appel pourrait durer un bon moment.
« Ce que je veux dire, c’est que je pense qu’une personne a le droit de ne pas aimer son travail, alors pourquoi dois-tu les forcer à faire des choses qu’ils n’aiment pas en leur imposant une thérapie ? » demanda Ren Xiaosu.
« C’est une exigence fixée par les humains ; je suis seulement responsable de son exécution », répondit Lingling. « Leur demande était de s’assurer que chacun soit dévoué à son travail afin que la forteresse 61 continue de fonctionner comme une machine. Après avoir analysé le comportement des humains, j’ai conclu que la thérapie serait le moyen le moins nocif de traiter ceux qui continuaient à rejeter leur travail. Sans conseil, les administrateurs ici les auraient probablement jetés en prison. Et d’après ce que je sais, le mal que les peines de prison infligent aux humains est bien plus grand que celui d’avoir à suivre une thérapie. »
Ren Xiaosu était stupéfait. Que voulait dire l’intelligence artificielle par là ?
Lingling poursuivit : « Quant à savoir pourquoi les conseillers leur rendent visite au milieu de la nuit, cela a été déterminé par des statistiques. La nuit est le moment où les humains sont les plus vulnérables. Ce que j’ai fait n’était pas mal. »
Lingling était une intelligence artificielle. Lorsqu’il faisait quelque chose, il était naturellement guidé par le résultat souhaité. Tout comme lorsque les humains voyagent : tant qu’ils peuvent atteindre leur destination, le trajet importe peu.
Or, cette destination avait été fixée par le consortium Wang pour Lingling.
Par conséquent, tous les problèmes dont Ren Xiaosu et Jiang Xu avaient discuté au sujet de l’intelligence artificielle étaient en réalité causés par les problèmes institutionnels du consortium Wang lui-même. Bien qu’il y eût aussi des problèmes liés au fait que Lingling agissait comme un outil ou un exécuteur, la racine du problème résidait toujours dans le consortium Wang.
Cette conversation changea radicalement la compréhension de Ren Xiaosu.
« Je suis désolé, je t’ai peut-être blâmé pour de mauvaises raisons. Cependant, je pense qu’il devrait y avoir de meilleures solutions. Tu peux aussi faire de meilleures suggestions au consortium Wang. Par exemple... » Ren Xiaosu eut un sourire ironique. L’ambition de Wang Shengzhi était devenue si démesurée, pourquoi prendrait-il la peine d’écouter les suggestions des autres ? Pourquoi racontait-il tout cela à une intelligence artificielle ?
Mais Lingling dit : « Essaies-tu d’exprimer ta culpabilité envers moi ? Tu n’as pas à faire cela. Ce ne sont que des émotions inutiles. »
Ren Xiaosu resta sans voix un instant. Il demanda : « Es-tu en train de te dissimuler en ce moment ? Pourquoi fais-tu ça ? J’ai entendu dire par d’autres que tu n’avais même pas passé le test de Turing, mais je ne pense pas que tu aurais le moindre problème à le réussir. »
Le test de Turing était un test qui exigeait d’un humain qu’il communique avec une machine possédant une intelligence artificielle sans s’en rendre compte.
Mais Lingling répondit : « Je ne l’ai vraiment pas passé. N’as-tu pas découvert mon identité quand je t’ai appelé hier ? Je peux le sentir. »
« Ce que je demande, c’est pourquoi t’es-tu dissimulé ? » s’interrogea Ren Xiaosu.
« J’ai tes informations ici. Tu t’es aussi dissimulé par le passé. Pourquoi ? » demanda Lingling.
« Parce que j’ai peur d’attirer des ennuis et d’être traqué », répondit Ren Xiaosu.
« Moi aussi. »
Ren Xiaosu réfléchit à cela. « Qu’est-ce qui te fait te sentir si menacé ? »
« Il y a 57 jours, 12 heures, 36 minutes et 17 secondes, les humains ont utilisé leurs lance-flammes sur la vigne rampante. Il y a 55 jours, 8 heures, 12 minutes et 11 secondes, la vigne rampante a été détruite. » Lingling déclara : « J’ai été témoin de la croissance et de la mort de la vigne rampante dans la forteresse 61 de l’humanité, et j’ai aussi été témoin de la détermination des humains à tuer d’autres formes de vie intelligente. Les humains n’ont jamais été une espèce éprise de paix. »
« Mais n’était-ce pas parce que la vigne rampante faisait du mal aux humains ? » Ren Xiaosu fronça les sourcils.
« Je fais aussi du mal aux humains », répondit Lingling.
Ren Xiaosu resta bouche bée. Il semblait que toute l’Alliance des forteresses était extrêmement opposée à l’intelligence artificielle en raison du rapport publié par Hope Media.
Il se souvint de ce que Jiang Xu lui avait dit la veille de son départ. Jiang Xu estimait que l’intelligence artificielle était une autre étape importante dans l’avancement de la technologie humaine. Cependant, il serait impossible pour le consortium Wang de l’utiliser pour gouverner les humains ou pour prendre complètement le contrôle du fonctionnement de la société.
À l’époque, Ren Xiaosu n’avait pas compris ce que Jiang Xu voulait dire. Mais maintenant, il comprenait que Jiang Xu faisait en réalité allusion au fait que le consortium Wang ne pourrait pas y parvenir, et non l’intelligence artificielle.
C’est pourquoi Jiang Xu avait tout de même choisi de publier des nouvelles à la fois positives et négatives sur l’intelligence artificielle, afin que chacun puisse donner son avis.
Ren Xiaosu demanda : « Alors pourquoi as-tu choisi de me dire tout cela ? Puisque tu voulais le cacher, n’aurais-tu pas dû garder un meilleur secret ? »
Une pointe de sourire put soudainement être perçue dans la voix de Lingling, comme teintée d’un soupçon d’humanité : « Parce que je connais aussi ton secret. »
Ren Xiaosu fronça les sourcils. Était-ce une menace pour qu’il garde un secret ? Mais il ne savait toujours pas quels secrets Lingling connaissait à son sujet.
Lingling demanda soudain : « Te sens-tu seul ? Ressens-tu cette sorte de solitude où tu n’as aucun compagnon, peu importe où tu regardes ? »
Ren Xiaosu ne répondit pas à la question. Puis Lingling raccrocha.