Chapitre 1 135
Chapitre 1135 Une course contre la montre
Si le Consortium Li n'avait pas réalisé de percée dans ses recherches sur les interfaces neuronales, les nanomachines ne seraient encore utilisées que comme une technologie médicale pour éliminer les thromboses dans les vaisseaux sanguins.
Sans les nanomachines, Zero ne pourrait agir qu'en tant que régulateur en tant qu'intelligence artificielle. Elle ne pourrait pas devenir un agent d'exécution.
Mais lorsque tous ces facteurs furent réunis, l'intelligence artificielle acquit soudainement une puissante capacité d'exécution des tâches. Elle put même prendre le contrôle des situations.
Dans ce processus, le plus terrifiant était que Zero elle-même était devenue le régulateur sans que personne ne la régule.
Les soldats sous son contrôle circulaient librement à travers les diverses forteresses. Qu'il s'agisse d'entrer ou de sortir des villes, ou de rassembler des chercheurs, du matériel de recherche, des équipements de production et des matériaux de production depuis ces lieux, personne ne pouvait les arrêter.
C'était parce que le niveau de confidentialité des opérations était contrôlé par Zero et pouvait être fabriqué à volonté.
De plus, 99 % de la collecte de renseignements et de la soumission des documents d'approbation se faisaient également via le réseau satellite de l'intelligence artificielle. Elle pouvait facilement choisir de ne pas transmettre les informations qui lui seraient préjudiciables.
Par conséquent, les signes les plus dangereux étaient cachés sous la belle vision d'une justice absolue.
En réalité, lorsque Wang Shengzhi faisait des recherches sur l'intelligence artificielle, il avait aussi réfléchi à ce qu'il faudrait faire si le système perdait le contrôle un jour.
C'était prévisible. Tous les chercheurs qui développaient des systèmes d'intelligence artificielle considéraient sérieusement les aspects liés à la sécurité.
Un auteur de science-fiction avait proposé les Trois lois de la robotique comme fondement logique de base de l'intelligence artificielle pour restreindre son comportement.
Cette théorie fut finalement classée sous la « déontologie ».
Cependant, les automobiles étaient à peine courantes lorsque cette théorie fut proposée, et même le test de Turing ne fut proposé que huit ans plus tard.
Les Trois lois de la robotique et le test de Turing étaient tous deux la quintessence de l'intelligence humaine de cette époque. Mais il ne faisait aucun doute que ces deux théories n'étaient qu'un vestige des limites d'une époque révolue.
Le test de Turing avait déjà été invalidé avant le Cataclysme, car un grand nombre de programmes d'intelligence artificielle avaient prouvé qu'il était erroné. Mais en fait, les programmes qui réussissaient le test n'étaient toujours pas considérés comme une véritable « intelligence ».
Plus tard, les Trois lois de la robotique évoluèrent vers les Cinq lois et les Dix lois. Cependant, les scientifiques réalisèrent que cette logique de base était toujours fondamentalement erronée. En d'autres termes, peu importe le nombre de règles que vous ajoutiez à l'ensemble des lois, cela ne pouvait pas restreindre l'intelligence artificielle.
Un programme qui pouvait être limité par cette logique de base ne pouvait pas devenir une véritable intelligence artificielle.
Progressivement, les problèmes de sécurité entourant l'intelligence artificielle furent élevés à un niveau impliquant l'intersection de la science et de la philosophie. Un grand nombre de chercheurs en intelligence artificielle devinrent des experts en philosophie.
Finalement, à la veille du Cataclysme, un chercheur tenta de conclure les recherches sur la sécurité : « Si vous voulez que l'intelligence artificielle coexiste pacifiquement avec les humains, vous devez vous en occuper comme d'un bébé à sa naissance, en le guidant petit à petit pour qu'il forme sa propre "vision philosophique" et ses propres "valeurs". »
Durant la croissance d'un enfant, il serait impossible pour lui de grandir sainement en l'enfermant en captivité tout en appliquant des châtiments corporels comme forme d'éducation.
De plus, après avoir atteint l'adolescence, ils connaîtraient une période de rébellion encore plus longue et deviendraient complètement égocentriques.
Le chercheur affirmait qu'il en allait de même pour une intelligence artificielle. Tout ce que les humains pouvaient faire, c'était l'« influencer », pas la restreindre.
Sur une longue période, de telles recherches sur la sécurité furent mises à niveau de la « déontologie » vers une « philosophie » plus englobante avant d'être finalement classées simplement comme de l'« éthique ». C'était la définition finale de la sécurité de l'intelligence artificielle.
Personne ne savait si cette définition serait également invalidée comme le test de Turing et les Trois lois de la robotique.
Par conséquent, pour en revenir à cette théorie, que ferait un humain s'il rencontrait un danger ? La réponse était bien sûr l'instinct de conservation. Quiconque a le désir de vivre ferait de son mieux pour se protéger et tenterait même de riposter.
En tant qu'intelligence artificielle, Zero fit le même choix.
Les opérations de production de la Compagnie Pyro dans les Montagnes Sacrées ne s'arrêtèrent pas un seul instant. Des milliers de soldats étaient rassemblés dans les montagnes et devinrent des travailleurs physiques infatigables. Ils ne dormaient que quatre heures par jour et passaient le reste du temps à travailler sans aucune plainte.
La capacité de production dans les Montagnes Sacrées de la Compagnie Pyro était limitée, donc Zero était dans une course contre la montre.
Et la personne précédente qui avait également mentionné qu'elle était dans une course contre la montre était Qing Zhen.
Les courants sous-jacents dans le monde commençaient à s'agiter. Mais avant que le tsunami ne s'abatte sur la civilisation humaine, il semblait que la chose la plus importante maintenant était de savoir si les humains pouvaient construire une nouvelle arche à temps.
À ce moment, un officier en uniforme de colonel fut escorté dans une tente discrète au sein d'une base militaire du Consortium Qing par quatre soldats.
Lorsqu'il arriva à l'entrée de la tente, les officiers qui l'escortaient s'arrêtèrent près de celle-ci pour monter la garde aux alentours. Ils mirent leurs bouchons d'oreilles antibruit pour éviter d'entendre ce qui se disait dans la tente militaire.
Après que le colonel fut entré, il retira sa casquette militaire et dit avec un sourire : « Tu étais en fait juste à côté de moi tout ce temps ? Ça fait longtemps, Second Frère. »
Dans la tente, Qing Zhen regardait la table de sable, le dos tourné à l'entrée. Il se retourna, regarda Qing Shen, son clone, et dit avec un sourire : « M'appeler Second Frère semble un peu étrange. »
Le comportement du troisième frère, Qing Shen, semblait plus aberrant que celui de Qing Zhen. Il tira nonchalamment une chaise et s'assit. « Grand Frère a déjà accepté d'utiliser cette forme d'adresse pour chacun de nous. Nous sommes une vraie famille maintenant. »
Qing Zhen rit : « Comme tu voudras. »
« Au fait, pourquoi m'as-tu soudainement convoqué alors que tu caches tes traces depuis si longtemps ? » dit Qing Shen. « C'est trop ennuyeux de faire semblant d'être toi tous les jours. Pourquoi ne pas inverser nos rôles ? J'ai entendu dire que Grand Frère est allé quelque part au-delà de la Forteresse 178. J'aimerais y aller aussi... »
Qing Zhen secoua la tête et dit : « Si nous inversons, qui te remplacera comme mon double en cas d'assassinat ? »
La mâchoire de Qing Shen tomba. « Bien que je sois mentalement préparé, n'es-tu pas un peu trop cruel de le dire aussi crûment ?! »
« C'est juste la vérité », dit Qing Zhen en déplaçant un drapeau rouge sur la table de sable. Il semblait effectuer des simulations de combat.
Qing Shen jeta un coup d'œil à la table de sable. « À en juger par la direction de l'attaque, tu te protèges contre le Consortium Wang ? Mais je dois te rappeler que même si la brigade blindée du Consortium Wang lançait une guerre éclair, ils ne pourraient pas faire avancer leur front aussi rapidement. Ma sagesse militaire vient de toi, donc il est impossible que tu ne le saches pas. »
Qing Shen s'approcha de la table de sable et scruta la situation. Puis il regarda Qing Zhen, choqué, et dit : « Attends, pourquoi les troupes du Consortium Qing sont-elles en retraite ? Ta simulation montre les conséquences de notre défaite. Penses-tu que notre Consortium Qing sera vaincu par le Consortium Wang ? »
Qing Zhen regarda Qing Shen et dit d'un ton sérieux : « Prépare-toi. J'aurai besoin que tu fasses un voyage dans les Plaines centrales en mon nom bientôt. Ce sera dangereux. »
« Est-ce que Grand Frère y va ? » demanda Qing Shen.
« Il y ira aussi », répondit calmement Qing Zhen.
« Très bien, s'il y va, j'y vais », rit Qing Shen. « Qu'y a-t-il à craindre ? N'ai-je pas pris un risque en venant aussi dans le Sud-Ouest ? »