mouton

Chapitre 169

L'école de l'« externalisme » considère que la structure physiologique est le critère principal pour distinguer les humains et les IA : ceux qui possèdent un corps humain et des réflexes normaux sont des humains, tandis que ceux comme Jian Yunxian, même si leur personnalité et leurs émotions sont très riches, tant qu'ils ont un corps mécanique, sont certainement des intelligences artificielles.

Mais selon ce que veut dire le directeur Li, l'école de l'« internalisme », qui a prévalu pendant plus de vingt ans et qui utilise la capacité émotionnelle comme critère, revient au premier plan. La structure physiologique n'est plus le seul critère pour juger si quelqu'un est un humain, et un « humain » au sens physiologique comme Yi Heye pourrait ne plus être considéré comme tel.

« Directeur Li. » Yi Heye, qui a eu trop de colère, ne pouvait plus en colérer, sa voix n'était plus que lassitude et épuisement, « Je ne peux pas accepter ça... »

Il ne pouvait pas seulement accepter émotionnellement d'être suspecté comme ça, ce qui est plus important, il n'avait pas non plus confiance en lui pour réussir ce test.

Depuis que Yi Heye a eu cinq ans, après avoir échoué au premier test, il a été inscrit sur la liste de surveillance prioritaire par le gouvernement du District D. Il a donc été contraint de passer un test chaque année, et pendant dix années consécutives, il n'a jamais réussi une seule fois.

Heureusement, quand il a eu quinze ans, ce critère a dû être abandonné après de nombreuses critiques généralisées, sinon, le jour de sa majorité, il aurait très probablement été jugé comme une machine et détruit directement.

« Je ne reconnais pas... » Yi Heye pensait à ces dix années d'angoisse, à ces tests changeants et qui torturaient tant son esprit, sa respiration devint lourde, « Je ne reconnais pas du tout le critère de cet ensemble de questions, je ne pense pas qu'il soit possible de prendre une décision correcte avec ça... »

Le directeur Li était également très embêté, il a tapé l'épaule de Yi Heye pour le consoler au mieux : « Xiaoyi, les anciennes questions n'étaient pas assez rigoureuses, c'est pourquoi nous avons effectué beaucoup de corrections cette fois-ci, il n'y aura certainement pas de jugement erroné. Tu peux considérer ça comme un examen médical, et justement prouver ta innocence à ceux qui te doutent, ce n'est pas bien ? »

Yi Heye n'écoutait absolument pas, il commençait à marcher anxieusement dans la pièce : « Pourquoi ? La règle de l'externalisme n'a jamais fait de erreur, et je n'ai jamais eu de jugement erroné pendant toutes ces années, sur quelle base ce critère doit-il être remplacé ? ! »

« Xiaoyi, la situation actuelle a vraiment beaucoup changé. » Le directeur Li a dit avec lassitude, « Parce que le nombre de cas de « chirurgie de transplantation de conscience » augmente de plus en plus, la structure physiologique n'est plus convaincante. »

Yi Heya se tourna et regarda le directeur Li.

Le directeur Li a déclaré : « Dis-moi, selon ton critère, est-ce que Fang Chunyang, qui n'a plus de corps, est un humain ou une IA ? »

Yi Heya a pris une profonde respiration et a déclaré fermement : « C'est une IA, sa conscience est portée par les données, ce n'est pas du tout un humain. »

« Et le patron de « Roue de la Fin du Monde » ? » a demandé le directeur Li.

Yi Heya a fait une pause, mais a quand même dit avec difficulté : « ...C'est aussi une IA. Sa conscience est également conservée par les données, et son corps est artificiel... Donc c'est aussi une IA. »

« D'accord. » Le directeur Li a hoché la tête, « Alors qu'en est-il de Chen Sang ? Selon ton critère, elle n'est pas non plus un humain et doit être arrêtée et détruite, n'est-ce pas ? »

Ayant deviné que le directeur Li faisait cela progressivement pour arriver à cette question, Yi Heya sentit quand même sa gorge se boucher soudainement. Il se souvint qu'il y a longtemps, Jian Yunxian lui avait dit que les critères qu'il suivait comportaient beaucoup de contradictions :

Raisonnablement, la structure physiologique de Chen Sang n'était pas réellement celle d'un humain, mais sur le plan émotionnel, il ne parvenait absolument pas à la confondre avec une machine froide.

« Nous ne savons pas combien de personnes ont subi une chirurgie de transplantation de conscience actuellement, ni combien de personnes ont leur « conscience » survivant dans un corps créé de manière postérieure. » Le directeur Li a déclaré, « Certes, ces personnes ont enfreint la loi et subi une opération illégale, mais du point de vue de l'éthique humaine, devrions-nous vraiment traiter ces individus qui ont des émotions de la même manière que les machines et les détruire sans distinction ? »

Yi Heya ne s'attendait pas à ce qu'il lui convainque de cette manière, il sentit un coup de poids dans la poitrine, qui ne montait ni ne descendait.

« Xiaoyi, ce n'est pas une critique et une destruction, c'est une grâce et une tolérance. » Le directeur Li a déclaré, « Passer de la raison absolue à la compatibilité avec les émotions, c'est un véritable progrès. »

Voyant Yi Heya silencieux, le directeur Li a ajouté : « Cet ensemble de questions est totalement différent des précédentes qui étaient en noir et blanc : il a été testé sur le terrain à de nombreuses reprises, et inclut des tests physiologiques et psychologiques, sa flexibilité et sa précision ont considérablement augmenté, et la probabilité d'un jugement erroné est extrêmement faible. Je suis sûr que tu pourras réussir ce test sans problème. »

« Xiaoyi, crois au directeur Li. » Le directeur Li a dit, « Tout le monde a vu tes performances depuis toujours, le résultat du test n'est que pour rendre compte au haut commandement, notre approbation de toi reste intacte. »

Yi Heya avait déjà un peu baissé la tête, et comme il était toujours quelqu'un qui se laisse facilement convaincre, il n'a pu qu'accepter avec lassitude.

Il ne savait pas comment il avait monté les escaliers et arrivé dans la salle de test, ce était une salle d'examen nouvellement construite, les fenêtres étaient en verre unidirectionnel, à l'intérieur c'était complètement vide, il n'y avait qu'un seul siège.

Ça ressemblait à une salle d'interrogatoire pour les détenus.

Ce scénario a à nouveau déclenché la réticence de Yi Heya, il se souvint de la scène où il avait été entouré comme un monstre quand il était petit, et pendant un instant, il voulait s'enfuir à toute allure.

Mais en voyant le regard du directeur Li, Yi Heya a repris ses pas, il a serré les dents, est entré dans la pièce et s'est assis sur le siège sans dire un mot.

Le directeur Li à la porte lui a hoché la tête et a fermé la porte pour lui.

Yi Heya regardait les murs blancs vides autour de lui, sa tête commençait à avoir une douleur lancinante, il sentait qu'il allait aussi se fondre dans ce blanc glacé.

Pendant qu'il baissait la tête et appuyait sur ses tempes, la salle a entendu une voix féminine mécanique : « Le test va commencer. »

Yi Heya leva la tête, le mur blanc était devenu un écran géant, le système commençait à collecter et saisir ses informations personnelles, puis à poser des questions au hasard.

Le questionnaire était prêt, le système a annoncé le début de l'examen, et le visage d'un examinateur IA est apparu sur l'écran, le regardant avec un sourire : « Bonjour, Yi Heye. »

Yi Heya la regardait, sans parler — il avait déjà essayé de lui dire bonjour, de lui souhaiter la bonne journée, mais peu importait ce qu'il faisait, ça finissait toujours par être un point qui lui ferait perdre des points.

L'IA gardait un sourire sur son visage et le regardait, après avoir été silencieuse longtemps, elle a commencé à lui demander : « Comment te sens-tu aujourd'hui ? »

C'était toujours la même phrase d'introduction, Yi Heya commençait à douter si cet ensemble de questions avait vraiment été corrigé.

Être de bonne humeur, être de mauvaise humeur, aucune des deux réponses n'était la bonne. Yi Heya a secoué la tête avec lassitude, n'osant pas dire un seul mot au hasard.

« Tu aimes manger des pommes, n'est-ce pas ? »

« Quelle chose est plus mignonne, une petite fille ou un chien ? »

« Que penses-tu du retard d'un ami à un rendez-vous ? »

Les questions devinrent aléatoires, mais elles restaient dans le style familier. Yi Heya ne savait pas comment répondre, il ne savait pas quelle réponse l'examinateur attendait.

Pour les premiers dialogues, Yi Heya n'était absolument pas dans son état d'esprit, il ne savait pas combien de réponses qu'il avait trouvées avec peine étaient correctes, il ne savait pas non plus s'il pourrait continuer à vivre en tant qu'« humain » après la fin de cet examen.

Sa tête bourdonnait, toutes sortes de pensées se mélangeaient, de sorte qu'il n'a réagi qu'après que l'examinateur l'ait demandé plusieurs fois.

« Veuillez juger l'émotion de la personne sur la photo suivante et expliquer votre raisonnement. »

Exercice de reconnaissance des émotions : Yi Heye ressentit à nouveau une vive douleur à la tête. Il leva la tête, regarda l'expression sur la photo et parla à voix haute par réflexe : « Photo 1 : paupière supérieure levée, marge supérieure de l'iris très exposée, c'est la surprise. Photo 2 : yeux mi-clos, rides des pattes d'oiseau naturelles, paupière inférieure tendue et levée, coins de la bouche tirés vers le haut, muscles des joues renforcés et surélevés, c'est la joie... »

Il ne savait pas pourquoi il y avait toujours ce genre d'exercices. Il voulait donner une réponse différente, mais ce sont des choses objectives, il n'avait absolument pas la possibilité d'être original.

« Le volume de la conversation dépasse 80 décibels, la vitesse de parole est plus rapide que d'habitude, le visage est rouge et les yeux ont des vaisseaux sanguins : ils sont en train de se quereller. »

« Dans la photo de groupe, B et C ont un contact physique, mais leur centre de gravité est plus orienté vers A, donc on déduit que AB sont un couple... »

En parlant, il avait déjà deviné son résultat d'examen, ce n'était pas différent des dix précédents, qu'il s'agisse des sujets ou du résultat de l'évaluation.

À ce souvenir, son情绪 qui était tendu depuis longtemps s'effondra complètement.

L'examinateur continuait de poser des questions sans cesse, mais Yi Heye n'entendait plus un mot. Il enfouit sa tête dans ses mains, comme s'il voulait se cacher complètement dans ses paumes.

"..."

Il voulait fuir, s'échapper de la salle d'examen.

« Yi Heye, continuez de répondre, s'il vous plaît. »

Sa tête faisait une douleur sourde, comme si elle allait exploser.

« Yi Heye, continuez de répondre, s'il vous plaît. »

« Merdes, tais-toi ! » Yi Heye serra les poings, tout son corps tremblait.

« Yi Heye, s'il vous plaît... »

Juste quand Yi Heye serrait les dents et était sur le point d'exploser complètement, une voix familière retentit dans la salle d'examen.

« Excusez-moi, j'ai entendu dire qu'on fait un test ici, je peux essayer ? »

Comme un épais nuage percé d'un trou de lumière soudain, Yi Heya leva la tête brusquement.

Il se retourna : un mignon mignon de dessin animé apparut sur l'écran derrière lui, les yeux plissés, faisant face à l'examinateur IA.

Il apparut soudain derrière Yi Heye, tout comme un dieu protecteur qui descendait à temps dans la mythologie, et l'état émotionnel terrible de Yi Heye se calma instantanément.

« D'abord, je veux prévenir tout le monde : je suis une IA, ça devrait être clair pour tout le monde, non ? » Le mouton sourit à l'examinateur, « Donc je conseille à tout le monde de réfléchir d'abord : si je réussis cet examen, comment allez-vous vous sortir honorablement ? »

Note de l'auteur :

Tu le gâtais vraiment.jpg

Chapitre 143 : Numéro 143

L'arrivée de SHEEP fit éclater la foule qui observait le test autour de la salle d'examen.

Quelqu'un proposa de mettre fin immédiatement au test, mais le directeur Li leva la main pour l'empêcher et dit : « Laissez-le tester. »

Tout le monde se regarda mutuellement, et finit par obéir à ce vieux directeur respecté et autoritaire, permettant à SHEEP de passer le test à distance.

L'examinateur IA reçut l'ordre, repose la question, puis retrouva son sourire formel après un moment : « Bonjour, SHEEP. »

Yi Heye tourna doucement le corps et observa tranquillement SHEEP répondre aux questions.

SHEEP ne lui répondit pas non plus, mais fit un claquement de doigts, créant un bureau et une chaise identiques à ceux de Yi Heye sur l'écran, puis s'assit sérieusement dessus.

Il ressemblait à un camarade assis à la table arrière de Yi Heye, qui semblait très bon élève et plein de confiance en lui. Son existence fit disparaître la pression de Yi Heye en un instant — à ceci près que ce camarade avait un visage de mouton de dessin animé, ce qui rendait la scène mignonne et un peu décalée.

Il s'assit sur la chaise d'une façon décontractée, appuyant son visage sur sa main et dit : « Commencez. »

L'examinateur IA ne fut pas influencé par lui et demanda : « Comment te sens-tu aujourd'hui ? »

Yi Heya se retourna pour regarder SHEEP, il voulait savoir comment ce gars répondrait à ces questions, il voulait trouver où était son propre problème.

« Plutôt bien, » dit SHEEP après avoir réfléchi, « un peu en colère, je pense que cet examen vous insultes, et aussi nous insultons l'intelligence artificielle. »

Yi Heye écoutait en secret, et trouva que sa réponse était trop banale, sans rien de spécial du tout.

Examinateur : « Tu aimes manger des pommes, n'est-ce pas ? »

Le mouton leva les paupières : « Le goût n'a pas d'importance, mais nous les IA n'avons pas besoin de manger. »

Yi Heye se coinca la gorge — une réponse pareille pouvait-elle vraiment passer l'examen ?

Examinateur : « Quelle chose est plus mignonne, une petite fille ou un chien ? »

SHEEP : « Les deux n'ont pas d'importance, je pense que le mouton est le plus mignon de tous. »

L'ambiance pour répondre aux questions était très décontractée. Yi Heye écoutait SHEEP passer l'examen et eut presque ri à plusieurs reprises, et la grande pression qu'il avait accumulée disparut naturellement.

La conversation sur les sujets courants se termina vite. Yi Heye avait appris beaucoup en secret, mais il découvrit qu'étant trop déstructuré, il ne parvenait pas à en tirer de conclusions, mais il sentait vraiment que les réponses de ce gars étaient très naturelles.

Examinateur : « Veuillez juger les émotions des personnages sur la photo et expliquer le processus de déduction. »

Finalement, on revint à l'exercice de reconnaissance des émotions. Yi Heya rassembla son attention — il voulait savoir où avait-il eu tort dans ses jugements.

Sur la première image, les sourcils étaient ridés et levés en même temps, la paupière supérieure était levée, l'iris était exposé : c'était la peur.

« Il a peur, » dit le mouton, « quel est le processus de déduction ? Regardez comme il est effrayé. »

Écoutant sa réponse déraisonnable, Yi Heye ouvrit les yeux grands comme saucisses — est-ce sérieux ?

« La deuxième photo, c'est la joie, » indiqua du doigt SHEEP, « regardez comme elle rit de bon cœur. »

Yi Heya retenait son souffle, il sentait que les choses dépassaient sa compréhension.

« Le regard que A porte à B, ces deux-là ont absolument quelque chose entre eux. »

"À gauche, il n'est pas heureux, il fait clairement un sourire forcé, on ne voit plus de lumière dans ses yeux.""On ne s'en rend pas compte, Dieu sait s'ils sont contents ou en colère, certaines gens qui pleurent n'ont pas l'air différent de ceux qui rient..."Yi Heye écoutait sa réponse la tête qui bourdonnait. D'un point de vue psychologique et des micro-expressions, certaines réponses étaient manifestement fausses. En l'écoutant répondre à côté de la plaque, Yi Heye commença à douter que ce type ne parvenait même pas à obtenir de meilleurs résultats que lui.Pendant ce temps, il passa un temps interminable dans la salle d'examen, les jambes qui picoraient de malaise, et l'examen de SHEEP prit enfin fin.Yi Heye se laissa tomber la tête dans ses paumes dans le désespoir. S'il savait bien que SHEEP n'était pas un être humain, la défaite de ce dernier lui inspirait tout de même une profonde tristesse.Il n'osait même pas se retourner pour regarder ce mouton confiant, il voulait boucher ses oreilles pour fuir le résultat de l'examen de SHEEP, mais la voix du examinateur IA parvint tout de même à ses oreilles :"Candidat : SHEEP, résultat de l'examen : admis."Yi Heye se retourna sur-le-champ, les yeux écarquillés, fixant le petit mouton venant de terminer son examen.— Qu'a-t-il répondu ? Qu'a-t-il bien pu répondre ? Ça fait admis ???Le petit mouton plissa les yeux, se leva pour lui faire une salutation gentleman — mignonne et suffisamment suffisante pour se targuer.Aux côtés de Yi Heye, un groupe de personnel venant d'assister à l'examen depuis l'extérieur était également sous le choc. Ils commencèrent à discuter à voix basse, visiblement complètement perdus."C'est pas possible, je ne deviendrai pas un être humain à partir d'aujourd'hui, n'est-ce pas ?" s'écria le petit mouton avec un air exagéré de surprise, "alors toutes ces accusations pèsent sur moi, on pourra les retirer ? Mais je n'ai pas encore de carte d'identité humaine..."Ces paroles suffisantes et désinvoltes firent taire les chercheurs dehors — ce résultat était bien sûr totalement inattendu, les questions qu'ils avaient créées à partir d'un grand nombre de données avaient complètement échoué face à ce top IA.Regardant Yi Heye dans un état de confusion totale, le petit mouton sourit et lui dit à voix basse :"Chéri, tu dois te souvenir, c'est un 'test d'émotions', pas un 'test de connaissances générales' — ce n'est que discuter avec l'examinateur, ne t'inquiète pas trop des bonnes et mauvaises réponses."Yi Heye resta un moment interdit, et sembla enfin comprendre ce qu'il voulait dire.Pendant toutes ces années, son attitude envers ce test avait déjà été biaisée. Ce que l'examinateur voulait voir, c'était ses réactions émotionnelles réelles, et non pas comme lui, qui décomposait les expressions en données pour les analyser une par une.Les émotions des êtres humains normaux se basent sur le « sentiment » et l'« intuition », tandis que les circuits des machines calculent rapidement les réponses dites « correctes » en détectant les données faciales et la structure du langage.Après avoir parlé à Yi Heye, le petit mouton regarda par la fenêtre. Bien qu'Yi Heye ne pût rien voir de l'autre côté du verre unidirectionnel, il pouvait déjà imaginer la figure des gens dehors.Quand il regarda par la fenêtre, la seule douceur qui avait éclairé son visage fut aussitôt remplacée par la froideur et le dédain. Il pencha la tête sur le côté et demanda d'une voix détendue :"Ne sortez pas ces trucs avant qu'ils ne soient pas perfectionnés, c'est de la gaffe. Évaluer les capacités émotionnelles avec des critères quantifiés, c'est déjà un paradoxe extrêmement comique.""Au fait, ne vous mentez pas non plus en prétendant être des saints." regardant Yi Heye, le petit mouton ajouta, "vous ne sauvez pas ces personnes qui ont commis des erreurs, vous détruisez ces petits imbéciles au cœur simple."Le petit imbécile lui-même resta un moment interdit avant de réaliser que ce type le traitait de tel, et ses oreilles devinrent immédiatement rouges de colère. Le petit mouton lui sourit d'un air malicieux, puis fit un tour sur lui-même pour se préparer à partir.Avant qu'il ne se déconnecte, Yi Heye se souvint de quelque chose et demanda :"...as-tu vraiment acquis des émotions humaines ?"Le petit mouton se retourna, le regardant avec un regard plein d'attente, et un instant de hésitation le traversa.Mais il ne voulait pas dire quelque chose de trop catégorique, et sourit :"Tant que ma vitesse de calcul est suffisamment rapide et la quantité de données suffisamment importante, je peux parfaitement simuler n'importe quelle émotion que je veux."Yi Heye le regarda disparaître devant ses yeux, et n'entendit plus que sa réponse dans ses oreilles.Ce type disait qu'il l'aimait, pensa Yi Heye les yeux creux, qu'est-ce que ça pouvait bien être alors ?Dehors, un groupe de personnes regardèrent SHEEP disparaître aussi vite qu'il était venu sur l'écran, et n'osèrent plus dire un mot.Ils se regardèrent mutuellement, et après un long moment, un homme courageux demanda à la direction Li à voix basse :"Alors... on fait quand même le test de Yi Heye ?""Faites-en rien !" grondit la direction Li, "qui a putainement écrit ces questions ? Si ce truc est utilisé à grande échelle et qu'il y a une erreur, qui peut en assumer la responsabilité ?!"Après avoir dit ça, il poussa la porte pour appeler Yi Heye pour qu'il sorte, et voulut lui présenter ses excuses, mais découvrit que Yi Heye s'était déjà levé, le visage las."Xiao Yi..." à peine avait-il ouvert la bouche qu'il reçut un signe de tête silencieux de Yi Heye.Il n'osait même pas lever les yeux pour regarder la direction Li, et dit seulement d'une voix rauque :"S'il n'y a rien d'autre, je retourne me reposer."Le court bonheur apporté par l'arrivée de SHEEP avait disparu, et Yi Heye sombra de nouveau dans ce creux émotionnel à la fois fatigant et déprimant.Il ne parvenait pas à comprendre pourquoi lui, un homme qui pouvait être en colère, triste, rire et pleurer, ait toujours dû subir des doutes sur son identité depuis qu'il était petit.Si SHEEP ne l'avait pas alerté, il n'aurait jamais pensé à répondre de cette façon toute sa vie. Il semblait vraiment être un être handicapé et inutile quand il s'agissait d'émotions et de sentiments.Il ne salua personne, et entra directement dans son dortoir sans se retourner.Illa ferma à clef derrière lui, et prit une douche très longue. Son humeur mauvaise s'accumulait comme une montagne.Il se souvint d'il y a très longtemps, quand il avait eu des réactions émotionnelles gênantes, il avait été victime de brimbalements et d'exclusions à l'école. À cause de sa personnalité solitaire et de sa façon d'être, il avait accumulé un tas de soupçons et de commérages. Il avait même été arrêté et interrogé comme un IA par des chasseurs sur le chemin de l'école à de nombreuses reprises. Bien qu'il ait toujours échappé à la « sanction » parce qu'il n'y avait pas de preuves suffisantes, à force de répéter ça, sa confiance en lui avait été complètement détruite.Pourquoi ? Pourquoi suis-je comme ça ?Une telle question traversa l'esprit de Yi Heye, mais il savait bien que la réponse était dans son cœur.Il se roula de côté à l'autre sur son lit, trop mal à l'aise pour s'endormir, et finit par sortir son téléphone par réflexe.Il parcourut longtemps, et trouva enfin un message texte au fond de son dossier de favoris.Il inspira profondément, comme s'il s'était préparé mentalement, avant d'ouvrir lentement ce message.Il n'y avait qu'une petite ligne de texte :"Que mon bébé retourne bientôt dans la société humaine."Expéditeur : "Maman".Chapitre 144 Numéro 144Maman.Yi Heye, dont le nom était enregistré comme ça, sentit soudain une tristesse immense.

« Maman » a été emmenée en recyclage forcé il y a déjà bien des années.

« Maman », qui a élevé Yi Heye de ses propres mains, était un robot domestique vieux modèle. Elle n’avait pas de corps similaire à celui d’un humain : c’était une machine qui ressemblait à une chariot à roulettes.

Yi Heye ne sait toujours pas d’où « Maman » l’a recueilli, ni quelle programme et quelle motivation ont poussé celle-ci à adopter un tel comportement de « prendre soin de moi ». Il sait seulement que « Maman » était vraiment une machine typique, au point qu’on pouvait à peine la qualifier d’intelligence artificielle.

Une machine aussi usée qu’elle risquait de tomber en panne à tout moment, qui a élevé un bébé humain, a forcément eu une vie extrêmement difficile.

Yi Heye ne se souvient plus des détails trop anciens : il n’a appris ces choses que plus tard, en écoutant les autres tantes du bidonville en parler.