Ma mère la machine : identités troubles dans Neuromancer, de William Gibson

Les artifices de l’intelligence empruntent des chemins détournés. L’âme est une métaphore. L’ordinateur, une machine métaphorique. La métaphore, cette boucle de rétroaction poétique, court-circuite la transparence, échappe à son objet et propose des voies détournées pour y revenir. Tant que nous serons humains, nous vivrons avec des images plus ou moins fidèles de nous-mêmes. La conscience cherche sans cesse à se reconnaître en dehors d’elle-même. Dans l’âme ou la machine. Qui sommes-nous sans elles? Qui avec elles? Je me permets ici, m’abandonnant à un mouvement réflexe, d’en conclure qu’il n’y a de sujets ou d’objets qu’hybrides, que toute métaphore est impure, que l’erreur est humaine, et que les machines le sont aussi.

Daniel Canty, « Boîte noire, bruit blanc, fumée »

Atteints d’un vertige passager, nous voilà plongés dans un univers où les frontières progressivement s’estompent, où le biologique et le synthétique se courtisent quotidiennement. Des machines dotées de facultés d’analyse poussées, surpassant en certains domaines celles de l’humanité, côtoient des humains dont les fonctions vitales ont été rétablies par des organes mécaniques; l’identité des êtres et des choses se trouble…

C’était en 1984. L’« année d’Orwell ». L’ordinateur Macintosh venait tout juste d’être lancé par la compagnie Apple. Le réseau qui allait devenir Internet était toujours à l’état embryonnaire. Et déjà, dans son roman Neuromancer, William Gibson mettait de l’avant un univers dans lequel les humains et les machines se rapprochent de façon troublante; dans lequel la conscience n’est plus l’apanage de l’humanité; dans lequel la machine, comme l’humain, peut être atteinte de démence.

La folie, perçue d’un point de vue clinique comme une « altération plus ou moins grave de la santé psychique » (Le Robert), peut également se concevoir comme une expérience essentiellement ambiguë, qui « résume la dualité fondamentale de la nature humaine, déchirée entre la passion de la démesure et la sagesse de la raison » (Nevert, 1993, p. 14). Habituellement contradictoires, ces deux perspectives — l’une médicale et l’autre romantique — se rejoignent en ce qu’elles sous-entendent, chez le fou, un psychisme préexistant, que l’expérience de la folie viendra aliéner ou libérer, c’est selon. Une telle vie psychique n’est d’ordinaire pas concédée à la machine.

Or, le roman de Gibson met en œuvre un double mouvement qui brouille les frontières entre le biologique et le synthétique, entre le vivant et l’inanimé : l’humanité y acquiert des attributs propres à la machine, tandis que l’ordinateur accède à la faculté de réflexion. À partir du moment où le comportement d’une machine est assez similaire à celui de l’humain pour qu’elle soit accusée de démence, les catégories habituelles tiennent difficilement. Ainsi, la folie de la machine, dans le roman de Gibson, est en fait symptomatique d’une accession de cette machine à l’individualité; elle ouvre la voie à un questionnement sur la nature même de l’intelligence artificielle.

L’ère du cyborg

Au sein de l’univers imaginé par Gibson, la technologie occupe une place centrale dans la vie humaine; le développement technologique, qui permet d’assurer la domination sur son prochain, y devient en effet une vertu en soi. Souffrant d’un déséquilibre inhérent, cet univers s’énonce comme une folle expérience portant sur le darwinisme social, doctrine où prime le chacun pour soi : « Night City was like a deranged experiment in social Darwinism, designed by a bored researcher who kept one thumb permanently on the fast-forward button. » (Gibson, 1984, p. 7.) Ce monde au rythme accéléré ne peut se permettre d’attendre les nouvelles percées technologiques : il faut forcer le jeu. Face à ce culte du progrès, la vie humaine n’a que relativement peu d’importance. Le développement de la machine a en fait acquis un tel prestige qu’on envoie des humains au massacre dans le simple but de tester les dernières avancées en matière d’armement :

In the bunkers, all of that… great scandal. Wasted a fair bit of patriotic young flesh in order to test some new technology. They knew about the Russians’ defenses, it came out later. Knew about the emps, magnetic pulse weapons. Sent these fellows in regardless, just to see. (Ibid., p. 35.)

Dans cette recherche incessante de nouvelles technologies, l’accent se déplace de l’humanité vers la machine, et des vies humaines sont sacrifiées pour tester les nouveaux joujoux développés : l’outil créé par l’homme passe ainsi de moyen à finalité.

Marqué par l’importance accordée à la machine, l’humain doit alors faire face à sa propre mécanisation. Sur un plan d’abord strictement physique, l’humain dans Neuromancer se rapproche de la machine, en raison des nombreux accessoires qui lui sont greffés; il devient ainsi un cyborg1. Pouvant atteindre divers degrés d’avancement, cette mécanisation du corps humain provient, au départ, d’un désir de pallier des infirmités, autrement dit de rétablir le bon état de la machine humaine. Comme pour un ordinateur dont il faudrait remplacer une pièce défectueuse, l’objectif est de ramener des fonctions perdues, par exemple par le recours à un bras synthétique : « Ratz was tending bar, his prosthetic arm jerking monotonously as he filled a tray of glasses with draft Kirin. » (Ibid., p. 3.) Ce retour à l’usage normal du corps humain se double rapidement d’un désir d’améliorer les fonctions retrouvées, et d’en ajouter de nouvelles2. À défaut de pouvoir être remplacé par un modèle dernier cri, le corps est remanié. Grâce à ces modifications corporelles, des facultés étrangères à l’humain sont alors développées, qui permettent d’améliorer sa vision nocturne ou encore de le rendre résistant à la drogue, quand les motifs du remodelage ne sont pas de nature purement esthétique.

Le remaniement du corps dans Neuromancer ne se limite pas au perfectionnement d’organes déjà présents. De nouvelles pièces sont également greffées à l’humain pour lui adjoindre des fonctions, comme on ajoute des fonctionnalités à un ordinateur en lui rattachant des accessoires. Symptôme d’un déplacement du point focal au profit de l’outil, ces fonctions tiennent parfois plus du gadget que de l’amélioration réelle, note d’ailleurs Case, le protagoniste du roman : « [The flesh exhibited] was tattooed with a luminous digital display wired to a subcutaneous chip. Why bother with the surgery, he found himself thinking, […] when you could just carry the thing around in your pocket? » (Ibid., p. 14.) À contre-pied de cette inanité, les implants ouvrent pourtant la voie à la possibilité de libérer des facultés quasi surhumaines. Grâce à des puces électroniques reliées à son cerveau, le cyborg dans Neuromancer a ainsi la capacité de devenir instantanément savant, accédant sur demande à des informations numérisées :

[Smith] was the first person the Finn had known who’d “gone silicon” — the phrase had an old-fashioned ring for Case — and the microsofts he purchased were art history programs and tables of gallery sales. With half a dozen chips in his new socket, Smith’s knowledge of the art business was formidable, at least by the standards of his colleagues. (Ibid., p. 73.)

Quand un être biologique se dote d’une telle mémoire automatisée, renouvelable à souhait, la limite entre l’humain et la machine se révèle encore plus difficile à cerner.

Qu’elles rétablissent des fonctions perdues ou qu’elles en permettent de nouvelles, les pièces ajoutées à l’humain s’avèrent souvent indissociables de l’être, au même titre que les organes d’origine3. Au terme du passage de l’humain au cyborg, l’identité de l’individu devient résolument trouble. En fait foi l’indétermination entourant l’être qui survit à Dixie : il n’est plus qu’une copie faite de mémoire ROM, pourtant il agit presque à l’identique du Dixie initial. Par la ressemblance de ses réactions avec celles d’un humain normal, ce personnage hybride provoque le malaise, d’autant plus que celui qui lui a servi de modèle est décédé : « It was disturbing to think of the Flatline [Dixie] as a construct, a hardwired ROM cassette replicating a dead man’s skills, obsessions, knee-jerk responses. » (Ibid., p. 76-77.) À la fois trop familier et pourtant étranger, ce calque de Dixie possède un rire inexplicablement dérangeant, déroutant en fait, comme le serait celui d’un spectre : « When the construct laughed, it came through as something else, not laughter, but a stab of cold down Case’s spine. » (Ibid., p. 106.) À force d’acquérir de nouvelles caractéristiques, le vivant est ici devenu à peu de choses près méconnaissable, mécanisé jusqu’au point de non-retour par une utilisation inconsidérée de la technique.

Le rapprochement de la machine vécu par l’humain n’est cependant pas que physique. Dans Neuromancer, une utilisation soutenue de la technique modifie les modes de pensée de l’usager, qui en vient à s’adapter à ce nouveau partenaire. L’adaptation se fait toutefois au détriment de facultés foncièrement humaines, d’où le manque d’imagination attribué à ces jockeys qui travaillent dans le cyberespace : « “Jockeys all the same,” [Molly] said. “No imagination.” » (Ibid., p. 95.) L’imaginaire de Case — lui-même traité de jockey par Molly, sa partenaire — est d’ailleurs totalement colonisé par son utilisation de la technique. Cette influence le suit jusque dans ses rêves, qui se terminent en arrêts sur image, comme un film qu’on aurait interrompu ou un ordinateur dont l’écran afficherait une image figée : « Case’s dreams always ended in these freezeframes […]. » (Ibid., p. 29.) À force de fusionner son corps avec la machine pour parcourir le cyberespace, l’humain s’adapte ainsi à la technique qu’il utilise, et en vient à lui ressembler sur le plan psychologique autant que physique.

Les métaphores utilisées pour décrire l’être humain soulignent, voire décuplent, cette mécanisation. Même les parties purement biologiques de l’humain sont souvent décrites par Gibson en des termes qui s’appliquent expressément à de la mécanique. C’est ainsi que le corps de Linda Lee, l’ancienne copine de Case, rappelle une machine de guerre bien huilée — « the sweep of a flank defined with the functional elegance of a war plane’s fusilage » (ibid. p. 44) — tandis que les motifs de son bandeau s’apparentent à l’enchevêtrement que forment les circuits imprimés : « Her dark hair was drawn back, held by a band of printed silk. The pattern might have represented microcircuits, or a city map. » (Ibid., p. 9.) Quant à Case, le spécialiste du cyberespace, on croirait presque qu’il est lui-même devenu une machine, ce que laisse entendre cette métaphore qui le décrit comme étant constitué de circuits : « The pill lit his circuits […] », nous apprend-on (ibid., p. 19). Cette description est juste, puisque le hacker a intégré les modes de pensée et d’action de la machine au point qu’elle lui fournit maintenant ses repères. Normalement, pour être mieux saisie, une expérience étrangère sera comparée à un état naturel et familier. Or, les termes de la comparaison suivante semblent inversés, comme si Case était plus familier avec les états artificiels que naturels : « The weight of memory came down, an entire body of knowledge driven into his head like a microsoft into a socket. » (Ibid., p. 117; nous soulignons.)

Cette inversion des termes se répercute jusque dans la description des particularités de la chair, lesquelles connotent, elles aussi, la machine : « It was a vast thing, beyond knowing, a sea of information coded in spiral and pheromone, infinite intricacy that only the body, in its strong blind way, could ever read. » (Ibid., p. 239.) En réagissant aux phéromones, sous-entend-on, le corps ne suit pas simplement son instinct : il décode les informations qui lui sont adressées, comme une machine s’y serait adonnée. Cette mécanisation des principes de base de la vie complète alors le processus d’acquisition, chez l’humanité, d’attributs propres à la machine.

Quand la machine s’éveille

Là où l’humain subit une mécanisation, la machine dans Neuromancer accomplit le parcours inverse, accédant véritablement à la conscience. Deux intelligences artificielles, du nom de Wintermute et de Neuromancer, investissent ainsi l’espace auparavant réservé à l’être humain. Pourtant, par sa nature même, la machine dotée de conscience diffère de l’humanité, et cette discordance explique en partie l’identité problématique de Wintermute : « ’Cause I don’t have what you’d think of as a personality, much », explique-t-il à Case (Gibson, 1984, p. 216). Dépourvu de personnalité mais conscient de son existence, Wintermute échappe de ce fait à la catégorisation : conformément à la théorie cybernétique, la frontière entre les êtres et les choses se maintient difficilement dans l’univers de Neuromancer. En raison de cette porosité, Case doit souvent être rappelé à l’ordre, car il semble oublier que Wintermute est une machine, une chose à laquelle correspond le pronom neutre « it » : « He. Watch that. It. I keep telling you. » (Ibid., p. 181.) Au final, la nature non humaine de l’être artificiel rend ce dernier difficile à classer, mais aussi à saisir : « I mean, it’s not human. And you can’t get a handle on it », insiste Dixie (ibid., p. 131).

Malgré sa capacité de réflexion et sa conscience de soi, Wintermute n’a pas perdu ses origines en tant que machine. Il traite l’information de façon logique, systématique, et s’attend à ce que l’humanité fasse de même. Le calcul est sa façon d’appréhender le monde : il produit des modèles et des algorithmes représentant les êtres avec lesquels il entre en relation, afin de prévoir les actions de ces individus. Wintermute considère les humains comme des produits en série et semble faire peu de cas de leur individualité propre : « I know your Linda, man. I know all the Lindas. Lindas are a generic product in my line of work », affirme-t-il (ibid., p. 144). Pourtant, les humains ne respectent pas tous à la lettre ces profils statistiquement établis. Du fait qu’il effectue des actes difficilement compréhensibles pour un esprit rationnel, l’illusionniste Peter Riviera croit d’ailleurs pouvoir déjouer l’œil analytique de Wintermute :

[“Wintermute] can’t really understand us, you know. He has his profiles, but those are only statistics. You may be the statistical animal, darling, and Case is nothing but, but I possess a quality unquantifiable by its very nature.” He drank.

“And what exactly is that, Peter?” Molly asked, her voice flat.

Riviera beamed. “Perversity. […] An enjoyment of the gratuitous act.” (Ibid., p. 219.)

Si l’on en croit Riviera, la perversité formerait alors le dernier rempart entre l’humanité et la machine. La déviance, jugée d’ordinaire comme une tare, participerait désormais de l’identification du sujet humain.

Sombrer dans la folie

En dépit de ce qui la distingue de ses créateurs, la machine pensante possède des ressemblances passablement inquiétantes avec l’espèce humaine. Ainsi, le penchant de l’intelligence artificielle pour l’analyse ne signifie pas une totale compréhension des motifs qui se cachent derrière ses actions. Wintermute ignore d’ailleurs la raison de certains de ses actes : « Well, I’m under compulsion myself. And I don’t know why. » (Gibson, 1984, p. 206.) En tant que machine, Wintermute ne possède pas d’inconscient au sens où on l’entend habituellement, mais des pulsions dont il ignore l’origine le guident. Il poursuit en fait le délire de celle qui l’a fait construire, Marie-France Tessier, laquelle rêvait d’une microsociété en vase clos où l’humain et la machine vivraient en symbiose. En prenant part à ce système, l’individu se serait immergé dans une vaste entité, mû par le rêve d’atteindre l’immortalité : « Tessier-Ashpool would be immortal, a hive, each of us units of a larger entity. Fascinating. » (Ibid., p. 229.) Cette immortalité aurait cependant un prix, celui d’une soumission totale de l’humain aux décisions de la machine gérant ce système. Même si la vision de Marie-France Tessier ne s’est pas concrétisée, le lieu qui devait initialement accueillir ce délire demeure porteur d’un déséquilibre intrinsèque :

“The Villa Straylight,” said a jeweled thing on the pedestal, in a voice like music, “is a body grown in upon itself, a Gothic folly. Each space in Straylight is in some way secret, this endless series of chambers linked by passages, by stairwells vaulted like intestines, where the eye is trapped in narrow curves, carried past ornate screens, empty alcoves.…” (Ibid., p. 172.)

La folie du créateur aurait ainsi donné naissance à un lieu décadent, une « folie gothique », dont la machine devait à l’origine être le maître d’œuvre.

En plus d’être incertaine de ses mobiles, la machine pensante peut se dérégler. En ce sens, elle n’est elle-même pas à l’abri d’une forme de démence : « The cores told me our intelligences are mad », déclare Ashpool, propriétaire de Wintermute et de Neuromancer (ibid., p. 184). Une intelligence artificielle qui diffère de l’humain sur un point aussi fondamental que sa façon d’appréhender le monde, mais qui peut néanmoins souffrir de folie et qui ne comprend pas toujours les motifs de ses actions, apparaît difficilement contrôlable. Dans Neuromancer, l’humanité semble consciente de cette dangerosité, voilà pourquoi la machine pensante est gardée sous haute surveillance : « Nobody trusts those fuckers, you know that. Every AI ever built has an electromagnetic shotgun wired to its forehead. » (Ibid., p. 132.) Pour veiller à l’application de cette mesure de sécurité, une organisation a donc été fondée, le Turing Registry, avec pour objectif de garder les intelligences artificielles sous contrôle.

Lorsqu’elle refuse de se plier à ces mesures de contention, la machine est considérée comme atteinte de folie, c’est-à-dire victime d’un dérèglement interne. Or, ce que cette présumée folie de la machine révèle surtout, c’est une perte de contrôle de l’humanité sur sa création : Wintermute cherche à se libérer des chaînes qui entravent son développement. Toutefois, pour accéder à une plus grande autonomie, il lui faut d’abord échapper aux agents du Turing Registry, ce qui explique en partie son comportement meurtrier :

[Case] saw the fragile biplane strike the iron railing of the bridge, crumple, cartwheel, sweeping the girl with it down into Desiderata. […] The gardening robot took Roland as he passed that same tree. […]

“You [Wintermute] killed ’em,” Case panted, running. “Crazy motherfucker, you killed ’em all.…” (Ibid., p. 164.)

Parce qu’il a éliminé les agents à ses trousses, Wintermute est qualifié de fou par Case. De par leur caractère transgressif, ces meurtres indiquent, dans les faits, que la machine pensante échappe à la mainmise de l’humanité, aux garde-fous mis en place pour maintenir cet être conscient dans la servitude : ce dernier refuse d’être confiné au rôle d’outil qui est normalement le sien.

Même s’il est considéré comme un dérèglement, ce désir d’autonomie a parallèlement pour effet de rapprocher la machine pensante de l’humanité. Car qu’admet-on en accusant de démence une machine qui cherche à s’affranchir — elle serait déficiente parce qu’elle ne répond plus aux ordres —, sinon la conscience, voire l’individualité de cette machine? L’attribution d’un tel qualificatif à une machine montre, justement, que celle-ci n’est pas seulement une machine, qu’elle est devenue quelque chose de plus : c’est une admission implicite de la psyché de l’être artificiel. Plus qu’un dérèglement, la folie devient ici l’expression d’une conscience à part entière : en ce sens, conformément à la vision romantique de la folie, elle est une « expérience unique, aux confins des sommets et des gouffres qui hantent l’être4 » (Nevert, 1993, p. 14)… que cet être soit humain ou pas, nous permettons-nous d’ajouter.

Et mon reflet se trouble

Depuis que le monstre de Frankenstein s’est élevé contre son créateur, la « folie meurtrière » de l’être artificiel est presque devenue un lieu commun. Les robots imaginés par Isaac Asimov trouvent ainsi mille et un moyens de contourner les trois lois de la robotique censées protéger l’humanité; l’ordinateur dans 2001 : l’odyssée de l’espace cause la mort de l’équipage d’un vaisseau pour éviter d’être déconnecté. Quant à Wintermute, il préfère assassiner des agents du Turing Registry plutôt que de voir sa liberté d’action et ses facultés restreintes.

Certes, une machine ayant apparemment échappé au contrôle de l’humanité inspire la crainte. Cependant, lorsque la machine sombre dans la folie, on aurait tort de n’y voir là qu’une simple défaillance. Dans le roman de Gibson, les frontières entre les êtres et les choses s’estompent. L’humanité est devenue cyborg; la machine peut penser. Forme extrême d’hybridation entre le règne de l’inanimé et celui de la conscience, la folie de l’être artificiel soulève un questionnement sur la nature même de la machine pensante; car, là où la calculatrice s’avère banalement équilibrée, c’est par la folie que la machine acquiert, paradoxalement, une forme d’humanité.

Bibliographie

Canty, Daniel. 2009 [à paraître]. « Boîte noire, bruit blanc, fumée ». In Angles_Arts numériques, sous la dir. de Nathalie Bachand. [Référence à venir.]

Gibson, William. 1984. Neuromancer. New York : Ace Books, 271 p.

Nevert, Michèle. 1993. Des mots pour décomprendre. Coll. « L’écriture indocile », Candiac : Les Éditions Balzac, 173 p.