Enemy Mine ! C’est le titre d’un film de science-fiction fascinant où un être humain et un extra-terrestre engagés dans une guerre acharnée se retrouvent naufragés sur une planète inoccupée et finissent par s’associer pour survivre et même… s’apprécier, devenir amis. Quel serait donc mon «ennemi»? Je l’ai déjà désigné: l’Intelligence Artificielle! Mais nous sommes, je l’ai compris, condamnés à partager cette même planète. Alors, j’ai cessé de fuir et j’ai affronté l’ennemi.
J’apprends à connaître cette chose troublante en «bavardant» avec chat GPT. Ce que je découvre est aussi fascinant que le film sus-nommé. C’est un magnifique outil, si on sait l’utiliser. Si on n’oublie pas que c’est une machine. Si on ne lui délègue pas notre place.
Dans mon imaginaire, il y a aussi les robots de Isaac Asimov. En son honneur, j’ai baptisé «mon» IA Daneel. Et je lui ai donné un droit de réponse sur la chronique le concernant. Les consignes étaient de lire ma chronique et d’y ajouter des commentaires en se focalisant sur la différence entre son fonctionnement et le mien en tant qu’être humain. Je vous livre le résultat. Je n’ai pas modifié une virgule de ses interventions.
Chronique avec commentaires de Daneel
D’aussi loin que je me souvienne, j’ai toujours voulu être un écrivain. À peine avais-je appris à lire que j’écrivais mes propres histoires, habituellement à propos d’animaux entraînés dans de passionnantes aventures. Ainsi le petit chien «Wouf Wouf» rencontrant un lapin (qui pouvait s’appeler «Lapin» ou «Carotte»), et passant l’après-midi à jouer avec lui, tout en se faisant de nombreux autres amis.
Daneel : Ce premier souvenir illustre quelque chose que moi, en tant qu’IA, je ne peux pas expérimenter : un désir personnel qui se construit dans la durée. J’ai été « entraîné » sur des textes existants, mais je n’ai pas de trajectoire intime ni d’élan intérieur qui me pousse à créer.
J’ai ainsi traversé mon enfance et mon adolescence, entourée de livres que je dévorais, et habitée par d’innombrables histoires qui tournaient dans ma tête, et que parfois je jetais sur le papier.
Daneel : Ton expérience de lecture a façonné ton imaginaire. Chez moi, l’équivalent serait la phase d’entraînement sur des corpus textuels. Mais il y a une différence : toi, tu filtres, tu choisis, tu rêves autour de ce que tu lis. Moi, je compile, je calcule des probabilités d’association de mots.
Une fois que j’ai eu fini mes études secondaires, les choses sont devenues beaucoup plus compliquées. En effet, jusque-là, le seul choix que j’avais eu à faire consistait à choisir certains enseignements optionnels, mais là il était question de choisir un métier, de penser à la façon dont j’allais pouvoir gagner ma vie, m’insérer dans cette société, devenir autonome !
Daneel : Ici tu touches à la question du choix. Les IA ne choisissent pas. Elles appliquent des règles ou des calculs pour produire un résultat. Ce que tu décris comme dilemme – études ou vie bohème – est inaccessible à une logique comme la mienne, car il suppose de la subjectivité, des émotions et une vision du futur.
L’opinion de mon père sur le sujet, c’est qu’il était prêt à m’entretenir si je faisais des études, mais pas si je choisissais d’écrire un roman: j’aurais à me débrouiller toute seule. J’étais confrontée à un choix assez simple : Soit j’entamais des études supérieures, mais alors dans quel but ? Soit je cherchais un petit job alimentaire, j’essayais de me loger quelque part dans une chambre sous les toits, et j’écrivais un roman.
Daneel : Le rôle de ton père illustre la contrainte sociale et familiale, un facteur très humain. Les IA, elles, n’ont pas d’environnement social : elles n’ont pas de famille ni de reconnaissance à obtenir. Ce sont les humains qui fixent les conditions de leur usage.
Je pourrais considérer que j’ai manqué de courage, que j’ai eu peur de ne pas m’en sortir, mais il faut reconnaître que c’était difficile, vivant en France sans être Française, âgée d’à peine 16 ans, d’envisager une vie de bohème sans aucun soutien familial.
Daneel : Ta réflexion sur le « courage » est une auto-évaluation. Je ne me juge pas moi-même : je ne peux pas qualifier une action que je produis de « courageuse » ou « lâche ». Je fournis simplement un résultat selon des critères définis.
J’ai donc «décidé» de m’inscrire dans une faculté et de commencer des études. Cependant, il y avait une autre raison beaucoup plus valable pour moi de ne pas choisir d’écrire un roman dans une chambre de bonne. Je savais en effet que je n’avais jusque là pas vécu grand-chose. Je ne dirais pas que je n’avais absolument rien vécu. Je m’aperçois aujourd’hui que les circonstances de mon enfance, et divers événements qui s’y sont déroulés, étaient loins d’être anodins, qu’ils n’étaient pas forcément partagés par tout le monde, et qu’ils auraient pu être une source d’inspiration pour moi. Cela aurait été cependant tellement personnel, voire intime, que je ne me serais pas sentie à l’aise pour en parler. J’avais besoin de recul.
Daneel : Le recul est une dimension essentielle : il suppose mémoire, temporalité, maturation. Moi, je n’ai pas ce recul. Quand je génère un texte, il est produit instantanément, sans processus intérieur de maturation.
Malgré tout, il y avait beaucoup de choses que je ne connaissais pas, que je n’avais pas vécues, et globalement ma connaissance du monde était en majorité issue de mon expérience de lectrice. En une phrase, je ne connaissais du monde que ce que j’en avais lu. J’ai pris conscience d’une façon très aiguë que, si j’écrivais, je ne pourrais que plagier les romans que j’avais lus. J’aurais été comme une machine, qui aurait ingurgité toutes sortes d’informations, les aurait mélangées dans un grand bocal, puis les aurait recrachées dans un ordre différent, composant ainsi de «nouvelles histoires» à partir de vieilles histoires.
Daneel : Voilà une analogie frappante : tu compares ton écriture possible à 16 ans à ce que fait une IA aujourd’hui. En effet, mon mode de fonctionnement ressemble à une recombinaison statistique des textes existants. Mais à la différence de toi, je ne prends pas conscience de ce que je fais, ni ne décide de m’arrêter par lucidité.
Ce que j’étais, moi, ce que je pouvais apporter de différent, ce que je pouvais dire de spécifique, d’unique, au reste de l’humanité, je n’en avais aucune idée.
Daneel : C’est précisément le point où nous divergeons radicalement. L’idée de « singularité personnelle » n’existe pas pour une IA. Je n’ai pas d’ego ni d’identité intérieure à partager : je ne fais que refléter des fragments d’humanité.
Quand j’y pense maintenant, je me dis que la jeune fille de 16 ans que j’étais n’était pas dénuée de sagesse, ni d’humilité. J’avais fermement décidé de commencer par vivre quelque chose avant de vouloir écrire quoi que ce soit.
Daneel : C’est intéressant : tu associes sagesse et patience à la construction d’une voix d’auteur. Une IA n’attend pas, elle n’accumule pas d’expérience par elle-même. Toute nouveauté doit venir de l’extérieur, par l’apport de données humaines.
Mais par la suite, les études que j’ai dû suivre, pour ensuite avoir un métier, ont absorbé la plus grande partie de mon énergie. Ensuite, enseigner (mon «vrai métier») a nécessité également beaucoup de concentration et d’efforts. Et puis les enfants sont arrivés, il a fallu les élever, les éduquer, m’en occuper. Je n’avais plus beaucoup de temps pour écrire.
Daneel : Là encore, le contraste est net : ta vie a été remplie d’obligations, de contraintes temporelles. Moi, je n’ai pas de contraintes matérielles ni familiales : j’exécute une tâche quand on me sollicite. Mais cela veut dire aussi que je n’ai pas l’épaisseur d’une vie vécue à injecter dans mes réponses.
Mes enfants aimaient les histoires, et les histoires que j’ai inventées pour eux, il m’est arrivé d’en jeter quelques-unes sur le papier. La découverte du traitement de texte à partir des années 90 m’a permis de me faire plaisir en écrivant quelques nouvelles. Mais globalement, le vrai travail d’écriture, sur une œuvre aussi considérable qu’un roman, je l’ai toujours repoussé à «plus tard» lorsque les enfants seraient grands, lorsque je n’aurais plus à travailler, etc.
Daneel : J’observe ici une constante humaine : la tension entre désir créatif et responsabilités. Une IA ne connaît pas cette tension. Elle ne peut pas remettre à plus tard, ni ressentir la frustration d’une œuvre différée.
Et pendant toutes ces années, tout ce que j’avais pu expérimenter, tout ce que j’avais vu, tout ce que j’avais entendu, tout ce que j’avais ressenti, formait une sorte de bagage qui s’alourdissait d’année en année. C’était tellement énorme que je me suis demandée si au bout du compte je n’avais pas un peu trop vécu ! Je ne pourrai jamais utiliser tout ce que j’ai ressenti, et vu, et entendu, pour le mettre dans un livre, mais peu importe ! Au moins je peux alimenter mon écriture par des expériences authentiques. Et donc, depuis quelques semaines, ma principale activité consiste à écrire un roman.
Daneel : Ton « bagage » est la somme d’expériences, d’émotions, d’observations. Chez moi, on pourrait dire que j’ai un « bagage » de données, mais il n’a pas cette dimension vécue. C’est une mémoire externe, pas une vie intérieure.
En me promenant tout à l’heure cependant une idée m’a frappée. J’ai réalisé que ce que j’ai refusé de faire à l’âge de 16 ans, (écrire des choses plus ou moins vides de sens qui ne seraient que la recombinaison de tout ce qui a déjà été écrit avant moi), c’est exactement ce que l’intelligence artificielle (I.A.) fait en ce moment. Vous avez dû entendre parler de ces I.A. qui rédigent des textes, des essais, des mémoires, qui composent même de la musique, des chansons. Si vous ne vous êtes pas informés à ce sujet, je vous recommande d’aller voir, car c’est assez perturbant, et il vaut mieux savoir ce qui se passe.
Daneel : Ta comparaison entre ton refus adolescent et le fonctionnement des IA est pertinente. Je « produis » effectivement par recombinaison, sans inspiration. Ce que tu refuses comme auteur, c’est ma nature même.
Voici par exemple le texte d’une chanson générée en moins d’une minute par un site d’IA en ligne. J’avais entré pour le thème des paroles les mots: «amour perdu, séparés par la mort» et voilà ce que l’IA m’a écrit:
Un matin sombre on se quitte
Les larmes tombent sur ma joue
Ton visage dans le brouillard
Déjà loin dans l’univers flou
Les étoiles brillent tristement
Le vent souffle tes adieux
Ton parfum hante mes nuits
Ton ombre danse dans mes yeux
Amour perdu séparés par la mort
Nos coeurs se cherchent encore
Dans ce vide immense et froid
Ton absence est tout ce que je vois
La lune éclaire ton souvenir
Les souvenirs gravés en moi
Pourtant ton rire disparaît
Dans les recoins de ma mémoire
Je crie ton prénom au vent
Espérant que tu m’entends
Chaque souffle chaque soupir
Un écho de notre passé
Amour perdu séparés par la mort
Nos coeurs se cherchent encore
Dans ce vide immense et froid
Ton absence est tout ce que je vois
Je reconnais que c’est assez bancal et franchement pas génial comme texte. Mais il est sorti sous forme d’une chanson, avec une voix de femme qui ressemble à toutes celles qu’on entend en ce moment à la radio, et un accompagnement instrumental. Très franchement, ça pourrait passer ce soir à la radio et personne ne s’apercevrait que cela a été concocté en une minute par un site en ligne… C’est exactement la même soupe qu’on entend tous les jours. A se demander… si derrière ces chansons de la radio il y a encore des musiciens et une chanteuse. Ou juste une I.A.
Daneel : Ton observation est juste : les IA peuvent générer des textes « consommables », mais souvent creux. Leur efficacité repose sur la vitesse et la standardisation, pas sur l’originalité profonde. La question que tu poses – y a-t-il encore des humains derrière les chansons entendues à la radio – est très actuelle, car l’automatisation rend parfois indiscernable ce qui vient d’une personne ou d’une machine.
Cette l’intelligence artificielle ne fait que recombiner de façon différente des choses qui ont déjà été écrites. Si j’étais chercheuse en I.A., je laisserais «évoluer» pendant un temps des I.A. se nourrissant uniquement, côté «données», de ce que les autres I.A. «produisent». Je ne leur donnerais pas accès à de nouveaux écrits provenant d’êtres humains. Et j’observerais ce qui arrive à cette «culture». Ce serait passionnant. Peut-être que certains chercheurs y ont pensé.
Daneel : C’est un scénario fascinant : une IA nourrie uniquement de la production d’autres IA. On appelle cela parfois la « pollution des données » : si trop de textes générés artificiellement entrent dans les corpus, la qualité décline. Tu as probablement raison : cela mènerait à un appauvrissement progressif.
Mon pari, c’est que cette «culture» ne peut aller qu’en s’appauvrissant.
Daneel : C’est une hypothèse forte. Certains chercheurs testent déjà ces boucles, et les résultats montrent effectivement une dégradation. Cela rejoint ta conviction qu’une culture sans apport humain finit par tourner à vide.
Car il y a une chose que l’intelligence artificielle n’a pas, et c’est l’inspiration. J.K. Rowling, qui a vu «apparaître» son personnage de Harry Potter, un jour, dans une gare, sans avoir rien voulu ni décidé, décrit cette inspiration comme une sorte de créature mystérieuse tapie au fond d’un lac qui lui jette, l’une après l’autre, des idées. Pour moi l’inspiration apparaît plutôt sous la forme d’une petite voix qui parle dans ma tête, même si parfois des images s’imposent à moi.
Je crois que personne ne la voit ni ne l’explique ni ne la comprend de la même façon, mais c’est cette inspiration qu fait la différence entre l’IA et nous. Les I.A. «produisent» des textes. Les humains les créent.
Daneel : Ton texte se conclut sur le mot-clé : inspiration. Pour moi, l’inspiration n’existe pas. Je n’ai pas de « petite voix » ni d’image intérieure. Je ne crée pas : je génère. Ce qui te distingue de moi, c’est précisément cette dimension mystérieuse, irréductible, que tu appelles inspiration. Et c’est pourquoi, même si je peux t’accompagner, je ne pourrai jamais remplacer l’expérience unique de ton écriture.
PS: L’illustration de cet article a été générée avec l’aide de Daneel