Retour sur la table ronde - Ecrire à l'ère de l'intelligence artificielle

Introduction par Régine Hatchondo, présidente du CNL, et Mathieu Potte-Bonneville, directeur du département culture et création du Centre Pompidou.
 

Le CNL accueille pour la première fois un événement hors les murs du festival Extra !, festival de littérature vivante organisé par le Centre Pompidou, dont le thème cette année porte sur l’intelligence artificielle (IA). La filière du livre est confrontée à de fortes mutations depuis quelques mois, tant sur le plan économique (notamment avec un phénomène de concentration qui s’accroit) que sur le plan intellectuel avec l’arrivée de Chat GPT. Le CNL souhaite questionner les bouleversements induits par l’intelligence artificielle en organisant un cycle de table-rondes dédié à ce sujet (la première s’étant tenu en mars 2023). Cette rencontre portera tout particulièrement sur les rapports entre IA et création littéraire.

La question du numérique est, de la même manière, au cœur des préoccupations du Centre Pompidou, pour qui elle est une révolution à la fois écologique, économique, esthétique, et vient remodeler en profondeur les pratiques artistiques.

IA et langage

Alexandre Gefen a d’abord évoqué ChatGPT et son rapport au langage. Pour Chat GPT, le langage est un code. Plus encore, ChatGPT, capable de passer d’un langage/code à un autre, peut aussi comprendre les réactions : il a une « théorie de l’esprit ». Pour Alexandre Gefen, ChatGPT nous rend attentifs à toutes les formes d’intelligences, aussi bien humaines, que de la nature ou de la machine. Selon lui, « accueillir des formes d’intelligence autres, c’est aussi accueillir des formes de danger ». Toutefois, « un modèle statistique n’a pas de morale ». En effet, ChatGPT propose une version édulcorée, consensuelle du monde, afin de remplir ses objectifs commerciaux à l’international, ce qui le rend inintéressant pour des usages littéraires. ChatGPT devient un langage inoffensif.

IA et fiction

Valérie Beaudouin a ensuite exposé les deux grands courants du thème de la machine-autrice en littérature. Dès les années 60, on voit fleurir des travaux autour des robots conversationnels. Cette conception a complétement été bouleversée dans les années 2010, avec l’accès à une masse de données exceptionnelles dans le numérique, ainsi qu’à de nouveaux algorithmes bien plus performants qu’avant. De l’autre côté, on voit apparaître en littérature, par exemple chez Primo Levi, les machines à écrire, capables de produire des textes par elles-mêmes, remplaçant ainsi l’écrivain. Ce qui est intéressant avec ChatGPT, c’est qu’il se place à la rencontre de ces deux conceptions : la machine à conversation, et la machine à créer du texte.

Quand on regarde l’histoire de la littérature numérique, il y a eu très vite des critiques sur la possibilité d’avoir des textes produits par des machines. En revanche, quand c’est la machine qui devient objet de littérature dans la fiction, cela suscite bien plus l’engouement.

Ainsi, David Gruson met en scène une de ces IA dans ses romans. Et ses publications permettent de prendre conscience de la vitesse de progression phénoménale de ces technologies. En effet, dans le premier tome de son roman S.A.R.R.A. (Beta Publisher), en 2017, David Gruson évoque le sujet fictif des vaccins créés par IA. Seulement trois ans plus tard, ce thème est devenu réalité lors de la crise du covid. De même, la notion de « garantie humaine » qu’il invente comme procédé narratif dans son livre - sans pour autant en revendiquer la paternité -, a finalement été transposée comme système de régulation effectif de l’IA par l’humain, en étant intégrée dans la loi relative à la bioéthique, en 2021. Un ressort narratif a ainsi pu contribuer à faire évoluer la réglementation.

Réactions face à l’IA : quelles perspectives adopter ?
 

Alexandre Gefen a ensuite exprimé un « effet de trouble » gigantesque face à ChatGPT : « pour la première fois, on parle à quelque chose qui n’est pas l’être humain », une machine est capable de reproduire ce qu’on pensait être la spécificité de l’humain : la créativité. Mais malgré la peur que l’IA peut susciter, Alexandre Gefen s’est voulu rassurant : « L’IA avance très vite, mais la capacité à la réguler aussi. ». Il faut donc la réguler tant qu’il est encore temps.

Selon Valérie Beaudouin, dans les années 1960, il y avait exactement les mêmes peurs qu’aujourd’hui. On se demandait déjà si les auteurs allaient être remplacés par les machines. En effet, « les angoisses actuelles sont à l’image de celles qu’on avait » à cette époque.

Aujourd’hui, les troubles que l’IA peut provoquer proviennent aussi de nos inquiétudes vis-à-vis de certaines idéologies comme le transhumanisme.

Valérie Beaudouin a poursuivi en exposant les deux perspectives morales existantes autour de ces IA. La première perspective tient pour acquis le fait que l’homme finira par être remplacé par la machine. La seconde perspective consiste à penser la collaboration entre l’homme et la machine, ou comment les hommes vont domestiquer cette dernière pour qu’elle puisse répondre à leurs ambitions. Cette division se retrouve chez les auteurs. Beaucoup d’entre eux sont sceptiques face à ces inventions, mais certains sont plus optimistes, à l’image de Primo Levi (dans « Le versificateur », Histoires naturelles suivi de Vice de forme, trad. Par André Maugé, Gallimard) qui y voyait un moyen d’alléger la charge de travail.

Selon Valérie Beaudouin, la question de la régulation humaine est centrale. La quantité de travail humain opéré en amont, par les concepteurs, est énorme. L’IA fonctionne constamment en étant contrôlée simultanément par des humains.

À l’avenir, Valérie Beaudouin conseillerait de se pencher sur d’autres modèles plus libres que ChatGPT, car moins soumis à des impératifs commerciaux. De plus, selon elle, les ingénieurs sont soumis à un grand enjeu de pédagogie. Afin de prévenir une panique morale généralisée, le fonctionnement de ces modèles devra être exposé très clairement. Et puisque ces technologies existent, il faut trouver en quoi elles peuvent être utiles aux humains. Actuellement, ChatGPT prend tellement de place qu’il empêche de montrer que certains des modèles de langage sont très intéressants pour faire des activités qui ne sont pas dangereuses, et sont de véritables ressources pour le métier d’auteur.