Retour sur la table ronde #4 - Le secteur du livre doit-il craindre l’intelligence artificielle ?

Le secteur du livre doit-il craindre l’intelligence artificielle ?

Intervenants :

• Fabrice Bakhouche, , directeur général délégué d’Hachette Livre ;
• Muriel Beyer, fondatrice des Éditions de l’Observatoire et directrice générale adjointe d’Humensis ;
• Laurence Devillers, professeure en informatique à l’Université Paris-Sorbonne, chercheuse et experte de l’intelligence artificielle ;
• Gaspard Koenig, philosophe, essayiste, enseignant et président du think-tank « Génération Libre » ;
• Jean-Baptiste de Vathaire, directeur général de Cairn.info.

Introduction par Régine Hatchondo, Présidente du Centre national du livre

Régine Hatchondo a évoqué la nécessité pour le CNL de suivre les progrès technologiques actuels qui impactent de très près la filière du livre. L’émergence de ChatGPT a renouvelé de nombreuses craintes quant à une potentielle incidence de la technologie sur la création littéraire.

I. Doit-on craindre l’intelligence artificielle ?

Laurence Devillers, Gaspard Koenig et animé par Aude Hanquez, Chargée de mission numérique et prospective au Centre national du livre.

Laurence Devillers a initié la discussion sur le changement de paradigme et le traitement médiatique de ChatGPT et rappelle d’emblée que la machine est incapable de faire preuve de créativité. Seul l’humain en est capable. La chercheuse affirme aussi que si ChatGPT s’inscrit sur une volonté d’aligner ces systèmes sur les capacités de l’humain, le niveau demeure encore très en dessous. La capacité d’apprentissage de la machine au fil des interactions n’a rien d’humain car elle n’a pas d’intelligence émotionnelle.

Gaspard Koenig poursuit sur ce point : la machine capable d’un raisonnement basé sur des corrélations ne peut être appelée « intelligente ». L’intelligence ne peut se réduire à une puissance d’association logique. Son inquiétude se porte sur la perte du libre-arbitre qui résulte de son utilisation et l’exploitation commerciale de ces systèmes. Il déplore ainsi la manière dont les humains délèguent déjà leur capacité de décision à des machines. Avec ChatGPT, notre capacité de raisonnement est partiellement confiée au système. Cela s’avère d’autant plus préoccupant qu’avec ChatGPT, le processus algorithmique permet au système de produire des réponses.

Laurence Devillers a rappelé que ces systèmes n’ont pas de sens commun ni d’esprit d’analyse. Face à la paresse incitant à la délégation, elle a souligné l’importance d’apprendre à utiliser ces systèmes avec notre libre arbitre.Il y a un besoin grandissant d’éduquer les citoyens, notamment les plus jeunes, et de réguler ces systèmes. C’est seulement dans cette mesure que le système peut s’avérer pertinent. S’il est impossible de tout freiner concernant ces avancées, l’alternative serait de mettre en valeur des modèles français et des réalisations éthiques.

Gaspard Koenig est revenu sur la législation sur l’intelligence artificielle proposée par la Commission européenne.Selon lui, nos sociétés sont en train de se doter d’outils adaptés à la régulation de l’IA. Elles seraient également en mesure de s’opposer au paradigme épistémologique américain alimenté par certains neuroscientifiques et figures de la tech selon lequel le libre-arbitre n’existe pas. Gaspard Koenig a rappelé que ces systèmes ne fonctionnent pas suivant les préférences explicites des utilisateurs mais suivant ce que l’algorithme évalue comme le plus utile pour l’ensemble des utilisateurs. Il a illustré son propos à travers l’exemple des applications d’itinéraires qui ne fournissent pas nécessairement le trajet le plus rapide, mais celui qui permet de réguler au mieux le trafic pour tous. Enfin, Gaspard Koenig a plaidé pour un droit de propriété sur les données personnelles.

II. Intelligence artificielle : simple « assistant artificiel » ou véritable menace pour les métiers de la chaîne du livre ?

Fabrice Bakhouche, Muriel Beyer, Jean-Baptiste de Vathaire et animé par Aude Hanquez, Chargée de mission numérique et prospective au Centre national du livre.

Muriel Beyer considère les technologies d’IA avant tout comme des outils. Bien que la précaution doive être de mise s’agissant de l’IA, il ne s’agirait pour l’instant que d’une aide, qui n’a pas vocation à remplacer le travail éditorial réalisé par un humain. Cet outil pourrait néanmoins faciliter certaines tâches et entraîner une nouvelle manière de travailler. Par exemple, le travail des sources pour des ouvrages de sciences humaines et sociales s’en trouverait modifié par la masse d’informations disponible qu’il faudrait préalablement trier. Fabrice Bakhouche a souligné l’utilité de l’IA pour la publication d’ouvrages éducatifs (ex : génération d’exercices, accompagnement des élèves, etc.). Les apports de l’IA pour la prévision des ventes sont encore légers. Fabrice Bakhouche a toutefois rejoint Muriel Beyer sur les limites de l’IA, qui ne saurait remplacer l’intelligence humaine. Il a fait état d’enjeux éthiques et juridiques liés au respect de la création et du droit d’auteur. Le cadre juridique sur ces questions est encore mouvant : il existe encore de nombreux flous juridiques et un important besoin de transparence.

Jean-Baptiste de Vathaire a précisé que les utilisations de l’IA par Cairn.info ne sont que marginales. Il s’agit d’outils facilitant le traitement de texte et l’extraction de bouquets thématiques permettant d’explorer un catalogue riche de références. En revanche, il a évoqué le fait que ces nouveaux systèmes introduisent des risques importants pour le droit d’auteur et la reconnaissance des chercheurs : la prédation de leurs publications par les modèles de langage comme ChatGPT en est un. La mission de Cairn.info est de favoriser la diversité des expressions des acteurs des sciences. A ce titre, le portail diffuse gratuitement 70% des articles en ligne. Il y a de fait un risque de moissonnage de ces données et un devoir de protéger les éditeurs partenaires et auteurs contre ces accaparements. Jean-Baptiste de Vathaire a indiqué la nécessité pour le monde de l’édition de se doter de protocoles de protection des données.

Sur les évolutions du secteur de l’édition à moyen terme, Muriel Beyer a développé l’idée que l’IA va créer des nouvelles manières de travailler mais a appelé à la vigilance. Fabrice Bakhouche a rappelé que la filière du livre a été très résiliente aux révolutions technologiques successives. Jean-Baptiste de Vathaire a enfin formulé le besoin de pédagogie face à ces nouvelles technologies.