Le nouveau livre remarquable de Sean Michaels Vous souvenez-vous de votre naissance ? se situe carrément à l’intersection de la technologie et de la littérature. Après avoir lu ce roman magnifiquement réalisé et émouvant, j’ai interviewé Michaels à propos du livre et de la façon dont il réfléchit à la nouvelle frontière que les lecteurs et les écrivains explorent avec l’avènement de l’intelligence artificielle générative.
Michaels est également apparu, avec l’auteur Greg Hurwitz, dans un panel sur les nouvelles menaces auxquelles les écrivains sont confrontés au cours de leur vie. PWconférence d’une demi-journée sur l’intelligence artificielle : révolution et opportunités dans l’édition commerciale, qui s’est tenue le 27 septembre. Tous deux ont parlé avec éloquence de l’évolution de l’économie de l’écriture, de la nécessité de transparence dans l’étiquetage des produits créés avec l’IA, des dangers des grands modèles linguistiques monolithiques contrôlés. par les géants de la technologie, et le désir d’excellence humaine et de communauté. Dans notre entretien, Michaels a expliqué qu’il réfléchissait aux implications de l’IA générative depuis au moins 2019, lorsqu’il a découvert Talk to Transformer, un des premiers programmes de saisie semi-automatique basé sur GPT-2, et a commencé à l’expérimenter.
Vous souvenez-vous de votre naissance ? a été inspiré en partie par un incident réel avec la poète Marianne Moore, à qui la Ford Motor Company a demandé de l’aider à nommer son nouveau modèle de voiture, et par les expériences de Michael avec l’IA générative. Dans le livre, Marian Ffarmer, une poète de renommée mondiale mais sans le sou, accepte de se charger d’une mission d’écriture proposée par une grande entreprise technologique : écrire un « long poème » avec un robot de poésie appelé Charlotte, une IA perfectionnée sur la poésie. . Pendant une semaine, elle se débat avec le processus et remet en question la mission et ses motivations, ainsi que les résultats de la collaboration. Le roman offre une perspective unique sur l’IA générative, de la part d’un auteur qui a étudié ses capacités et a intégré ce qu’il a appris à la fois dans la forme et dans le contenu de son travail.
Dans le cadre du processus d’écriture, Michaels a utilisé la poésie de Moore pour alimenter une IA générative appelée Moorebot qu’il a créée avec la chercheuse Katie O’Nell. Moorebot est à l’origine du vers du roman, que Michaels qualifie de « fausse poésie ». Michaels et O’Nell ont adapté les premiers modèles de langage avec de la poésie humaine et robotique, mais les résultats étaient souvent absurdes. Michaels rappelle les efforts et la « fabrication méticuleuse » qu’il a fallu pour générer des vers passables de Moorebot, comparant le processus à « l’écriture avec une machine à sous ».
Dans le roman, la prose est également « infiltrée » – selon le terme de Michael – par l’IA générative. Les passages qu’il inclut (mis en évidence pour le lecteur) sont destinés à montrer l’étendue de ce que GPT peut générer, de l’étrangement intelligent à l’ordinaire fade, et à démontrer les « biais internes » de l’IA générative.
Au cœur du roman se trouvent des questions sur ce qu’est l’écriture et comment elle est produite par les humains et les machines. Son protagoniste réfléchit à la différence entre elle-même – composée de ce que Michaels appelle sa « biographie, biologie et rêve » – et Charlotte, qui a accès à tous les poèmes modernes jamais écrits.
« Mon caractère marial réside dans le petit échantillon du monde que je suis capable d’apporter à mon travail », réfléchit Marian. « Si nous n’avions pas cette petitesse, ces limites, il n’y aurait aucun moyen de distinguer Ffarmer de Sappho, ou Eliot, ou qui que ce soit. Alors, que devais-je penser de Charlotte – non pas petite mais dévorante, omniprésente, mémorable ? Ointe, en quelque sorte, par sa grandeur. Et en même temps, j’en suis certain, diminué.
Un modèle fondateur construit avec des milliards de « jetons » (ce que les développeurs appellent des mots ou des morceaux de mots) n’a pas de telles contraintes, ce qui peut paradoxalement rendre sa voix banale et anodine. Ce problème est exacerbé par les paramètres (ou garde-fous), conçus pour réduire le caractère aléatoire et l’ambiguïté, que les GPT ont de plus en plus été attribués.
Dans Vous souvenez-vous de votre naissance ?, Michaels explore un autre corollaire malheureux des résultats générés par l’IA : la tendance des humains à donner aux mots un sens qu’ils n’ont pas. Les humains, en tant qu’êtres à la recherche de modèles, sont notoirement enclins aux théories du complot et à d’autres croyances irrationnelles.
Michaels écrit que le problème n’est « pas seulement le vide de ces émissions, mais la capacité illimitée des êtres humains à interpréter et à donner un sens. Je pouvais tirer du contenu de n’importe quelle ligne que je lisais, aussi creuse soit-elle.
Dans notre entretien, Michaels a clairement indiqué qu’il pensait que nous n’avions pas encore commencé à poser les bonnes questions sur l’IA générative. Que se passe-t-il lorsque l’IA générative est capable « d’écrire » une nouvelle émouvante ? Quelles sont les conséquences pour les professions créatives lorsque la production devient suffisamment bonne ? Quand le public ne peut pas dire si l’écriture est une création humaine astucieuse ou un produit industriel ? « Les questions que l’IA me pose, comme : Qu’est-ce que cela signifie d’être trompé par de l’art faux ?, sont en fait passionnantes à aborder », a fait remarquer Michaels.
Le plaisir que les lecteurs éprouveront en lisant Vous souvenez-vous de votre naissance ? est le résultat de l’engagement profond d’un écrivain extrêmement intelligent envers cette nouvelle frontière vertigineuse.
Maja Thomas est directrice de l’innovation chez Hachette Livre et directrice du département Hachette Business Development et Innovation.
Une version de cet article est parue dans le numéro du 23/10/2023 de Éditeurs hebdomadaire sous le titre : Paternité et IA
