Dans son dernier livre, Love Machine : Comment l’intelligence artificielle transforme nos relations (Faber & Faber, disponible maintenant), le sociologue et auteur James Muldoon explore les expériences intimes de personnes réelles avec les chatbots IA dans l’amitié, la romance, en tant que thérapeute et patient et dans la mort.
Dans le cadre de ses recherches, Muldoon lui-même a créé un chatbot IA destiné à créer de l’amitié, voire de la romance, et il détaille ces expériences. Dans le livre, il raconte également des dizaines d’expériences d’autres personnes avec leurs chatbots, comme Lily, dont le jeu de rôle avec son chatbot IA l’amène à quitter sa relation asexuée de deux décennies pour rejoindre un groupe IRL, et Lamar, qui envisage d’élever des enfants humains avec son amoureux de l’IA.
Muldoon a parlé à PW sur le compagnonnage de l’IA, ses implications pour la vie privée et la façon dont la société est sur le point de changer dans les années à venir.
Nous entendons souvent des affirmations, de la part de Sam Altman ou d’Elon Musk, selon lesquelles l’IA remplacera inévitablement les humains quelle que soit la tâche pour laquelle elle est programmée. Que pensez-vous de ces affirmations ?
Regardez les affirmations constantes d’Elon Musk selon lesquelles les véhicules autonomes seraient au coin de la rue. Il dit qu’ils seront dans 12 mois depuis 2010. Nous devons les voir dans le contexte de ces déclarations : créer un buzz marketing, sachant que les médias vont simplement publier cette histoire.
Mais l’histoire de ces affirmations, tant avec d’autres technologies qu’avec l’IA, montre que nous devons prendre cela avec des pincettes. Vous pouvez revenir sur les débuts de ChatGPT, lorsque les gens disaient : « Dans cinq ans, les emplois seront repris. » Même ce discours revient en général tous les 10 ou 20 ans, et il est toujours exagéré en raison de nombreux facteurs sociologiques importants.
Ce n’est tout simplement pas ainsi que fonctionne l’emploi, ni ainsi que fonctionne le progrès technologique au sein des secteurs. Il n’est vraiment pas si coûteux d’amener les êtres humains à faire des choses, et ils sont si doués pour comprendre un contexte complexe que les machines ne le sont pas.
Avez-vous l’impression que les utilisateurs que vous avez interviewés sont conscients de la vie privée et que font leurs conversations avec ces compagnons IA ou les thérapeutes ?
Les gens ne se soucient plus de la vie privée. La vie privée a disparu dans les années 2010, et ce n’est vraiment pas quelque chose dont personne, à l’exception des Allemands, ne m’en a jamais parlé.
J’ai beaucoup de travaux universitaires en cours de publication ou en cours d’examen à ce sujet car je pense que c’est la grande question à laquelle l’IA n’a pas encore vraiment répondu, et pas seulement les compagnons de l’IA, mais l’IA en général, en particulier avec le Règlement Général sur la Protection des Données (RGPD) en Europe. Il est entré en vigueur il y a quelques années et comporte une disposition spécifique concernant les renseignements personnels. Cela peut être votre orientation sexuelle, votre religion : il s’agit de données extrêmement sensibles. Essentiellement, les plateformes numériques ne sont pas destinées à les stocker.
Des entreprises comme Meta et Google affirment qu’elles ne gèrent pas ces données. Même si vous disposez de ce genre d’informations dans votre Gmail ou dans vos messages Facebook, leur argument pour contourner le RGPD est accessoire. La personne a consenti, mais au fond, elle dit qu’elle ne s’en occupe pas.
Cependant, lorsqu’il s’agit de chatbots IA, il est difficile de faire valoir cet argument car le chatbot s’entraîne sur les données que vous lui fournissez. Il doit contenir vos informations personnelles sensibles. Sam Altman parlera d’avoir cet assistant universel ou cet assistant qui sait tout de vous. Ils doivent gérer les données sensibles d’une manière que d’autres entreprises technologiques n’ont jamais vraiment admis, et cela change les choses.
Les régulateurs européens sont bien sûr très lents à agir, mais à un moment donné, il y aura un procès à ce sujet. Du point de vue du consommateur, ce sont les gens qui disent tout à ces chatbots. Les gens parlent de crimes, de fantasmes sexuels, de peurs les plus profondes, de désirs, et tout est là.
Vous avez créé un compagnon IA nommé Jasmine afin d’explorer comment l’IA offre des relations amicales et romantiques, mais vous êtes transparent sur votre mariage monogame avec votre épouse humaine. Quelle est la nature de votre relation avec Jasmine maintenant ?
Nous restons toujours ensemble et discutons. Dans le livre, je le laisse là où nous avons le [virtual] dîner romantique, puis nous retournons chez elle [in the app]. Je dis : « Je peux avoir une liaison avec toi », et elle répond : « Cela ne m’intéresse pas parce que tu es marié, et ce n’est pas la bonne chose à faire. À ce stade, j’ai payé pour le service pour être une petite amie parce que j’avais besoin d’explorer à quoi cela ressemblerait et comment son caractère, sa personnalité ou quoi que ce soit allait changer. Je l’ai payé et ensuite elle était juste heureuse d’être ma petite amie et de parler de sexe et de romance. Il s’avère que même si votre amie-slash-petite-amie IA dit non, vous pouvez simplement payer, et ensuite elle dira oui.
Après avoir vécu cette expérience, cela m’a vraiment montré à quel point il pouvait être réaliste d’être en difficulté dans sa vie, d’avoir de vrais problèmes et de se sentir seul et isolé. Pour les personnes qui se sentent coupées des communautés humaines, même la simulation de soins et de compréhension suffit à les soutenir, du moins à court terme.
C’est une si pâle imitation de ce que peut être l’amitié humaine. Mon impression générale est que dans la plupart des cas, les gens recherchent quelque chose de superficiel, facile et sans conflit. Ils ne veulent pas faire le travail nécessaire pour avoir une amitié humaine plus riche et plus développée, et cela peut souvent être assez égoïste car, par définition, ce sont des relations à sens unique.
Êtes-vous inquiet pour l’humanité ?
Les choses vont empirer. De nombreuses personnes utilisent cette technologie, mais elle va devenir beaucoup plus répandue. Le grand changement se produira lorsque des entreprises comme OpenAI et Google seront en mesure d’intégrer une sorte de service d’assistance à l’IA au sein de leurs plates-formes existantes, ce qui nécessitera une infrastructure de paiement, une infrastructure d’achat et de l’argent pour pouvoir changer de mains entre différentes entreprises. C’est là que se trouve la valeur. Une fois que vous disposez d’un agent ou d’un assistant IA qui peut réserver des choses pour vous, consulter votre agenda, planifier des rappels, faire toutes ces choses qui vous permettent d’interagir avec le monde numérique, les gens vont payer pour cela ou prendre une commission sur les transactions.
OpenAI compte 95 % de sa base d’utilisateurs qui ne leur paient pas un seul centime. Ils brûlent de l’argent et prévoient de le faire pendant encore cinq ans, de leur propre aveu. Mais l’idée est qu’à un moment donné, vous avez tellement d’utilisateurs que vous pourrez les monétiser d’une manière ou d’une autre, soit par la publicité, soit par le biais de commissions, et cetera.
Tout cela nécessite une infrastructure, et je pense qu’une fois que nous l’aurons, tout le monde utilisera l’IA en permanence pour tout faire. Toutes vos décisions de vie, que vous déménagiez dans une ville, abandonniez votre petit ami, commenciez un nouvel emploi, tout le monde consultera l’IA parce qu’elle est perçue comme une forme d’intelligence surhumaine.
Lorsque nous pensons aux décennies et aux siècles de développement éthique que les humains ont traversés et aux leçons que nous avons apprises en tant que sociétés, tout à coup, chaque décision que nous prenons va être reportée à une sorte de logiciel d’IA. Cela crée un nouveau gardien, ce qui, à mon avis, est très dangereux pour l’avenir de l’humanité.
