#136 - Les IA génératives méritent mieux que des paniques morales
Ou pourquoi il est important de correctement poser le débat public sur les IA génératives
Chère lectrice, cher lecteur,
Qu'on le veuille ou non, les IA génératives comme ChatGPT, Dall·E ou Midjourney font désormais partie du paysage. Elles provoquent des débats, notamment sur leur éthique, mais aussi sur les effets qu'elles auront sur l'emploi. Vu la récurrence de ces débats, je compte couvrir (un peu) les effets économiques des IA génératives sur L'Économiste Sceptique. Il existe déjà de la littérature scientifique à ce sujet, il me semble intéressant de la vulgariser. Si ça n'est pas déjà fait, n'hésitez pas à vous abonner à la newsletter pour ne pas manquer ces articles.
En tant que sceptique, il me semble utile d'introduire mes articles sur les IA génératives par un point de méthode. C'est peu de dire que certains débats sur les IA génératives me laissent perplexe. Les peurs, certaines légitimes, certaines exagérées, associées à une couverture médiatique généralement de mauvaise qualité qui contribue à propager de la mésinformation, sont un cocktail détonnant pour provoquer des paniques morales. Une panique morale a récemment eu lieu, et je trouve qu'elle illustre bien les dangers lorsque le débat public sur les IA génératives est mal posé.
En 2017, Benji Smith, auteur et développeur américain, a lancé un service en ligne appelé Prosecraft. Prosecraft analysait le texte de livres, et traduisait ensuite ces analyses en résumés statistiques (quelle est la proportion d'adverbes dans le livre ?) et en analyse de sentiment (quelle est l'émotion dominante du livre ?).
Vous remarquez peut-être que je parle de Prosecraft au passé. Certains auteurs ont récemment découvert l'existence de Prosecraft, et se sont lancés dans une croisade d'une rare violence contre Smith. "Quelqu'un exploite pour son profit personnel mes livres pour alimenter une IA !" La croisade a pris de telles proportions que Smith a fermé Prosecraft.
Benji Smith
Or, cette croisade ressemble fort à une panique morale.
Pour commencer, Prosecraft n'était pas un nouveau produit. Il date de 2017, une époque où les IA génératives n'existaient tout simplement pas. Surtout, Prosecraft n'était tout simplement pas une IA générative. L'analyse de sentiment, comme l'analyse statistique de texte, ne sont littéralement pas des IA génératives. Une IA générative peut produire un nouveau texte (comme ChatGPT), ou une nouvelle image (comme Midjourney). Prosecraft était incapable de produire le moindre nouveau texte.
Prosecraft n'était par ailleurs pas développé par une multinationale richissime comme Meta ou Google, ni par une start-up fondée par des tech bros libertariens peu soucieux de l'intérêt général comme il en pullule dans la Silicon Valley. Prosecraft était développé par deux personnes, et n'a jamais généré le moindre profit. Pour Smith, c'était surtout un outil qu'il mettait au service de la communauté des auteurs. Avant cette croisade, Prosecraft avait apparemment reçu des retours élogieux de la part des auteurs.
Pourquoi, dans ce cas, des auteurs se sont lancés dans une croisade contre une "IA" qui n'en était pas une ?
Dans une panique morale, le débat ne porte pas sur la réalité. Le débat porte sur une représentation déformée de la réalité. Cette représentation est alimentée par des peurs, parfois légitimes. Précisément parce que le débat est alimenté par des peurs, il tend à faire disparaître les réflexes, déjà difficiles à mettre en œuvre en temps normal, de l'esprit critique. On se précipite sur le moindre argument, fondé ou non, qui semble aller dans le sens de nos peurs. C'est ainsi que l'homosexualité ou la transidentité deviennent un "danger pour la civilisation" (non), que l'on s'inquiète du "wokisme" (un concept qui n'a littéralement aucune définition), ou que l'on voit de "l'extrême droite" ou du "masculinisme" partout (y compris là où il n'y a ni extrême droite, ni masculinisme). Sans parler des inévitables comportements violents de harcèlement et de dog piling qui semblent aller de pair avec les paniques morales.
De mon point de vue, le seul débat légitime sur Prosecraft est le débat sur sa légalité : est-ce légal d'utiliser un corpus de livres pour publier des analyses statistiques et de sentiment ? C'est une question, pointue, de droit de la propriété intellectuelle. À ma connaissance, la question n'a pour le moment pas été tranchée par une cour de justice aux États-Unis ; personne ne sait donc si Prosecraft est, ou n'est pas, légal. Et d'après des gens largement plus compétents que moi en droit américain de la propriété intellectuelle, il ne s'agit pas d'une question simple. Cette complexité n'a bien sûr pas empêché des armées d'utilisateurs de Twitter et de Bluesky de s'improviser juristes, et d'avoir un avis bien tranché sur la question…
Cet article de Mike Masnick est un excellent résumé (en anglais) de cette panique morale. L'article a lui-même fait l'objet de commentaires dont il était pour beaucoup évident que leurs auteurs n'avaient pas lu l'article qu'ils commentaient.
Mike Masnick
Pourquoi prendre le temps de détailler l'histoire de Prosecraft ? En soi, Prosecraft ne m'intéresse pas. Ce qui m'intéresse, c'est que la croisade contre Prosecraft est un excellent exemple des dangers lorsque le débat public sur les IA génératives est mal posé. Des auteurs sont partis en croisade contre une IA générative, qui n'était en réalité pas une IA générative. Ils ont violemment attaqué un développeur indépendant, lui-même auteur, qui a travaillé gratuitement pendant sept ans sur un outil qu'il jugeait utile pour sa communauté. Et ils ont fini par détruire cet outil alors même qu'il était utile pour de nombreux auteurs. Difficile, en listant ces résultats, d'y voir quoi que ce soit de positif.
D'après moi, le débat public sur les IA génératives est un débat important et légitime. C'est précisément pourquoi je pense qu'il est important de le mener avec rigueur et méthode. La rigueur et la méthode ne sont pas des fins en soi. La rigueur et la méthode sont des outils permettant à chacune et à chacun de se faire un avis correctement informé sur les tenants et les aboutissants dans le débat. Et, peut-être, d'éviter les croisades aux résultats douteux. Vous reconnaitrez peut-être la position que je défends sur le débat sur la transition écologique. C'est en effet la même.
Comme je l'annonçais en introduction, j'ai prévu d'écrire sur les effets économiques des IA génératives sur L'Économiste Sceptique. N'hésitez pas à me dire dans les commentaires si c'est un sujet qui vous intéresse. Et si vous avez des questions ou des sujets spécifiques que vous souhaiteriez que je traite, n'hésitez pas à les partager également.
À bientôt sur L'Économiste Sceptique — et ailleurs,
Olivier
