Prouesses et limites des agents conversationnels

Au moment où OpenAI rassure les entreprises en affirmant que Chat-GPT ne conserve plus en mémoire les informations qu'elles lui fournissent pour s'entraîner et que Google ouvre son chatbot d'intelligence artificielle générative Bard à 180 pays en anglais (à l'exclusion des pays membres de l'UE notamment), l'Académie des Technologies avance des éléments de réflexion sur les modèles de langue courants ou « langageurs ».

« Chat-GPT n'a pas encore appris quand il vaut mieux se taire », glisse malicieusement Michèle Sébag, directrice de recherche au CNRS, responsable de l'équipe apprentissage et optimisation, Laboratoire Interdisciplinaire des Sciences du Numérique, Université Paris-Saclay. Face à l'engouement suscité par Chat-GPT (introduit en novembre 2022), à la profusion de communications commerciales et à la rapidité d'évolution des solutions, l'avis rendu par l'Académie pointe ses avantages et ses inconvénients. Certes, admet Michèle Sébag, les forces sont très importantes expliquant la multiplication des usages (par exemple, le robot propose une réponse à la question quand un moteur de recherche classique ne fournit que les pages où la trouver), mais les faiblesses le sont aussi. L'outil est perfectible. D'ailleurs, il progresse. Néanmoins, poursuit-elle, Chat-GPT cherche à faire consensus à partir de documents divers et incohérents, ce qui ne lui permet pas toujours d'être dans le vrai. Autant il peut être utile pour défricher un sujet, autant ses réponses, basées sur des statistiques, plausibles et rapides, ne sont ni vérifiées, ni avérées. Les dangers d'un Chat-GPT ? La systématisation des fake news par exemple ! Se pose également le problème des sources, absentes pour l'instant.

Autre point préoccupant, l'outil fait appel à de supercalculateurs nécessitant des ressources considérables (en compétence et en machine). « Le coût énergétique de l'entraînement est actuellement de l'ordre de 1 GWh et celui de l'usage en janvier 2023 entre 1 et 20 GWh par mois, OpenAI ayant ouvert le robot à l'ensemble du monde, nous avons assisté à une multiplication tout à fait imprévue de son adoption, laissant penser que l'usage massif d'un agent conversationnel demande plus d'énergie que sa construction et se traduirait en Térawattheure », explique Michèle Sébag.

Enfin, le corpus d'entraînement ne respecte pas le règlement général sur la protection des données (RGPD). C'est pourquoi la Cnil italienne a limité provisoirement l'usage de Chat-GPT. Par ailleurs, la comptabilité des textes générés avec les législations en vigueur n'est pas établie (notamment en termes de droit d'auteur et de propriété intellectuelle).

Or, en France et en Europe, a rappelé Gérard Roucairol, ex-président de l'Académie, « les compétences existent, nous disposons d'équipes de très bons niveaux qui peuvent fonder un politique de création de biens communs, nous pensons que c'est faisable à un coût raisonnable ». D'où les recommandations de l'Académie de développer des langageurs libres et de confiance en Europe pour les mettre à disposition du grand public et des acteurs industriels, ainsi que la création d'un centre d'expertise dédié à leur régulation.