Malgré les promesses de l’IA générative, Cédric Villani, mathématicien, soulève des questionnements concernant son impact écologique et le danger lié à la manipulation de l’information. Il appelle à la vigilance face aux biais et à la censure potentielle véhiculée par ces outils.
L’IA générative ou GenAI est l’aboutissement logique d’une longue évolution. Elle a commencé par les réseaux neuronaux qui ont marqué un tournant en décryptant l’écriture manuscrite, il y a de cela douze ans. Cette percée a ensuite ouvert la voie aux grands modèles de langage actuels. Dans une interview accordée à CIO, le mathématicien, Cédric Villani, exprime son opinion sur l’essor de cette technologie et met en garde contre les menaces potentielles. Selon lui, l’IA générative constitue :
« … une rupture technologique, mais pas une rupture scientifique ».
Cédric Villani se préoccupe des menaces écologiques de cette technologie
D’après lui, les Directeurs des Systèmes d’Information ont l’embarras du choix parmi les nombreux grands modèles de langage. Cependant, l’ex-député écologiste se préoccupe des effets de l’intelligence artificielle sur l’environnement, y compris ceux qui ne sont pas visibles.
« …Dans un contexte où la transition écologique est avant tout politique, cet effet secondaire de l’IA est, à mes yeux, bien plus important que l’impact direct en matière de consommation d’énergie ou de ressources », précise le mathématicien.
Malgré cela, l’IA n’offre pas que des désavantages. Par exemple, le Groupe d’Experts Intergouvernemental sur l’Evolution du Climat s’en sert pour établir les comptes rendus de leurs recherches. L’entreprise de biotechnologie, Mycophyto, en fait de même pour mener à bien ses activités.
Des plateformes utilisant l’IA, comme celles proposant de la simulation de portage salarial, pourraient révolutionner le monde du travail et offrir de nouvelles opportunités.
Le mathématicien met en garde sur les dangers de l’IA
Pour l’instant, ça fonctionne ; ou plutôt, ça a l’air de fonctionner. Mais avec l’IA, l’apparence est souvent plus importante que la réalité. Un peu comme une SIMULATION DE PORTAGE SALARIAL, qui peut sembler précise sur le papier mais qui ne tient pas compte des spécificités de chaque situation professionnelle.
Un texte créé par une IA peut contenir des idées insensées, qu’on appelle « des hallucinations ». Selon le mathématicien :
« De la même façon qu’un stagiaire remplit un texte à trou par analogies à partir d’un corpus de références, sans comprendre le sens, ChatGPT et les autres ont été conçus pour dire le plausible, délivrer un résultat moyen qui sonne bien »
Par exemple, Quand Stella Assange, l’épouse de Julian Assange, fondateur de Wikileaks, a posé des questions à des intelligences artificielles de Google et de Mistral AI sur l’attentat de son mari, les réponses ont été très différentes. Google a nié toute conspiration, alors que Mistral AI a fourni des informations suggérant qu’un tel plan pourrait exister.
« Pour réduire les risques liés à l’intelligence artificielle générative, les entreprises doivent non seulement former leurs modèles avec de bonnes données, mais aussi faire appel à des experts capables de garantir la fiabilité de ces modèles », renseigne le mathématicien.
