Alors que les géants du secteur de l’IA appellent à ralentir et préviennent de risques de perte de contrôle, l’expert en IA Laurent Daudet a apporté plusieurs précisions, dans un entretien à BFM Tech.

Ces dernières semaines, un tourbillon d’alertes sur l’IA a envahi les médias et les réseaux sociaux. Parmi les plus marquantes : la prise de parole de Jacob Coxon, chercheur passé d’OpenAI à Anthropic, qui a accusé les deux entreprises de « jouer avec nos vies » et annoncé sa démission. Une déclaration inquiétante qui a été suivie d’annonces d’OpenAI, Anthropic et xAI, se disant prêts à ralentir le développement de l’IA.

À contre-courant de la parole des géants du secteur, un des spécialistes français de l’IA, Lauren Daudet, enseignant à l’École normale supérieure (ENS), a donné plusieurs éléments de contexte dans un entretien à BFMTech ce vendredi 18 septembre.

Lui-même fondateur de la startup d’IA générative « LightOn », Laurent Daudet connaît le sujet de près. Face à aux récentes déclarations alarmantes, « il faut garder la tête froide et prendre un peu de recul par rapport à ces propos », estime-t-il. L’expert invite à se rappeler par exemple que des propos similaires avaient été tenus en 2019 lors de la sortie de Chat GPT2 : « l’équipe d’OpenAI avait déclaré que le modèle était “trop dangereux pour être rendu public” ».

Selon lui, il faut se méfier du marketing de la peur, qui sert les intérêts des géants du secteur. « Cela permet aux entreprises qui développent ces modèles de devenir de plus en plus secrètes sur la façon dont ces modèles sont conçus et déployés, tout en laissant entendre qu’ils ont une longueur d’avance infranchissable par leurs concurrents », résume-t-il. Et ces déclarations pourraient encore se multiplier alors qu’Anthropic et OpenAI s’apprêtent à entrer en Bourse, ou que la concurrence entre Chine et États-Unis se fait toujours plus vive.

Ces discours « apocalyptiques » ne doivent pas faire oublier des enjeux « bien réels », prévient Laurent Daudet. Par exemple les conséquences de l’IA sur l’emploi et l’éducation ou encore le coût environnemental croissant de ces machines virtuelles, dont le fonctionnement repose sur des centres de données bien réels, gourmands en énergie et en eau. Un volet qui fait déjà largement débat aux États-Unis, à deux mois des élections de mi-mandat.

Alors que le développement de l’IA reste peu encadré, celui-ci devrait « passer par plus d’audits vraiment indépendants » et sa méthodologie pourrait être encadrée par plus d’acteurs, notamment les auteurs des logiciels libres, la société civile et les universitaires, et pas uniquement les acteurs privés, fait valoir Laurent Daudet.

Car sans aller jusqu’à l’extinction de l’humanité, des risques existent : « cybersécurité, désinformation, emploi, climat, éducation… Mais aussi de déséquilibres économiques et de dépendance technologique », cite l’expert. Pour ce qui est de l’arrivée d’une IA super-puissante et rebelle, en revanche, Lauren Daudet se montre plus sceptique. « On est encore très loin de quoi que ce soit qui pourrait s’apparenter à une “IA générale” », estime-t-il.

« Même si j’adore la science-fiction, il faut se méfier des fantasmes qu’elle induit, notamment anthropomorphistes prêtant des sentiments, des intentions ou une conscience à un algorithme. Il y a toujours un humain qui a installé le modèle, un serveur physique qui le fait tourner, et encore un humain qui l’a lancé sur un jeu d’instructions », rappelle l’expert.

Il souligne toutefois qu’il y a des progrès à faire sur « l’alignement » des IA, c’est-à-dire ce qui définit son intention et ses valeurs. Ce paramètre, plus difficile à programmer qu’une formule mathématique pure et dure, peut présenter des imperfections qui mènent à des erreurs graves.