L'État et les grandes transitions
JOEL SAGET AFP

L’intelligence artificielle, une stimulation bienvenue

Entretien avec Cédric Villani
D’un abord mystérieux, voire décourageant pour le profane, l’intelligence artificielle n’en demeure pas moins porteuse de promesses et d’enjeux immenses, que l’on parle en termes éthiques, économiques ou sociaux. Fondamentalement, elle constitue une question de société qui se pose – en réalité s’impose – à chacune et à chacun de nous. Cédric Villani, auteur d’un rapport phare sur l’IA publié en 2018, en est un expert et obersvateur privilégiés. Dans cet entretien, le mathématicien et ancien député nous invite à garder l’IA à sa place, dans un esprit positif et critique.

Photo : (c) Fabien Rouire

Le Temps des Ruptures : Votre intérêt pour l’intelligence artificielle ne date pas d’hier. Adolescent, elle vous passionnait déjà. Depuis lors, sous votre double casquette d’homme scientifique et politique, vous êtes devenu une référence en la matière. Quel regard portez-vous sur cet itinéraire et comment envisagez-vous la suite ?
Cédric Villani : 

Un itinéraire inattendu, sur un sujet inattendu, dans un contexte inattendu. Certes, je me passionnais, adolescent, pour les développements de l’IA sous la plume du grand vulgarisateur Douglas Hofstadter, mais mes choix de recherche, en physique mathématique statistique, semblaient m’en éloigner complètement, et je considérais le sujet de l’IA comme encalminé. Et puis, le domaine a changé de forme, mon activité s’est élargie, c’est avec surprise que j’ai vu l’IA se ré-inviter dans ma sphère théorique — mon périmètre de recherche intersecte celui de l’IA dans le domaine dit des réseaux adversariaux[1] — puis dans mes activités de vulgarisateur, et enfin politiques. La mission que m’ont confiée le Président de la République et le Premier ministre, en 2017, a été l’occasion de me plonger au cœur du débat et depuis j’y ai occupé une posture d’observateur privilégié, pas naïf en matière de sciences et technologies, mais pas non plus directement impliqué dans la programmation ou le développement de l’IA. C’est une posture qui me va bien, en permanence en train d’écouter et de prendre la parole. L’arrivée de ChatGPT a fait passer le débat public à un nouveau niveau d’intensité, je l’ai senti arriver ! Aujourd’hui ce sujet concerne presque la moitié de mon activité publique — débats, formations, conférences, ici et là en France et ailleurs, et l’occasion d’interagir avec des milliers de personnes intéressées.

Le Temps des Ruptures : En 2018, en tant que député, vous avez rédigé un rapport phare sur l’intelligence artificielle qui vous a confronté à la difficulté de définir la notion de façon satisfaisante. À défaut d’une telle définition, quelles vous semble être aujourd’hui ses applications les plus bénéfiques et prometteuses pour nos sociétés ?
Cédric Villani : 

Des applications bénéfiques, vous avez l’embarras du choix : le logiciel qui vous indique comment aller de tel café à telle salle de séminaire en moins d’une demi-heure, par les transports en commun dans une ville où vous n’aviez jamais mis les pieds. Ou comment trouver avec votre moteur de recherche Internet, une information utile pour votre conférence. Ou comment comprendre ce qui se dit dans une langue que vous n’avez jamais apprise, grâce la fonction de traduction automatique sur les réseaux sociaux… Ce sont des applications considérables ! Vous me direz… mais ce n’est pas de l’IA ! Je vous répondrais bien sûr que si, ce sont des tâches autrefois réservées aux humains (qui connaissaient les plans, la littérature ou les langues) et désormais à disposition, certes avec moins de précision que les meilleurs experts humains parfois. Mais aujourd’hui ce qui est sous le feu du débat public, et qui vaut qu’on parle d’IA matin et soir dans les médias, ce ne sont pas ces applications, ce sont les succès des IA basées sur l’apprentissage statistique par réseaux de neurones, et maintenant, plus spécifiquement encore, des IA génératrices de textes ou d’images, basées notamment sur le concept de transformeur. On voit bien ici à quel point le terme est flou. En tout cas, les IA génératives, celles qui vous écrivent sans effort une lettre de candidature pour une élection, un plan pour lutter contre l’isolement ou une synthèse de la presse internationale du matin, elles changeront la donne dans tout ce qui relève du traitement de l’information et de l’écriture de document. C’est très spécifique ! Ne comptez pas sur elle pour résoudre le problème des déchets, des pesticides, de l’alimentation — des choses qui relèvent de la physique, de la biologie, se heurtent sur le mur de la réalité matérielle. Mais c’est beaucoup, à une époque où tant de choses dépendent de la parole, depuis votre carrière professionnelle jusqu’aux déclarations de guerre. L’IA peut aider à convaincre, à présenter une situation, à récolter des crédits, à remplir des formulaires de demande de subvention, à programmer une application etc. Les travaux de Naomi Oreskes ou David Chavalarias ont largement démontré l’abondance, l’audace et l’influence de l’action des groupes de pression, laboratoires d’idées, agences de communication, représentant d’intérêts et autres, pour peser dans les décisions publiques sur des sujets aussi variés que le tabac, les pluies acides, l’armement ou la transition écologique : si ces outils peuvent avoir tant d’impact négatif, ils peuvent aussi, entre les bonnes mains, avoir un impact positif. Aujourd’hui il est plus souvent négatif que positif, mais c’est bien une question de volonté ! Et ce qui est certain, c’est que, dans un monde où les rapports de puissance et de domination ont été bien souvent obtenus au détriment de l’écologie, les acteurs dominants utiliseront la technologie en priorité pour défendre leurs intérêts.

Le Temps des Ruptures : Dans votre rapport de 2018, vous avez formulé une série de recommandations aussi précises que variées. Quel bilan faites-vous de leur mise en œuvre ?
Cédric Villani : 

Je suis fier de ce rapport dont la réussite a reposé sur plusieurs ingrédients clé : une équipe pluridisciplinaire travaillant en grande confiance, des auditions extrêmement vastes menées en contradictoire, une mise en scène du rapport lui-même à travers colloques et conférences, et enfin une adhésion du gouvernement dès le démarrage. Pourtant le bilan est contrasté. Le gouvernement a fait des efforts pour la mise en œuvre, réussissant certains sujets et d’autres pas du tout. Prenons les dix recommandations que nous avions choisies pour résumer l’ensemble. Je peux dire que certaines ont été bien mises en œuvre : mise en place d’un comité d’éthique, des instituts interdisciplinaires d’intelligence artificielle (3IA), de capacités de calcul (je pense aux calculateurs Jean Zay et Adastra). D’autres, à moitié : une politique de données ouverte et protectrice, une insistance sur quatre secteurs industriels stratégiques, améliorer l’efficacité de l’État grâce à l’IA. Pour le reste — efficacité de l’État grâce à l’IA, bacs à sable d’innovation, laboratoire de l’évolution du travail, réduction de l’empreinte écologique de l’IA, résorption de l’inégalité entre hommes et femmes en IA — on n’a quasiment aucun résultat visible. Et sur la cruciale question européenne, cela piétine ! Certains objectifs ont été atteints, d’autres pas du tout — comme le doublement des promotions d’ingénieurs IA, lointain objectif. Si le gouvernement n’est pas parvenu à boucler la feuille de route, ce n’est pas par mauvaise volonté — parfois c’était de la viscosité administrative, parfois un manque de prise, parfois une reculade face à des problèmes politiques. En matière d’IA, les problèmes sont bien plus du côté humain que du côté technique !

Le Temps des Ruptures : On sait qu’en matière d’intelligence artificielle la France et l’Europe sont à la traîne par rapport aux concurrents américains et chinois. À cet égard, que vous inspire les récentes annonces d’investissements de Xavier Niel qui entend faire émerger « un champion européen de l’IA » ?
Cédric Villani : 

Les déclarations de Xavier Niel vont résolument dans le bon sens quand il insiste sur la mobilisation européenne — seule adéquate sur ce sujet pour des questions de taille de marché, de quantité de ressources disponibles, également susceptible d’incarner un grand projet de société motivant pour le monde de la recherche —, sur l’investissement dans les salaires, et sur la collaboration avec le monde du logiciel libre. Sur ce dernier point il est en phase avec le chercheur français vedette Yann Le Cun. Je suis toujours de très près les positions de Yann, à la fois l’un des plus grands chercheurs en matière d’IA, mais aussi l’un des rares qui a su garder son sang-froid et son discernement face à la pression et le chaos qui ont envahi le domaine en même temps que les milliards et les annonces de rêves.

Le Temps des Ruptures : Le développement de l’intelligence artificielle s’est accéléré ces dernières années, poussant les autorités publiques – nationales, européennes et internationales – à penser sa réglementation. Quelle est l’échelle pertinente pour ce faire et qu’attendez-vous des divers législateurs ?
Cédric Villani : 

Cette accélération est surtout visible, grâce au succès surprenant d’une technologie particulière — les grands modèles de langage — qui n’a que cinq ans. Mais elle ne doit pas occulter les réalisations spectaculaires de l’IA qui ont précédé — applications de recherche d’information, de repérage et guidage, de traduction, de lecture, etc. Si ChatGPT est si marquant c’est qu’il s’invite dans notre quotidien et que l’on peut l’expérimenter sur des tâches qui nous sont très familières ; mais pour les spécialistes, le remue-ménage n’est pas forcément plus grand que le choc subi il y a une dizaine d’années quand les réseaux de neurones se sont imposés. Je vous rappelle aussi que l’on ne voit toujours pas précisément quel est le modèle économique qui sera bâti autour de ces grands modèles. Ce que je veux dire, c’est qu’il faut garder la tête froide en même temps qu’arrive cette nouvelle évolution très marquante. Dans un sujet aussi pragmatique et expérimental, il faut accepter que la réglementation soit aussi changeante et pragmatique. Certains domaines sont déjà sur-régulés — c’est le cas des données de santé, ce qui a des conséquences néfastes en matière de développement de projet et cause bien plus d’effets négatifs que positifs. Toutes les échelles sont pertinentes, et pas seulement au niveau législatif. Je participe d’ailleurs, en tant qu’expert invité, à un exercice remarquable, la Convention citoyenne sur l’Intelligence artificielle voulue par la métropole de Montpellier, pour proposer des lignes de conduite, bonnes pratiques et gardes-fous en la matière à l’échelle métropolitaine. Je souhaite enfin insister, lourdement, sur le fait que l’Europe est déjà très régulée par rapport aux autres continents, que des comités éthiques et des chartes pertinentes se sont multipliées à toutes les échelles ces dernières années, et que le facteur limitant bien plus urgent maintenant, c’est de progresser sur les moyens de mise en œuvre, aussi bien le développement de l’IA que les moyens de son contrôle — des ressources humaines, des ingénieurs qualifiés, des personnes en charge du contrôle, de l’audit, de la recherche, etc.

Le Temps des Ruptures : En juin dernier, le Parlement européen a adopté en l’amendant la législation sur l’intelligence artificielle proposée par la Commission européenne en 2021. Les eurodéputés ont élargi la liste des pratiques interdites, ajoutant notamment les systèmes d’identification biométriques « en temps réel » dans l’espace public. Dans le même temps, la loi relative aux Jeux Olympiques et Paralympiques de 2024, adoptée par l’Assemblée nationale en mai 2023, autorise la vidéosurveillance dite « augmentée » laquelle est basée sur un système d’intelligence artificielle. Cette mesure vous parait-elle légitime ? Ne faut-il pas s’inquiéter de la prolifération des technologies de surveillance ?
Cédric Villani : 

La prolifération des technologies de surveillance est un fait majeur de notre société, mais elle n’a pas attendu l’IA. Voilà bien des années que les révélations de Snowden, publiées par Assange, ont démontré que la NSA et le FBI pratiquent l’espionnage international à une échelle industrielle, aussi pour les affaires économiques. Sur ce sujet, ce qui m’inquiète le plus n’est pas tant la technologie utilisée, que son usage et la personne qui la pratique. Pour le dire crûment : cela me rend plus nerveux d’être espionné avec des technologies classiques, par quelqu’un qui n’est pas mon ami, sans mandat ni contrôle démocratique, que de savoir qu’une personne en qui j’ai confiance utilise une technologie perfectionnée, dans un cadre bien défini, pour me contrôler. Et donc, si le prestataire pour les JO est un prestataire en qui j’ai par ailleurs des raisons d’avoir confiance, au plan technique et éthique pourquoi pas. Maintenant, il est de plus en plus clair que ces JO ont été préparés au mépris de toute ambition écologique, malgré les bonnes paroles, et que c’est un événement qui fera plus de mal que de bien à la planète et à l’humanité… mais c’est un autre débat.

Le Temps des Ruptures : Toujours sur le règlement européen, celui-ci autorise désormais l’usage de systèmes d’intelligences artificielles pour la mise en œuvre des politiques migratoires de l’Union. Quelles pourraient être les dérives d’un tel usage ? Comment parvenir, plus généralement, à une règlementation de l’intelligence artificielle qui protège et promeuve les droits humains ?
Cédric Villani : 

Franchement, ne croyez pas que c’est la technologie qui va protéger et promouvoir les droits humains. Le plus souvent la technologie renforce les jeux et rapports de pouvoir. La seule chose qui peut protéger les droits humains, c’est notre volonté politique de le faire. Et quand on observe les débats politiques aujourd’hui à travers le monde, il y a de quoi être inquiet. D’une part, le numérique et l’IA se sont avérés extraordinairement efficaces pour renforcer la domination des régimes autoritaires sur leur population. Voyez la Chine ! D’autre part, même dans les démocraties occidentales, la technologie numérique a proposé une tentation de dérive quant au contrôle de la population. Voyez les États-Unis. Le remède est à chercher du côté politique, bien plus que technologique. Et dans la bonne conception des outils, plus que dans la réglementation (design is politics).

Le Temps des Ruptures : Au stade actuel enfin, avons-nous suffisamment de recul et de contrôle pour faire un usage aussi extensif de l’intelligence artificielle que les politiques publiques le prévoient ? Êtes-vous optimiste ?
Cédric Villani : 

Comment voulez-vous avoir suffisamment de recul, dans un domaine où les avancées viennent comme des chocs, non seulement pour les politiques, mais aussi pour les experts eux-mêmes ? Il faut accepter qu’on est dans l’expérimentation. Et l’IA m’empêche moins de dormir que d’autres sujets terribles du moment. Le dérèglement climatique, la 6e extinction de masse, les sécheresses qui se profilent, la pénurie de compétences, l’épidémie de solitude, le réarmement mondial, la guerre ici et là, les coups d’État, l’élection de Javier Milei… Franchement, les sujets horribles semblent se donner la main pour faire une ronde autour de nous ! Alors il est important de garder l’IA à sa place : un sujet passionnant qui mérite un investissement conséquent, mais qui ne doit pas obscurcir, ni en termes de débat public, ni en matière d’investissement, les problèmes bien plus graves et aigus du moment. Et l’IA, malgré les risques et inquiétudes légitimes, est aussi un sujet passionnant, l’occasion de regarder en face certains de nos biais et d’apprendre sur notre humanité, de progresser sur la structure même du savoir, de défricher certains nouveaux horizons scientifiques, c’est une stimulation bienvenue.

Références :

[1] Type d’algorithme utilisé dans l’intelligence artificielle

Lire aussi...

Avec Kundera et Eco, le rire face aux absolutismes
Intelligence artificielle : un nouvel horizon dans la lutte contre la corruption
Portal Kombat, le réseau russe de manipulation de l’opinion des Etats européens
De quoi la naïveté d’EDF envers Amazon est-elle le nom ?
Un tout petit effort pour ne rien rater …

Inscrivez-vous à notre newsletter