Points de vue sur l'IA #1 - La parole est à Gaël Varoquaux

Cette collection de points de vue sur l'IA commence aujourd'hui avec un chercheur qui "trempe" dans l'IA depuis de nombreuses années. Gaël Varoquaux  a développé un savoir-faire très pointu en machine learning, qui s'est notamment traduit par le développement de la bibliothèque Scikit Learn, très largement diffusée en open source, et par la création de la spin-off Probabl, qui développe une suite complète d'outils Open Source pour la science des données. Il partage aujourd'hui ses activités entre l'équipe-projet SODA, qu'il dirige à Saclay, et la startup Probabl. Gaël répond aux questions d'Olivier Trébucq.

La parole est à Gaël Varoquaux

Qu’est-ce que l’IA ? Comment la définirais-tu ?

L’IA n’est pas une nouveauté, Turing en parlait il y a déjà plus de 70 ans. C’est la frontière de l’informatique qui ne fait que changer de substrat technique. Je définirai l’IA comme le résultat d’une démarche qui cherche à utiliser l’ordinateur pour résoudre des problèmes de tous les jours. Pour ce faire, l’IA apporte une forme d’intelligence. 

Existe-t-il des catégories d’IA ? Est-elle un objet de recherche véritable ou le support d’un développement technologique ?

 Historiquement, on classe l’IA en deux catégories : symbolique et connexionniste. On peut y ajouter l’IA générative qui, au-delà de la capacité de l’IA à prédire et résoudre des problèmes, permet de générer du texte, du son ou de l’image. On se demande parfois quelle est la part de recherche fondamentale ou de développement technique dans l’IA. Cette distinction - voire opposition - entre recherche et développement, n’est pas intéressante à mes yeux car l’informatique s’est toujours située à la confluence des deux. La recherche vise à la création de connaissances, et le développement technologique à la production d’artefacts. Étant donné que l'IA permet de créer des objets complexes, elle constitue un objet de recherche légitime permettant une étude approfondie. En ce sens, on pourrait la comparer avec l’industrie aérospatiale, qui traite de problématiques techniques d’une grande complexité et mobilise des capitaux considérables.

Au-delà des opportunités qu’elle offre, quelle est la principale menace que l’IA fait peser sur la société ?

C’est la concentration des pouvoirs autour d’une « techno-oligarchie ». En matière de défense, avec des systèmes autonomes comme des drones commandés par IA, la structure de commandement se simplifie au profit de quelques acteurs au sommet, favorisant l'arbitraire économique et administratif. Ce phénomène de concentration, loin d'être limité au domaine militaire, s'étend aux sphères économique et politique, créant des risques pour la pérennité des régimes démocratiques.

Y a-t-il des approches distinctes de l’IA selon les continents ?

Il existe effectivement des différences de culture dans la vision qu’on a de l’IA. Aux États-Unis, les acteurs de la Silicon Valley poussent à aller de l’avant et voient l’IA comme porteuse de possibilités infinies, appliquant la théorie de Schumpeter sur la destruction créatrice. En Asie, la vision est celle d’un avenir radieux porté par un ordre social fort. C’est particulièrement vrai en Chine. En Europe, on se pose beaucoup de questions sur la préservation des valeurs sociales qui pourraient être affaiblies par l’IA. On répond à ces interrogations par de la régulation et des normes, censées constituer des garde-fous aux potentielles dérives de l’IA. Au-delà des textes, il faut s’intéresser à leur mise en œuvre effective face à de grands acteurs en mesure de les contourner. Tout en évitant des rigidités susceptibles de freiner l’essor d’acteurs européens capables de rivaliser avec leurs concurrents américains ou chinois.

Quelle est la position des universitaires américain(e)s vis-à-vis de l’approche européenne ?

Je ne sens pas d’hostilité, plutôt une perception que l'Europe se complique la tâche et se met des bâtons dans les roues. Bien des chercheurs américains se posent à titre individuel des questions éthiques similaires à celles de leurs homologues européens, mais l'approche institutionnelle diffère, les États-Unis misant sur l'inéluctabilité du déploiement de l’IA face à une Europe qui tend à tergiverser.

Comment pallier les biais dans les données d’entraînement ?

Je définis un biais comme un non-alignement avec un objectif culturel ou social déterminé. Puisque le monde réel comporte des biais et que les données d'entraînement reflètent ces inégalités (meilleure représentation des plus riches, stéréotypes de genre comme infirmière/femme ou médecin/homme), l'IA reproduit ces schémas. Prenons l'exemple des allocations familiales : selon que l’objectif visé par les donneurs d’ordre est la recherche de fraude plutôt que la détection de nouveaux ayants droit, les résultats attendus sur la base des données utilisées seront évidemment différents, et l’IA n’y sera pour rien… Ces questions de statistique sociale ne sont pas nouvelles et il est erroné de considérer l'IA comme un phénomène inédit.

Au final, entre bénédiction et malédiction, où mets-tu le curseur pour l’IA ?

 C’est difficile à dire car pour presque chacun des domaines d’application, il y aura du bon et du moins bon. Si on prend la cybersécurité, l’IA sera très utile pour détecter les vulnérabilités d’un système. La contrepartie est que les attaquants utiliseront les mêmes outils… En matière de sécurité, ce que je redoute le plus et dont on parle moins est que la formidable machine à développer que sera l’IA émettra du code de qualité moyenne, ce qui pourrait compromettre la fiabilité des dispositifs. 

Question subsidiaire. Si tu voulais poser une question sur l’IA à un expert, ce serait quoi et à qui ?

Quoi : comment éviter de se tromper dans la course vers l’IA et prévenir les catastrophes à venir ?

A qui : Bill Gates, car il est un acteur important de la tech et il a une conscience, ce qui n’est pas le cas de tout le monde dans la sphère techno-oligarchique…