Vous êtes ici :

Les postures nationales face à l'Intelligence Artificielle

Interview de Christian Katzenbach

Senior Researcher à l'Institute for Internet and Society de l'Université Alexander von Humboldt de Berlin

<< Là où nous avons identifié des différences frappantes [entre pays], c'est dans le cadre général de l'IA et sa relation avec les questions sociales, politiques et économiques >>.

Christian Katzenbach est Senior Researcher à l'Institute for Internet and Society de l'Université Alexander von Humboldt de Berlin. Avec son collègue Jascha Bareis, il a récemment travaillé sur un projet qui compare les stratégies de pays tels que la France, les Etats-Unis et la Chine dans la course mondial à l'Intelligence Artificielle[1].

[1] Voir une introduction au projet:https://www.hiig.de/en/global-ai-race-nations-aiming-for-the-top/

Réalisée par :

Date : 15/02/2019

Comment en êtes-vous arrivé à aborder ce thème de l'IA et quelles dimensions avez-vous abordé dans votre projet sur les postures nationales de l'IA ?

Ce terme semble être devenu un slogan

Ces dernières années, je me suis intéressé à la "ruée vers l'IA", dans ses dimensions médiatiques, économiques, politiques et académiques. Ce terme semble être devenu un slogan utilisé pour tant de choses différentes à la fois qu’il est difficile de savoir ce dont il s’agit. De plus, je relève que les débats sur les préjugés, l'équité, l'agence et la transparence semblent être passés de la notion d'algorithmes à la notion d'IA sans grand changement substantiel.

Sur la base d'une analyse des rapports politiques – tels que les documents de stratégie, les plans et les politiques publiques publiées par des institutions comme le Parti communiste chinois, la Maison-Blanche ou le Parlement français – et d'une comparaison des discours publics des représentants de l'État, nous avons noté les points communs et les différences dans les priorités, les approches et les valeurs.

L'expression "IA" est très polysémique, avez-vous constaté des différences dans les manières de l'aborder, suivant les territoires que vous avez considérés ?

De tous les gouvernements, le Parti communiste chinois (PCC) présente la stratégie d'IA la plus détaillée, la plus complète et la plus ambitieuse

Là où nous avons identifié des différences frappantes, c'est dans le cadre général de l'IA et sa relation avec les questions sociales, politiques et économiques. La stratégie française d'IA, par exemple, qu'Emmanuel Macron a présenté en 2018, s'intitule "IA pour l'Humanité". Elle décrit l'IA comme "nouvelle Renaissance", qualifiant cette technologie de "promesse prométhéenne" qui nécessite un État régulateur fort et l'importance de considérer l'IA comme "bien public". Afin de "renforcer le potentiel de la recherche française", le président français a annoncé son intention d'encourager financièrement les instituts de recherche publics (en plus de partenariats de recherche public-privé). Il a aussi déclaré son intention de créer un centre national de coordination de la recherche, comprenant un réseau de quatre ou cinq instituts à travers la France. Au total, Emmanuel Macron prévoyait de dépenser 1,5 milliard d'euros pour l'IA au cours de sa présidence, dont la plus grande partie pour la recherche et les projets industriels.

De leur côté, les États-Unis se concentrent dans leurs documents stratégiques nationaux sur la déréglementation et l'établissement d'avantages concurrentiels. Leur politique vise à éliminer les obstacles à l'innovation en matière d'IA "où et quand nous le pouvons". Le gouvernement américain veut favoriser la combinaison des forces gouvernementales, industrielles et du milieu universitaire afin de créer un avantage concurrentiel sur les autres pays. Concrètement, selon les documents de stratégie produits ces dernières années, les États-Unis ont assoupli les cadres réglementaires pour l'IA dans les secteurs du véhicule autonome, de l'utilisation des drones commerciaux et publics et dans les diagnostics médicaux. En ce qui concerne la recherche et le développement dans le secteur privé, le gouvernement Trump souligne son ambition de demeurer "le chef de file mondial de l'IA”, en augmentant de plus de 40% les investissements en R&D non classée pour l'IA depuis 2015 (1,1 milliard $ en 2015).

De tous les gouvernements, le Parti communiste chinois (PCC) présente la stratégie d'IA la plus détaillée, la plus complète et la plus ambitieuse. Le PCC prévoit d'utiliser l'IA comme moyen universel de résoudre les problèmes. Pour concrétiser les choses, leur plan détaillé donne des spécifications techniques sur la façon d'intégrer l'IA dans l'information et l'industrie manufacturière afin de faire de "la Chine une superpuissance manufacturière (...) et une cyberpuissance". Ni les documents de stratégie français, ni les propositions américaines ne sont aussi précis et détaillés, soulignant une fois de plus la détermination du PCC à réaliser son plan très ambitieux. La stratégie chinoise se caractérise également par la volonté de fusionner cette technologie "civile" de l'IA avec des innovations et des applications militaires.

Sur la base de votre recherche, comment analysez-vous ces différentes postures de soutien ?

Dans la plupart des cas, elles esquissent des visions et des ambitions générales, mais elles sont plutôt discrètes sur les mesures concrètes pour les atteindre

Les stratégies nationales que nous avons analysées combinent politiques publiques et discours sur l'IA. Elles comportent à la fois des modalités de soutien technologique, un positionnement stratégique national et une représentation de l'imaginaire des biens publics et privés dans la société. Dans la plupart des cas, elles esquissent des visions et des ambitions générales, mais elles sont plutôt discrètes sur les mesures concrètes pour les atteindre. La plupart allouent – ou du moins promettent d'allouer – des ressources à la recherche sur l'IA. Elles énumèrent les politiques et les régulations déjà publiés et présentent des feuilles de route pour des mesures et initiatives à venir. Leur fonction combine donc un positionnement stratégique – pour stimuler le secteur et l'orienter, voire légitimer des mesures à venir – et quelques idées de mesures et réglementations concrètes. Il est donc difficile pour l'instant d'évaluer l'impact de ces intentions. Mais, pris dans leur ensemble, ces documents reflètent très probablement déjà les différents cadres et imaginaires qui circulent dans les pays que nous avons considérés. Nous planifions actuellement des études qui examinent l'évolution des discours des médias sur l'IA au fil du temps et entre les pays afin de comprendre comment différents imaginaires circulent à travers ces domaines et deviennent dominants ou marginaux. 

Qu'attendent les États chinois, étasuniens ou français de ces propositions ?

Ces imaginaires de l'IA décrits dans les documents étatiques ne doivent pas seulement être compris comme constitutifs, mais aussi comme performatifs : ils ont bel et bien un effet, et ils créent des situations d'irréversibilité car les investissements demandent un retour et les promesses politiques doivent être tenues.

Ces stratégies nationales de l'IA peuvent être comprises comme le socle de l'institutionnalisation de ces technologies dans nos vies et dans nos sociétés. Bien que l'expression d'intelligence artificielle soit très exagérée – créant un mythe d'intelligence et d'empathie humaine, que l'intelligence artificielle n'est tout simplement pas capable de transmettre – nous sommes en train d'assister au déploiement d'un cadre conceptuel qui permettra de comprendre cette évolution, d'identifier les problèmes éventuels, mais aussi d'échafauder des solutions ou des mesures concrètes pour y répondre. De cette façon, les éléments de cadrage proposés dans ces documents sont plus que de simples discours. Ces imaginaires de l'IA décrits dans les documents étatiques ne doivent pas seulement être compris comme constitutifs, mais aussi comme performatifs : ils ont bel et bien un effet, et ils créent des situations d'irréversibilité car les investissements demandent un retour et les promesses politiques doivent être tenues. Pour prendre un exemple concret, le Parti communiste chinois exploite stratégiquement l'innovation civile à des fins militaires et vice versa. Alors que Google s'est retiré de la collaboration avec le Pentagone et le Département de la Défense Américaine, en Chine, les acteurs gouvernementaux travaillent main dans la main avec les entreprises commerciales ou s’approprie smplement les innovations stratégiques pertinentes du secteur privé. Au fond, le Parti Communiste Chinois profite de son pouvoir centralisateur autoritaire et autoritaire pour renforcer les synergies partout où il le peut et laisser de côté les considérations éthiques pour pousser la Chine à devenir la première nation de l’IA.

Pour cette raison, les États nationaux ont actuellement du mal à trouver un équilibre entre, d'une part, la nécessité perçue d'une action rapide et, d'autre part, la mise en place de cadres adéquats pour comprendre et faire face à l'IA; et in fine, de concevoir un avenir souhaitable pour leurs populations. De ce fait, les gouvernements nationaux tentent de façonner les imaginaires sociotechniques actuellement négociés en fonction de leurs intérêts institutionnels et nationaux, qu'il s'agisse de compétitivité, de surveillance ou de bien-être public - et le plus souvent d’un mélange de ces éléments.

A plus long terme, pensez-vous que les différentes mesures concrètes prises par les différents États vont faire évoluer les imaginaires de l'IA ?

Nous sommes en train de négocier comment nous voulons vivre avec l'automatisation et l'IA à l'avenir

Les documents stratégiques et les politiques publiques s'inscrivent dans le processus social plus large de la négociation d'imaginaires sociotechniques. Ils renforcent, modifient légèrement ou réorientent fondamentalement les représentations que nous nous faisons des technologies. Une fois en place, les politiques publiques sont des matérialisations très solides de ces imaginaires. Mais d'un autre côté, en l'absence d'une légitimation sociale générale, elles sont le plus souvent insuffisantes. Pour prendre un exemple dans un autre domaine, les réglementations strictes anti-tabac du début des années 2000 en Europe n'auraient probablement pas été couronnées de succès sans l'intérêt croissant des sociétés européennes pour les questions de santé et de bien-être.

Les différences frappantes entre la France, les États-Unis et la Chine que nous avons identifiées mettent en évidence des nuances politiques et culturelles, mais elles montrent aussi que ces scénarios sur la place de l'IA, et notamment le rôle de l'automatisation, sont très contestés sur tous ces territoires. Nous sommes en train de négocier comment nous voulons vivre avec l'automatisation et l'IA à l'avenir. Or, cette négociation ne porte pas seulement sur la technologie, les politiques et les budgets, elle est fortement ancrée dans les mythes et les métaphores que nous employons tous.

Selon vous, sur la base de votre étude, quels imaginaires de l'IA semblent absents dans ces discours ?

Où sont les discours qui expliquent clairement que l'IA est un bien public utilisable pour le bien-être de la population ?

Bien que l'on parle un peu d'IA pour l'humanité, d'éthique et d'équité, la plupart des imaginaires et des scénarios concrets sont fortement guidés par des arguments essentiellement économiques et technologiques. Qu'est-ce qui est possible ? Qu'est-ce qui est pratique ? Qu'est-ce qui est efficace ? Mais où sont les discours qui expliquent clairement que l'IA est un bien public utilisable pour le bien-être de la population ? Où sont les scénarios qui se passent de l'IA, et qui identifient des domaines où nous ne voulons pas que le tri et la prise de décision se fassent automatiquement ?