Intelligence artificielle (1/3) : les origines d’une révolution
Article
Longtemps confinée aux pages de la science-fiction dans l’esprit du plus grand nombre, cette classe de technologies est désormais omniprésente dans notre quotidien numérique.
< Retour au sommaire du dossier
Article
L’essor de villes intelligentes, dites « smart », dessine sans cesse de nouveaux avatars virtuels de nos espaces urbains. Le cyberespace devient ainsi autant le « nouveau domicile de l’esprit » que le champ de nouvelles batailles.
Après des années d’explorations enthousiastes de cette terra incognita, les inquiétudes sont là : et si loin d’être une terra nullius, une « terre n'appartenant à personne », le web était devenu un archipel à conquérir ? En tête de pont, les GAFAM (Google, Apple, Facebook, Amazon, Microsoft), NATU (Netflix, Airbnb, Tesla, Uber), tous états-uniens, et en outsiders tout aussi avides, les BATX chinois (Baidu, Alibaba, Tencent, Xiaomi). Pour ces multinationales, devenir maître de la donnée est la clé d’une domination, dans le cyberespace comme dans le monde physique. À ce titre, la nomination de Casper Klynge comme premier ambassadeur danois auprès de la Silicon Valley acte la relation symbiotique entre espaces virtuel et réel.
Sur ce point, le projet canadien Quayside à Toronto a fortement contribué à dissiper les brumes enjôleuses d’une vision technocentrée des questions urbaines, pour pointer tout l’intérêt d’une approche politique et géopolitique de la gouvernance digitale. Jacques Priol, spécialiste de la donnée des gestions publiques et de la « ville intelligente » y consacre ainsi son ouvrage Ne laissez pas Google gérer nos villes ! (L’aube, 2020). Ce projet d’aménagement, qu’il a pu observer de près en tant qu’expert invité lors de concertations, lui apparaît comme « un révélateur de problématiques d’une densité exceptionnelle » (p. 68).
La zone portuaire de Toronto, sur les bords du lac Ontario, est une zone économique stratégique, tant pour la ville de Toronto que pour la province de l’Ontario et l’État fédéral canadien. Ces trois protagonistes ambitionnaient de faire de cette friche industrielle « l’espace urbain le plus innovant du monde », « une vitrine de la ville et un laboratoire de renommée mondiale en matière de gestion urbaine ». En 2017, le projet Quayside était lancé. Sidewalk Labs, filiale d’Alphabet, fut le « partenaire d’exception » retenu par l’appel à manifestation d’intérêt.
Que ce soit Quayside, ou plus proche de nous OnDijon ou Angers, les nouvelles générations de villes intelligentes entendent dépasser l’optimisation des flux urbains en silo proposés par les « réseaux intelligents » (smart grid). Elles recherchent une approche intégrée des flux, usages et comportements qui constituent le monde urbain. Pour collecter ces informations, Sidewalk Labs peut compter sur l’expérience de Google, sa filiale sœur. Quayside « sentira » ses habitants et usagers via une armée de capteurs. Une plateforme multimodale sur smartphone sera le point de jonction entre les individus et cette intelligence en construction. À Quayside, « l’idée qu’une plateforme numérique géante puisse concevoir un morceau de ville et inventer les outils d’une gestion optimale pilotée par la donnée s’installe dans les esprits» (p.35).
À l’instar du Golem, cette figure mythologique pétrie dans la glaise et qui prend vie lorsque son concepteur lui introduit un parchemin dans la bouche, la « smart city » s’anime grâce aux nouvelles formes de données, à leur masse (Internet des objets, open data), aux nouveaux modes de partage de l’information (5G, cloud), d’analyse et de modélisation. Ainsi nourrie, en permanence et en temps réel, la ville serait en mesure d’affronter les enjeux contemporains : pollutions et congestion, mais aussi précarité, emploi, mixité sociale, inclusion, etc. Mais attention, sans débat politique, la ville algorithmique peut bien « être optimale mais sera surtout opaque, privée, automatique, asservie et donc antidémocratique » (p. 215).
Effectivement, les pouvoirs publics canadiens laissent tout latitude à Sidewalk Labs pour imaginer le fonctionnement de Quayside sur des sujets cruciaux : propriété des données, règles et contrôle des usages, standards de données, conditions et processus d’anonymisation... « Lorsqu’ils confient l’aménagement d’un quartier entier à un opérateur privé de cette envergure, les pouvoirs locaux [...] ne sont-ils pas les garants de l’intérêt général [défini par les citoyens dans une démocratie] et n’ont-ils pas l’obligation de préserver une forme de souveraineté publique sur la gestion des villes ? » s’interroge Jacques Priol (p. 69).
En mai 2020, le projet Quayside est mis K.O., pouvoirs publics et société civile refusant l’entrée dans leur ville d’un cheval de Troie qui pourrait selon eux la privatiser. Toutes les évolutions et garanties données par Sidewalk Labs n’auront donc pas suffi. Pour les opposants, emmenés par la militante Bianca Wylie, « ce qui a été cruellement négligé, c’est la discussion politique sur les conséquences qu’il y a à confier à Google la conception de nos villes [...]. Sidewalk Labs ne demande pas la propriété ou le contrôle explicite des infrastructures publiques, ni leur privatisation pure et simple. Ils sont plus subtils. Les transactions avec les entreprises de technologie ne sont pas des transactions immobilières normales qui impliquent des relations qui doivent durer des décennies. Nous n’avons aucune idée de la façon dont Google voudra les façonner à l’avenir. [...] Mais nos gouvernements ne sont pas là pour approuver la conception des nouveaux systèmes de gouvernance. Ce sont les gouvernements qui conçoivent notre société pour l’intérêt public» (p. 73). Même Roger Mc Namee, investisseur des premières heures des Gafam, devenu un critique acerbe de leurs modèles économiques, souligne que ce que donne Google importe peu au regard de ce que la ville abandonne. Ce projet lui apparaît même comme une vision dystopique, qui n’a pas sa place dans une société démocratique.
Pour Jacques Priol, « il n’est pas souhaitable que des plateformes géantes dont l’emprise sur nos comportements de consommateurs est réelle, se saisissent aussi de nos comportements de citoyens et notre vie dans l’espace public » (p. 74). La crainte qui se fait jour est celle d’un capitalisme de surveillance dénoncé par la sociologue américaine Shoshana Zuboff, professeure émérite à la Harvard Business School : « L’économie de surveillance repose sur un principe de subordination et de hiérarchie. L’ancienne réciprocité entre les entreprises et les utilisateurs s’efface derrière le projet consistant à extraire une plus-value de nos agissements à des fins conçues par d’autres — vendre de la publicité. Nous ne sommes plus les sujets de la réalisation de la valeur. Nous ne sommes pas non plus, comme d’aucuns l’ont affirmé, le « produit » que vend Google. Nous sommes les objets dont la matière est extraite, expropriée, puis injectée dans les usines d’intelligence artificielle de Google qui fabriquent les produits prédictifs vendus aux clients réels : les entreprises qui paient pour jouer sur les nouveaux marchés comportementaux ».
Pour Pauline Türk, professeur de droit public et co-auteur de La souveraineté numérique (2018), l’émergence de cette notion exprime « le refus de voir les peuples, les communautés d’utilisateurs, les États, les individus perdre le contrôle de leur destin au profit d’entités mal identifiées, non légitimes, et dont l’objectif n’est pas la promotion de l’intérêt général ». Jeune d’une vingtaine d’années, ce concept a des acceptions variées : juridique via la souveraineté des États, économique et politique via la souveraineté des opérateurs économiques, ou encore libérale via la souveraineté des utilisateurs.
Dans tous les cas, la notion fait florès en France : création d’un Institut de la souveraineté numérique (2014), consécration dans la loi « Pour une République numérique » (2016) comme « l’exercice, dans le cyberespace, de la souveraineté nationale et des droits et libertés individuels et collectifs que la République protège », rapports du Sénat, etc. Les marqueurs de cette souveraineté pour les États et l’Europe sont précis : faire respecter leur politique fiscale, leurs lois sur les réseaux et la protection des données (via le Règlement Général sur la Protection des Données - RGPD), garantir la protection de certaines valeurs (inclusion, dignité) et droits fondamentaux (vie privée, liberté d’expression), consacrer un droit à l’autodétermination informationnelle ou encore « publiciser » et internationaliser la gouvernance d’un monde numérique accaparé par des acteurs privés.
L’indépendance n'est pas (encore ?) à l’ordre du jour, comme le montre le projet d’hébergement des données de santé des Français (Health Data Hub) sur un cloud géré par Microsoft, ou encore le renouvellement du contrat de la Direction générale de la sécurité intérieure (DGSI) avec l’entreprise Palantir. Pour autant, Jacques Priol dresse une liste d’enseignements concrets à destination des collectivités qui se rêvent smart et vertueuses : de la diffusion d’une culture de la donnée à la question d’un urban data center, en passant par l’information des citoyens qui vivent ou traversent une zone « smart », par exemple en s’appuyant sur le travail remarquable de signalétique inclusive élaboré par Sidewalk Labs. En effet, Quayside offrait sur certains points des garanties dont bien des projets en cours devraient s’inspirer. L’auteur dénonce ainsi vigoureusement les effets selon lui contre-productifs d’expérimentations comme à Nice, que ce soit en matière de reconnaissance faciale et de « safe city », ou de partenariat avec Uber (pp.140-149). Pour s’emparer de manière souveraine des outils digitaux de gestion urbaine, Jacques Priol nous invite donc à «faire de la politique et construire politiquement les villes intelligentes », en inventant un « cadre de confiance », « un pacte nouveau, intégré au pacte démocratique ».
« Pour être intelligente, une ville doit être efficace et optimisée certes, mais ceci ne fait ni un projet politique, ni même un projet d’administration. Au choix, selon les priorités du mandat ou du moment, la smart city est donc aussi définie comme une ville innovante, durable, raisonnée, sobre, résiliente, attractive, solidaire, inclusive, partagée, ouverte, transparente, citoyenne... » (p. 25).
Pour La Fabrique de la Cité, le modèle est pluriel : toutes les « smart cities » ne mettent pas le numérique au cœur du réacteur, voire s’en détournent dans une perspective de transition comme le propose les concepts de « dumb city », la ville « bête low-tech », ou encore de « linking city », les villes reliantes qui placent la dimension humaine au cœur de la durabilité urbaine. Mais n’est-il pas trop tard pour chercher à contrôler la puissance des géants du web ? Alors que pour les pouvoirs publics, la fiscalité reste l’un des leviers les plus puissants, les premiers pas effectués par l’administration américaine fin février en faveur d’une taxation des Gafam pourraient bien changer la donne, et donner aux rapports de force une nouvelle dimension…
Article
Longtemps confinée aux pages de la science-fiction dans l’esprit du plus grand nombre, cette classe de technologies est désormais omniprésente dans notre quotidien numérique.
Article
Comment déterminer la balance bénéfices-risques de technologies aux progrès à la fois fulgurants et exponentiels ?
Article
Comme dans les pires dystopies, ce « golem » moderne, et bien réel, pourrait-il devenir assez autonome pour s’émanciper de ses maîtres ?
Article
Quelles perspectives les débats actuels sur la souveraineté numérique ouvrent-ils pour l’évolution des services publics locaux ?
Article
Quel rapport entre écologie et souveraineté numérique ? Découvrez les enjeux soulevés par le rapport rendu par le Haut Conseil pour le Climat en décembre 2020.
Article
La Revue dessinée a publié plusieurs reportages sur les conséquences écologiques et sociales de nos usages digitaux. Avec humour, l'un de ces textes nous permet de prendre la mesure du piège écologique que constitue notre addiction au numérique.
Article
Jacques Priol, consultant en gouvernance des données, tire les enseignements du projet Quayside à Toronto.
Article
Et si le web nous rendait fou ? Ou pire, malheureux ? Analyse de l’impact des TIC sur notre santé mentale…
Interview de Joël de Rosnay
Scientifique, prospectiviste, conférencier et écrivain
Étude
L'enjeu est de comprendre que si l'ère de l'information dans laquelle nous entrons est une donnée, forte, incontournable, qui s'impose à tous, ce sont bien les acteurs de la société qui inventent les usages.
Quels sont les enjeux soulevés par l'IA ?
Interview de Gabriele de Seta
Anthropologue des médias
Interview de Christian Katzenbach
Senior Researcher à l'Institute for Internet and Society de l'Université Alexander von Humboldt de Berlin
Interview de Rachel Maguire
Directrice de recherche à l'Institute for the Future, à Palo Alto (Californie)
Interview de Pierre Arnal
Vice-Président d’ADDACTIS GROUP
Interview de Frédéric Droin et Thierry Mazoyer
Directeur R&D et Directeur Innovation ACOEM Group
Étude
Une analyse des enjeux qui entourent l'intelligence artificielle.