Contre-atlas de l’intelligence artificielle
Introduction
L’introduction compte cinq parties enlevantes : Le cheval le plus intelligent au monde, L’IA n’est ni artificielle ni intelligente, Voir l’IA comme un atlas, Topographies computationnelles, Extraction, pouvoir et politique.
[ a ] Un récit historique sert d’amorce : Le cheval le plus intelligent au monde. Cette histoire étonnante porte sur le dressage du cheval Hans le Malin par le professeur de mathématique Wilhelm von Osten (1838-1909). L’autrice australienne y dégage deux mythes : les systèmes non humains sont analogues à l’esprit humain; l’intelligence a une existence indépendante. Elle constate que ces mythes sont particulièrement présents dans le domaine de l’intelligence artificielle (IA) : « Ces mythologies sont particulièrement fortes dans le domaine de l’intelligence artificielle, où l’idée que l’intelligence humaine peut être formalisée et reproduite par des machines est axiomatique depuis le milieu du XXe siècle. »
[ b ] Le but de l’autrice est précisé sous un thème saisissant : L’IA n’est ni artificielle ni intelligente. Après avoir relevé différentes définitions de l’IA, elle écrit : « J’affirme au contraire, dans cet essai, que l’IA n’est ni artificielle ni intelligente. Au contraire, l’intelligence artificielle est à la fois incarnée et matérielle, faite de ressources naturelles, de carburant, de main-d’œuvre humaine, d’infrastructures, de logistique, d’histoires et de classifications. »
[ c ] Dans la séquence intitulée Voir l’IA comme un atlas, l’autrice détaille d’abord les spécificités des atlas, soit leur valeur scientifique (aspect objectif) et leur acte de créativité (aspect subjectif). Elle justifie ensuite son recours à la métaphore de l’atlas : « Ce que je suggère, en évoquant un atlas, c’est qu’il nous faut trouver de nouvelles manières de comprendre les empires de l’intelligence artificielle. » D’une façon magistrale, Kate Crawford illustre ensuite cette approche personnelle et didactique.
[ d ] Sous le thème Topographies computationnelles, le contenu de chacun des six chapitres du livre est présenté sommairement : La Terre, La main-d’œuvre, Les données, La classification, Les affects, L’État. L’ensemble se veut « une vision élargie de l’intelligence artificielle comme industrie extractive. »
[ e ] Extraction, pouvoir et politique, le volet conclusif de l’introduction, évoque l’impact de l’IA sur le monde actuel : « En résumé, l’intelligence artificielle est désormais un acteur qui détermine ce qu’est le savoir, la communication ou le pouvoir. […] C’est pourquoi nous devons aborder l’IA en tant que force politique, économique, culturelle et scientifique. »
Atlas de l’AI
Rappelons que Kate Crawford utilise le terme atlas d’une façon métaphorique. Ainsi, le livre ne contient pas de plans ou de cartes géographiques. Par contre, les lieux les plus significatifs de l’industrie extractive sont bien identifiés et localisés. Par exemple, ils peuvent être repérés sur l’Atlas Google et leurs sites Internet peuvent aussi être consultés sur la Toile. Les histoires et les descriptions de ces sites sont détaillées, en lien avec l’intelligence artificielle. Leur importance respective et leur impact respectif sont soulignés dans chacun des six chapitres thématiques.
Quelques exemples de sites sélectionnés par l’autrice où se déroule l’extractivisme destiné à l’industrie de l’intelligence artificielle.
[ 1 ] La Terre (ressources naturelles)
Les mines de lithium de Silver Peak (Clayton Valley, Nevada, É.-U.)
Les mines de terres rares de Baya Obo (Baotou, Mongolie-Intérieure, Chine)
Les mines d’étain de Bangka et de Belitung (Sumatra, Indonésie)
La consommation d’eau à Bluffdale (Utah, É.-U.)
Le transport des minéraux par des conteneurs de fret standardisés (monde)
« L’enchevêtrement fondamental de la production, de la fabrication et de la logistique nous rappelle que les mines qui alimentent l’IA sont partout […] ».
[ 2 ] La main-d’œuvre (automatisation du lieu de travail)
Le centre de distribution d’Amazon à Robbinsville (New Jersey, É.-U.)
Les employés de MacDonald’s (Californie, É.-U.)
« L’IA et la supervision algorithmique ne sont que des technologies les plus récentes dans la longue histoire des usines, des horloges et des architectures de surveillance. »
[ 3 ] Les données (massives d’entraînement)
Les photos d’identité judiciaire du National Institute of Standards and Technology (Gaithersburg, Maryland, É.-U.)
La reconnaissance vocale chez IBM Research (Cambridge, Massachusetts, É.-U.)
La base de données textuelle annotée du Penn Treebank Project (Université de Pennsylvanie, Philadelphie, É.-U.)
Les archives Enron (Federal Energy Regulatory Commission, Washington, É.-U.)
La reconnaissance faciale du programme Face Recognition Technology (FERET / Université George Mason, Virginie ; Washington, Department of Defense, É.-U.)
La reconnaissance des objets du programme ImageNet (Université de Princeton, New Jersey, É.-U.)
La base de données CalGang (Police de Los Angeles, Californie, É.-U.)
La base de donnée du National Health Service (NHS, Royaume-Uni)
« Le mythe de la collecte de données comme pratique bienveillante en informatique dissimule le déploiement de son pouvoir, protège ceux qui en profitent le plus et les soustrait à toute responsabilité quant à ses effets négatifs. »
[ 4 ] La classification (des données d’entraînement et des systèmes techniques)
La collection de crânes de Samuel Morton (Penn Museum, Philadelphie, É.-U.)
Le processus de recommandation et d’embauche des employés d’Amazone
La reconnaissance faciale du programme Diversity in Faces (IBM, Armonk, É.-U.)
La reconnaissance des objets du programme ImageNet (Université de Princeton, New Jersey, É.-U.)
L’ensemble de données UTK Face (Université du Tennessee, Knoxville, É.-U.)
« Chaque classification a ses conséquences. »
[ 5 ] Les affects (politique des visages)
Le projet de reconnaissance des émotions de Paul Ekman (Okapa, Papouasie-Nouvelle-Guinée)
Le programme Affectiva (Massachusetts, Boston, É.-U.)
Le système de reconnaissance FACS de Paul Ekman et ses dérivés
« Les zones de la vie où opèrent ces systèmes s’étendent aussi vite que les labos et les entreprises peuvent créer de nouveaux marchés pour eux. »
[ 6 ] L’État
Les archives du lanceur d’alerte Edward Snowden (NSA, Washington, É.-U.)
La Troisième stratégie de compensation (Département de la Défense, Washington, É.-U.)
Le Projet Marven (Département de la Défense, Washington, É.-U.)
L’entreprise Palantir (Denver, Colorado, É.-U.)
L’entreprise Vigilant Solutions (Cincinnati, Ohio, É.-U.)
Les caméras Ring de l’application Neighbors (Amazone, É.-U.)
Les frappes de signature (NSA, Washington, É.-U.)
Le programme Michigan Intergeted Data Automated System (MiDAS) (Lansing, É.-U.)
« Les données doivent être extraites dans le monde entier et structurées afin de préserver l’hégémonie américaine. »
Compléments
Les six enquêtes approfondies de Kate Crawford sont suivies d’une conclusion (Le pouvoir), d’une coda (L’espace), des remerciements (5 pages), des notes (117 pages), d’une bibliographie exhaustive (51 pages) et d’un index (15 pages).
Conclusion (Le pouvoir)
Après avoir formulé une synthèse de son ouvrage, l’auteure passe en revue les conclusions de chacune de ses analyses. Ensuite, elle esquisse des moyens susceptibles de contester l’IA pour en limiter le pouvoir et l’asservir davantage à la majorité des humains plutôt qu’à une minorité déjà super puissante.
Coda (L’espace)
La seconde conclusion de Kate Crawford est consacrée aux ambitions et projets de Jeff Bezo, en lien avec ses entreprises Blue Origin et Amazone. L’auteur traite également d’ une source d’inspiration du multimilliardaire : Les villes de l’espace (1976), un roman de science-fiction écrit par Gerald O’Neill en réaction au fameux Rapport sur les limites de la croissance (Club de Rome, 1972).
Appréciation
Cet ouvrage est assurément un livre de référence pour connaître et comprendre les origines, les constituants, les enjeux, mais aussi les impacts de l’intelligence artificielle sur le monde et les humains. Il constitue également une source majeure d’informations et de réflexions pour toutes les personnes désirant agir au service de l’humanité, plutôt qu’au seul profit des classes dirigeantes (économique, politique, technologique). Par ailleurs, le style d’écriture est dynamique et plaisant.
Référence
Crawford, Kate. – Contre-atlas de l’intelligence artificielle. Les coûts politiques, sociaux et environnementaux de l’IA. – Traduit de l’anglais (Australie) par Laurent Bury. – Paris : Éditions Zulma, 2023. – 377 p. – ISBN 979-1-0387-0237-0. – [Citations / Introduction : p. 15, 19, 22, 26, 32-33 ; Atlas : p. 64, 103-104, 145, 176, 208, 240].
Image
Belvédère Léo-Ayotte (Michel Goulet, Les leçons singulières, 1991) Photo © 2007 Claude Trudel, Le monde en images, CCDMD
Aucun commentaire:
Publier un commentaire