Quand l’algorithme décide

Le livre de Steve Jacob et Sébastien Brousseau, intitulé Quand l’algorithme décide, est sous-titré L’État, l’IA et nous.

Cette citation de l’introduction en précise le but et le contenu :

À une époque où les questions de justice sociale et d’inclusion occupent une place centrale dans nos sociétés, il est essentiel de comprendre comment l’IA peut être utilisée par les organismes publics pour concevoir et fournir des services publics justes, équitables et exempts de discrimination. Pour y parvenir, il est nécessaire de décoder les biais algorithmiques. C’est à cela que nous nous employons dans cet ouvrage.

Structure

Les parties préliminaires :

Préface du protecteur du citoyen Marc-André Down (3 pages)
Table des matières
Liste des encadrés (6) et des figures (2)
Remerciements
Introduction : Cet algorithme pourrait vous gâcher la vie ! (18 pages)

Les trois chapitres du volume :

L’intelligence artificielle dans le secteur public (34 pages)
Décryptons les biais algorithmiques (46 pages)
Pistes d’action pour une administration numérique sans discrimination (29 pages)

Les parties complémentaires :

Conclusion (5 pages)
Annexe : Grille de réflexion sur l’utilisation des algorithmes dans le secteur public (4 pages)
Bibliographie (17 pages)

Aperçu

Ce petit livre de 175 pages est à la fois un ouvrage d’information, de réflexion et d’action. Les exposés sont limpides et les exemples nombreux. L’ouvrage s’adresse principalement aux responsables politiques, aux membres de la fonction publique et à toutes les personnes soucieuses de l’avenir des services publics.

Quelques exemples de sujets abordés dans l’ouvrage :

Définition du mot algorithme
Cas d’utilisation de l’IA dans le secteur public : éducation, emploi, fiscalité, immigration, justice, sécurité, santé
Définition de biais algorithmiques
Comment apparaissent les biais algorithmiques
Principaux types de biais algorithmiques : descriptions exemplifiées de ces biais au cours des quatre étapes du pipeline de l’IA
Plan d’action pour éviter les discriminations : les cinq pièges à éviter
Publier des informations détaillées dans un registre public des algorithmes
Les dimensions techniques et humaines de la Grille de réflexion sur l’utilisation des algorithmes dans le secteur public

Terminons cette présentation sommaire par ces propos formulés par les auteurs dans la conclusion de l’ouvrage :

Notre analyse met en évidence le fait que l’équité et la justice sont des caractéristiques des systèmes sociaux, plutôt des propriétés intrinsèques aux outils technologiques. […] Le principal défi que doivent relever les organisations publiques souhaitant utiliser l’IA réside dans la compréhension, l’identification, l’atténuation ou la suppression des biais d’une manière réfléchie et responsable.

Appréciation

Fruit de recherches approfondies, comme l’illustrent les références dans les exposés et la bibliographie exhaustive, ce livre de référence pourra s’avérer utile, voire indispensable, à tous les décideurs et décideuses. C’est une synthèse remarquable dont toutes les citoyennes et tous les citoyens ont intérêt à prendre connaissance.

Un super guide théorique et pratique !

Référence

Jacob, Steve; Brousseau, Sébastien. – Quand l’algorithme décide. L’État, l’IA et nous. – Préface du protecteur du citoyen Marc-André Down. – Québec : Presses de l’Université Laval (PUL), 2025. – xvi, 159 p. – ISBN 978-2-7663-0724-1. – [Citations : p. 6, 133-134]. – BAnQ : 351.028563 J158q 2025.

Article connexe

Ressources documentaires sur l’intelligence artificielle