Chapitre 15 : Éthique, biais et équité

La définition la plus courante de l'éthique en matière d'IA dans le discours public canadien va à peu près comme ceci : les systèmes d'IA produisent…

La définition la plus courante de l'éthique en matière d'IA dans le discours public canadien va à peu près comme ceci : les systèmes d'IA produisent parfois des extrants biaisés, le biais reflète un biais dans les données de formation, la solution est de nettoyer les données et de vérifier les modèles, et une fois les problèmes techniques résolus, l'IA sera juste. Le cadrage a la structure d'un problème d'ingénierie avec une solution technique. Ce chapitre soutient que le cadrage est erroné, ou plus précisément qu'il est incomplet d'une manière qui compte dans la pratique. La conversation de partialité et d'équité dans l'IA est réelle, les problèmes techniques documentés dans la littérature académique sont réels, et les corrections proposées ont réellement amélioré les choses dans certains contextes. Mais la conversation, prise seule, traite les symptômes tout en laissant la structure qui les produit intact. La question plus profonde, qui a été soulevée le plus clairement par les Lewis, Whaanga et Yolgörmez Des renseignements abondants Le document présenté au chapitre 1 n'est pas de savoir si l'IA peut être rendue moins partiale dans ses fondements actuels. C'est à savoir si les fondations elles-mêmes font ce qu'on prétend faire, et dont elles ont été construites pour servir les intérêts. C'est là l'évolution méthodologique centrale du chapitre. L'éthique de l'IA n'est pas avant tout un problème d'éthique; c'est un problème épistémologique. Une fois que ce déplacement a lieu, la littérature sur les préjugés techniques et l'équité se lit comme une couche d'une conversation plus grande et les modèles de lavage de l'éthique de l'entreprise deviennent plus faciles à repérer. Et les cadres dirigés par les Autochtones introduits dans tout le guide deviennent l'alternative qu'ils sont réellement, plutôt que la boîte à cocher de diversité qu'on les traite parfois comme. Vous partirez avec : la distinction de travail entre le paradigme dominant d'éthique en matière d'IA dans l'Ouest et les alternatives qui impliquent directement l'épistémologie; des cas canadiens documentés précis de biais algorithmique et leurs leçons; les limites des correctifs techniques; les véritables débats de la littérature sur l'équité algomatique présentés honnêtement; le lien entre le biais et l'analyse de la structure du pouvoir que le guide a construit tout au long; le programme constructif Des renseignements abondants engagé dans la pratique; et le test de travail pour évaluer toute revendication en matière de déontologie en matièred'IA. ---

Qu'est-ce que le « biais » dans les systèmes d'IA

Commencez par le terme lui-même, parce que la discussion publique l'utilise dans au moins trois sens distincts.

Préjugé statistique. Le sens technique des mathématiques sous-jacentes : une déviation systématique entre la valeur attendue d'un estimateur et la vraie valeur du paramètre en cours d'estimation. Dans l'apprentissage automatique, le biais statistique désigne spécifiquement les erreurs qui reflètent les hypothèses du modèle plutôt que le caractère aléatoire des données. Un système formé sur un ensemble de données qui contient principalement des visages masculins aura une plus faible précision sur les visages féminins; la moins grande précision est le biais statistique au sens technique.

Les préjugés sociaux. Le sens quotidien : favoritisme systématique pour ou contre des groupes spécifiques de personnes en fonction des caractéristiques démographiques. Une IA d'embauche qui rejette systématiquement les demandes de candidats racialisés présente un biais social, que les mathématiques sous-jacentes montrent un biais statistique par rapport à un paramètre spécifique.

Préjugé structurel. Le sens que le guide a développé à travers les chapitres 1, 3, 9 et 10 : la façon dont les systèmes d'IA reproduisent et amplifient les structures de puissance et la distribution des ressources des sociétés qui les produisent. Les données de formation représentent trop de voix et sous-représentent d'autres. Le travail d'étiquetage est effectué par des travailleurs à bas salaires dans le Sud mondial. Les décisions de déploiement sont prises par les acteurs corporatifs qui ont le plus d'intérêt économique direct. Les avantages en découlent de façon disproportionnée pour les investisseurs et les utilisateurs. Chacun de ces éléments est biais au sens structural même si aucun algorithme spécifique du système n'indique un biais techniquement mesurable contre un groupe protégé particulier.

Ces trois sens sont liés, mais pas identiques. Un système peut présenter un faible biais statistique et un haut biais social (si les données de formation sous-jacentes reflètent fidèlement des modèles historiques discriminatoires, la prédiction techniquement impartiale reproduit la discrimination). Un système peut avoir un faible biais social sur les catégories protégées mesurées et un biais structurel élevé (s'il ne désavantage aucun groupe démographique spécifique mais concentre encore la valeur économique avec un petit groupe d'acteurs de l'entreprise). Les conversations au sujet du biais de l'IA glissent souvent entre ces sens de manière à produire des arguments confus.

Le guide demande aux lecteurs de déterminer quel sens est utilisé dans toute allégation de partialité particulière. La plupart des énoncés d'éthique de l'IA de la société traitent des biais statistiques et (dans une moindre mesure) des préjugés sociaux. Ils s'attaquent rarement aux biais structurels parce que les biais structurels nécessiteraient des changements structurels que le cadre organisationnel n'est pas conçu pour produire.

---

Cas canadiens documentés

La conversation biaisée se produit souvent à haute abstraction. L'établir dans des cas particuliers au Canada fournit la base empirique pour ce qui est réellement de la conversation.

Aperçu clair de l'IA et des mesures d'application de la loi au Canada. En tant qu'affaire concernant la protection de la vie privée, l'affaire Clearview IA est également une affaire de partialité et d'équité. Des recherches universitaires indépendantes ont révélé des taux beaucoup plus élevés de faux matches pour la reconnaissance faciale de l'IA chez les personnes à peau foncée, chez les femmes et chez les jeunes. L'étude Gender Shades de Joy Buolamwini et Timnit Gebru (MIT, 2018) a trouvé des systèmes commerciaux de reconnaissance faciale avec des taux faussement positifs plus de dix fois plus élevés pour les femmes à peau foncée que pour les hommes à peau plus légère. Les évaluations subséquentes du NIST (National Institute of Standards and Technology, 2019 et mises à jour) ont confirmé et caractérisé ces disparités dans la plupart des systèmes commerciaux de reconnaissance faciale. Lorsque les organismes d'application de la loi canadiens utilisent Clearview IA sans autorisation appropriée, les taux d'exactitude disparates signifient que les Canadiens racialisés, en particulier les Canadiens noirs et autochtones, sont exposés de façon disproportionnée à une identification injustifiée. Il s'agit d'un biais documenté dans un déploiement canadien documenté, et non d'une préoccupation abstraite.

GOBLIN FACTS — "plus de dix fois" a des nombres réels. Dans l'étude de 2018 Gender Shades, les systèmes commerciaux de classification des sexes ont mal lu les femmes à peau foncée jusqu'à 34,7 % du temps et les hommes à peau plus légère 0,8% du temps (Buolamwini & Gebru). Même produit, même démo. Un numéro pour la brochure, un autre pour les gens sur lesquels elle travaille le plus mal.
🧌 GOBLIN CHECK — Un système qui est 99% précis en moyenne et 90% précis sur votre visage n'est pas, pour vous, 99% exact. Les moyennes sont celles où les disparités se produisent pour les relations publiques. Chaque fois que quelqu'un cite un numéro de précision pour un système utilisé sur des millions de visages différents, demandez la panne. Buolamwini et Gebru ont demandé la panne, et la panne était toute l'histoire.

Les outils de prévention des risques de la police de Toronto. Au cours de la dernière décennie, le Service de police de Toronto a exploré plusieurs outils algorithmiques de prévision des risques — logiciels qui visent à prédire où la criminalité est susceptible d'être commise, quelles personnes sont susceptibles de récidiver et quels appels exigent une réponse. Ces outils ont fait l'objet de critiques importantes de la part d'organisations de libertés civiles, de l'Association canadienne des libertés civiles et de défenseurs de la communauté racialisée, au motif qu'ils reproduisent les modèles de police existants, qui reflètent eux-mêmes des histoires documentées de trop-police racialisée. Les déploiements particuliers de Toronto et leurs résultats sont partiellement documentés; les vérifications indépendantes exhaustives sont limitées. Le biais structurel est que la prévision du risque algorithmique formée sur les données policières historiques orientera les services de police futurs vers les mêmes collectivités qui ont été historiquement surpolies, produisant une boucle de rétroaction que l'algorithme expérimente comme prédiction exacte.

Avantages fédéraux et algorithmes d'admissibilité. Service Canada et les systèmes provinciaux d'administration des prestations utilisent de plus en plus le traitement automatisé pour l'admissibilité à l'assurance-emploi, les déterminations d'aide sociale, les décisions relatives au statut d'immigration et d'autres mesures administratives corrélatives. Le Registre d'IA du Conseil du Trésor (chapitre 10) documente bon nombre de ces systèmes. Plusieurs ont fait l'objet de contestations juridiques ou de plaintes administratives, lorsque le traitement algorithmique a produit des résultats que les auteurs de la loi sous-jacente n'avaient pas envisagés. La décision de la Cour suprême dans l'affaire Ewert c. Canada (retraitée intégralement au chapitre 10) demeure la chose la plus proche que le droit canadien ait à faire face à un cas de partialité dans les outils de décision de style algorithmique, et elle précède la vague actuelle d'IA. La tendance générale : les gouvernements fédéral et provinciaux mettent l'IA en oeuvre dans les décisions qui ont une incidence sur l'admissibilité de base des Canadiens aux prestations, au statut et aux services, et les conséquences partiales et équitables de ces déploiements sont principalement visibles par des défis individuels plutôt que par une vérification publique systématique.

Déploiements d'IA de soins de santé. Plusieurs autorités canadiennes de la santé déploient l'IA dans l'imagerie diagnostique, les décisions de triage, l'analyse prédictive et l'allocation des ressources. Les avantages de certaines applications (exactitude de l'imagerie pour certains cancers, prédiction de septicémie, dépistage de la santé mentale) sont réels et documentés. Les préjugés sont aussi réels : les données de formation qui sous-représentent des populations spécifiques (en particulier les communautés autochtones, les communautés racialisées et certaines données démographiques sur l'âge et le sexe) produisent des systèmes moins précis sur ces populations. **L'article classique de Science publié en 2019 par Obermeyer et ses collègues documentait un algorithme américain de prévention des risques pour les soins de santé qui sous-attribuait systématiquement des soins aux patients noirs parce qu'il utilisait des dépenses de santé historiques comme substitut des besoins en soins de soins, et les dépenses de soins de maladie historiques étaient plus faibles pour les patients noirs en raison de disparités d'accès documentées.** L'algorithme n'était pas biaisé contre les patients noirs au sens démographique direct; il était partial contre eux à travers le choix structural dont le proxy à utiliser. Le même modèle fonctionne presque certainement dans l'IA de soins de santé au Canada, mais il est moins documenté publiquement parce que les données sur les soins de soins canadiens sont moins accessibles aux chercheurs indépendants.

Embauchage et dépistage de l'emploi. Documenté dans la discussion sur la surveillance en milieu de travail du chapitre 10, des outils d'embauche fondés sur l'IA ont été mis en évidence dans plusieurs études pour démontrer des préjugés à l'égard des femmes, des candidats racialisés, des travailleurs âgés, des personnes handicapées et des personnes ayant des noms non occidentaux. Amazon a abandonné son embauche interne en 2018 après avoir découvert qu'elle avait appris à désavantager les candidatures faisant référence aux collèges de femmes et à certaines associations professionnelles féminines. **La Loi sur le travail pour les travailleurs de l'Ontario (en vigueur le 1er janvier 2026) oblige les employeurs qui comptent plus de 25 employés à divulguer l'utilisation d'IA dans le cadre de la présélection d'embauche, mais n'exige pas de vérifications partiales ni de limitation de l'utilisation elle-même.** Le modèle de divulgation sans restriction constitue la base de référence opérationnelle au Canada.

Ces cas ne sont pas des exemples exceptionnels choisis pour inculper IA. Ce sont des exemples typiques de la façon dont les déploiements d'IA fonctionnent lorsque les considérations de partialité et d'équité sont traitées par le biais de cadres éthiques ministériels plutôt que par des protections structurelles. Le modèle est documenté dans des centaines de cas supplémentaires à l'échelle mondiale. La question du biais n'est pas de savoir s'il existe des cas de biais documentés; la question du parti pris est de savoir quelle devrait être la réponse structurelle au biais documenté.

La réponse du public canadien à ces tendances documentées est plus forte que ne le laisse entendre la réponse de la politique. La recherche du Commissariat à la protection de la vie privée de 2024-25 a révélé que : 88 % des Canadiens ont fait part de préoccupations au sujet de l'utilisation de leurs renseignements personnels pour former les systèmes d'IA, y compris 42 % qui ont déclaré être extrêmement préoccupés. . La confiance dans les entités déployant l'IA est également faible : seulement 28 % des Canadiens ont une confiance équitable ou importante dans « Big Tech » pour protéger les renseignements personnels, et seulement 12 % ont une foi équivalente dans les entreprises de médias sociaux . Ces chiffres ont une incidence sur la dimension de confiance du public dans la conversation sur les préjugés et l'équité : lorsque les cas de partialité documentés s'accommodent d'une faible confiance institutionnelle, l'écart de légitimité que les cadres d'éthique organisationnelle sont censés combler augmente plutôt que se rétrécir. La question méthodologique que le guide demande aux lecteurs est de savoir si l'écart peut être comblé par des énoncés d'éthique plus élaborés ou s'il faut le combler en fonction des changements structurels auxquels le reste du chapitre se livre.

---

La littérature sur l'équité algorithmique — ce qu'elle offre et ce qu'elle ne fait pas

Le domaine académique de l'équité algorithmique a produit des travaux techniques et conceptuels substantiels au cours de la dernière décennie. L'engagement sincère sur le terrain exige de reconnaître à la fois ce qu'il a accompli et quelles sont ses limites.

Ce que le terrain a accompli. Plusieurs définitions formelles de l'équité ont été élaborées et utilisées : parité démographique (taux de résultats égaux selon les groupes), chances égales (taux d'erreur égaux selon le groupe), calibrage (probabilités prévues correspondent aux taux réels selon les différents groupes), équité individuelle (des personnes semblables reçoivent des prédictions similaires). Il existe des outils et des techniques pour mesurer les biais dans les systèmes déployés, pour ajuster les procédures de formation afin de réduire les paramètres de biais spécifiques et pour documenter le rendement du modèle selon les catégories démographiques. Les grands laboratoires d'IA et de nombreux déploiements d'entreprise incluent maintenant une forme de tests de partialité et d'équité comme pratique courante. Le travail a permis de réaliser de réelles améliorations dans des contextes spécifiques — les taux d'exactitude disparates des systèmes de reconnaissance faciale se sont considérablement réduits depuis les conclusions de l'enquête Gender Shades 2018, les outils d'IA de soins de santé ont commencé à utiliser des données de formation plus représentatives et les outils de recrutement ont été vérifiés et ajustés.

La contribution intellectuelle. L'article de Kleinberg, Mullainathan et Raghavan, ainsi que les travaux ultérieurs de Chouldechova et d'autres, ont établi un résultat fondamental : Plusieurs définitions intuitives de l'équité sont mathématiquement incompatibles les unes avec les autres dans de nombreux scénarios réels. Un système qui satisfait la parité démographique peut ne pas satisfaire les chances égales, et vice versa. Un système étalonné également entre les groupes peut présenter des taux d'erreur différents selon les groupes. Le résultat de l'impossibilité signifie que « rendre l'IA équitable » n'est pas un objectif d'ingénierie bien établi tant que la définition spécifique de l'équité n'a pas été choisie, et le choix implique des compromis de valeur qui sont politiques et éthiques plutôt que purement techniques. Il s'agit d'un travail intellectuel important et le domaine mérite d'être reconnu.

Quelles sont les limites du champ. Trois limites structurales qui méritent d'être nommées :

Premièrement, l'accent mis sur les produits. La recherche sur l'équité algorithmique se concentre principalement sur les extrants des systèmes d'IA — si les prédictions sont tout aussi précises entre les groupes, si les décisions sont également favorables. Il aborde moins directement les questions en amont de savoir qui a construit le système, qui a choisi l'objectif, qui finance le déploiement et qui bénéficie du déploiement. Une embauche parfaitement conforme à la situation démographique et fondée sur la parité a été déployée dans un environnement organisationnel où les cadres racialisés sont sous-représentés dans la décision d'embauche, ce qui tend à renforcer cette sous-représentation, car la mesure de « bonne embauche » a été définie par la population de cadres supérieurs existante. La correction de l'équité à la couche de sortie n'aborde pas le biais de la couche métrique-définition.

Deuxièmement, l'accent est mis sur les catégories protégées. L'infrastructure juridique du droit antidiscrimination (au Canada, l'article 15 de la Charte canadienne des droits et libertés, la Loi canadienne sur les droits de la personne, les codes provinciaux des droits de l'homme) fournit une liste de catégories protégées. La recherche sur l'équité algorithmique s'est principalement organisée autour de ces catégories. Les biais structurels qui ne sont pas associés à des catégories protégées (partialité économique, parti pris géographique, partialité linguistique, particularisme générationnel, partialisme d'effet réseau) reçoivent moins d'attention. Un système qui désavantage les Canadiens des régions rurales, les Canadiens à faible revenu, les francophones ou les travailleurs des industries en déclin peut ne pas pouvoir être traité par le cadre d'équité algorithmique même si le désavantage est documenté et important.

EXAMPLE — le code postal qui veut dire « origine ». Dites à un modèle d'ignorer l'origine ethnique et il lui trouvera un substitut : le code postal, le nom de famille, l'école secondaire. Retirez ceux-là, il en trouve d'autres. Voilà pourquoi « on a enlevé le champ sensible » élimine si rarement le biais — le monde est corrélé, et le modèle excelle à le remarquer.

Troisièmement, l'accent est mis sur les solutions techniques. Même lorsque la littérature sur l'équité énumère les problèmes structurels, les solutions proposées tendent vers des corrections techniques : données plus propres, mesures plus précises, algorithmes mieux audités. Les solutions qui nécessiteraient des changements structurels (différentes appropriations des systèmes d'IA, différents modèles de financement et de gouvernance, différentes décisions sur les problèmes à résoudre) reçoivent moins d'attention, car elles ne sont pas du tout méthodologiques. Ce n'est pas un échec de chercheurs individuels. C'est une caractéristique structurelle de la façon dont les champs académiques dessinent la frontière autour de ce qu'ils étudient.

Faire le point. La littérature sur l'équité algorithmique fait du vrai travail, produit des améliorations réelles et développe des contributions intellectuelles vraiment importantes. Il fonctionne également dans un cadre qui répond à certaines des questions soulevées par les préoccupations de partialité et d'équité en matière d'IA et non à d'autres. Lire le champ comme la conversation complète sur l'éthique de l'IA, plutôt que comme une couche d'une conversation plus grande, donne une image partielle que le champ lui-même encourage parfois. Les questions plus approfondies sur les intérêts de qui l'IA sert et comment ces intérêts sont encodés dans les systèmes ne sont pas principalement des questions la littérature d'équité algorithmique est conçue pour répondre.

---

Le handicap — la dimension du débat sur l'équité continue de manquer

Il y a un groupe que la littérature algorithmique-fairness a le plus de temps à voir, et c'est le groupe IA qui échoue le plus souvent : les personnes handicapées. Les deux moitiés de cette phrase sont vraies à la fois, et les tenir ensemble est le point.

Commencez par le véritable avantage, car il y a un réel avantage. Pour de nombreuses personnes handicapées, l'IA est la technologie d'assistance la plus utile d'une génération : le sous-titrage en direct pour les utilisateurs sourds et malentendants, la parole en texte et la parole texte en texte, des descriptions d'images en temps réel qui permettent à une personne aveugle de « lire » une photographie et des outils de communication pour les personnes qui ne parlent pas. Ce ne sont pas des hypothèses. Ils sont utilisés au quotidien et ils élargissent l'accès de manière que la technologie antérieure ne le pourrait pas. Un guide qui crédite les capacités de l'IA là où elles sont réelles doit les créditer.

Maintenant, les échecs, qui sont plus structurels que accessoires. Les systèmes d'IA sont formés pour bien fonctionner sur le cas moyenne, et le handicap est, presque par définition, l'ensemble des corps et des voix qui s'assoient aux bords de cette moyenne. La reconnaissance de la parole qui fonctionne pour un langage typique échoue pour un discours atypique (paralysie cérébrale, SLA, un stammer). L'analyse faciale basée sur des visages typiques mal lit les différences faciales, et la « détection d'engagement » qui note le contact oculaire pénalise les utilisateurs autistes et aveugles pour lesquels le contact visuel n'est pas le signal qu'il suppose. L'IA provocatrice d'examen déployée pendant la pandémie a maintes fois signalé que les élèves handicapés étaient « suspicieux » de regarder ailleurs, de se déplacer différemment, d'utiliser des outils d'assistance. Les systèmes d'embauche d'entrevues vidéo permettent de coter les candidats sur les expressions et les modes de voix que les candidats handicapés peuvent ne pas produire. Et les systèmes automatisés de prestations, le logiciel qui aide à déterminer l'admissibilité au soutien aux personnes handicapées et aux soins à domicile, ont dans des cas documentés aux États-Unis coupé les heures des personnes handicapées par des formules opaques que aucun travailleur de cas ne pourrait expliquer. Chaque année, le Canada automatise un plus grand nombre de ces activités. Les cas canadiens documentés sont plus minces, ce qui (comme pour les soins de santé à la section 2) reflète moins d'accès pour les chercheurs, et non moins de risque.

🧌 GOBLIN CHECK — Lorsqu'un vendeur dit qu'un système est « 99% précis », la première question du gobelin est Pour qui ? L'exactitude est une moyenne, et les personnes handicapées sont exactement les corps qu'une moyenne est construite en mettant de côté. "Travailler pour la plupart des gens" n'est pas une rassurance pour la personne pour laquelle il ne travaille pas. C'est une description de la façon dont ils ont été laissés de côté. Demandez la précision aux bords, pas le moyen. Si le fournisseur ne l'a jamais mesurée, c'est la réponse.

C'est pourquoi l'incapacité fait partie du chapitre et de en particulier : c'est la démonstration la plus nette de l'argument du chapitre selon lequel le biais n'est pas un problème de nettoyage des données. Vous ne pouvez pas équilibrer l'ensemble de données que vous allez vers l'équité en matière d'invalidité, car l'incapacité n'est pas un groupe. C'est des milliers de façons différentes, souvent individuellement rares, d'être en dehors de la norme supposée, et la logique même de l'optimisation pour la majorité est ce qui produit le mal. Jutta Treviranus, chercheuse canadienne en conception inclusive, qui dirige le Centre de recherche en conception intégrée de l'Université OCAD à Toronto, a fait valoir cet argument pendant des années : l'apprentissage automatique, en adaptant la moyenne statistique, désavantage structurellement les personnes aux extrémités de la distribution, ce qui est une description adéquate du handicap. La trousse d'outils sur l'équité algorithmique de la section Trois se heurte ici parce qu'elle a généralement besoin d'un groupe défini pour mesurer à travers, et le handicap résiste à cette définition.

Le cadre canadien est réel, mais sous-exploité. La Loi fédérale sur le Canada accessible (2019) et la loi ontarienne sur l'accessibilité établissent un droit à l'accès, et la Loi canadienne sur les droits de la personne interdit la discrimination fondée sur la déficience, mais aucun d'entre eux n'exige clairement qu'un système de décision automatisé soit testé ou tenu responsable de l' accessibilité et de la non-discrimination par conception. Le principe fondateur du mouvement des personnes handicapées, rien sur nous sans nous , désigne l'ingrédient manquant : les personnes handicapées dans la pièce lorsque ces systèmes sont construits et achetés, non consultés après le dommage. C'est la même lacune de participation que ce chapitre continue à trouver, dans un autre endroit.

C'est aussi, pour une fois, un endroit où le Canada vient de passer de la désignation de l'écart à l'écriture d'une règle. En décembre 2025, Normes d'accessibilité Canada a publié CAN-ASC-6.2, qui est la première norme nationale au monde sur l'IA accessible et équitable, rédigée en vertu de la Loi sur le Canada accessible par un comité technique composé principalement de personnes handicapées. Il est exceptionnellement concret au sujet des dommages ci-dessus. Il demande aux organisations d'inclure les personnes handicapées à toutes les étapes d'un système d'IA, de la conception à l'approvisionnement jusqu'à la vérification; de mettre les personnes invalides dans les données de formation et de « partager les résultats de performance séparément pour les personnes ayant une déficience », ce qui est la demande de précision de la gobelin qui s'est transformée en une exigence; et de donner aux personnes « le choix de ne pas utiliser l'IA », y compris un décideur humain ou un examen humain, avec l'exemple qu'une personne Sourde doit être en mesure de choisir un interprète humain plutôt qu'un interprète d'IA dans un hôpital ou un tribunal. Il trace une ligne claire à travers les problèmes de proctoration et d'embauche : les organisations devraient éviter « d'utiliser l'IA pour juger les gens en fonction de leur corps, de leur mouvement, de leurs expressions faciales ou de leurs émotions ».

Voici la prise, et c'est celle que ce livre continue de trouver. CAN-ASC-6.2 est une norme et non une loi. Il s'agit d'un point de repère volontaire qui pourrait éclairer un futur règlement en vertu de la Loi sur le Canada accessible, mais qui n'oblige encore personne, et la Loi qu'elle régit touche les organisations sous réglementation fédérale, et non le fournisseur privé vendant un outil de promotion des examens à une université. À côté de la règle unique que le Canada applique en matière de surveillance automatisée des travailleurs, l'Ontario exige que les employeurs qui comptent 25 employés ou plus maintiennent une politique de surveillance électronique, et l'écart est évident : cette règle fait que les employés divulguent qu'ils surveillent, mais n'accorde aucun droit à la vie privée et ne fixe aucune limite quant à l'utilisation des données de surveillance. Des principes forts, une application souple, qui est l'ensemble de l'échelle d'applicabilité dans un seul dossier d'invalidité.

Le bord neurodivergent de ce problème est aigu et sous-discuté. Lorsqu'une étude de 2024 a fourni des curriculum vitae presque identiques à un modèle d'IA de premier plan, le modèle a classé les versions qui mentionnaient une distinction moins élevée en matière d'invalidité et l'autisme a fait le pire des handicaps testés, avec le système de rationalisation qu'un candidat avait montré «moins d'accent sur le leadership». La même logique passe par la surveillance de la productivité de l'IA : les outils qui notent « focus », le rythme de frappe ou l'attention sur caméra sont calibrés selon un niveau de référence neurotypique, de sorte que le schéma de travail focalisé puis brisé d'une personne ayant un TDAH, ou un effet différent d'un travailleur autiste, lit au logiciel non pas comme une façon différente de travailler, mais comme une manière pire. C'est le bord-exclusion Treviranus décrit, maintenant écrire des évaluations de performance.

---

La couche épistémologique

Cela amène le chapitre au Des renseignements abondants revendication centrale du papier, introduite au chapitre 1: « Le complexe de l'IA-academique n'a pas de problème d'éthique. Il a cependant un problème d'épistémologie."

Travaillant à travers ce que cela signifie dans la pratique, en s'appuyant sur l'analyse Lewis/Whanga/Yolgörmez:

Les définitions fondamentales de l'intelligence dans la recherche sur l'IA intègrent des hypothèses historiques et culturelles spécifiques. La définition de travail dominante de Legg et Hutter en 2007 est la formulation de l'intelligence comme « la capacité générale d'un agent à atteindre des objectifs dans un large éventail d'environnements », qui découle d'une ligne de citation qui comprend la déclaration de 1994 « Mainstream Science on Intelligence » organisée par Linda Gottfredson, qui a été publiée comme défense de la tradition de recherche sur les QI contre les critiques de La courbe de Bell . La ligne de citation qui sous-tend la définition de l'intelligence donnée par la recherche AGI passe par un document contenant un contenu explicite sur la courbe raciale, c'est-à-dire la conclusion de Lewis/Whaanga/Yolgörmez, et ils citent le document directement. Leur argument n'est pas que les chercheurs de l'AGI sont personnellement racistes; leur argument est que le concept fondamental du domaine de son sujet central intègre des hypothèses d'une tradition intellectuelle particulière sans examiner d'où viennent ces hypothèses.

Le même motif fonctionne à la couche métrique. Les systèmes d'IA de référence sont évalués par rapport (exactitude sur des tâches spécifiques, performance sur des corpus d'essais normalisés, similitude avec le jugement humain expert) ont été rassemblés par des communautés particulières avec des préoccupations particulières. Ils ne mesurent pas de façon neutre la « capacité d'IA ». Ils mesurent les capacités dont ces communautés ont choisi de se soucier. Les réalisations sur les points de repère choisis vous indiquent que le système fonctionne bien sur ce que les concepteurs de repères ont aimé. Ils vous disent moins si le système fonctionne bien sur ce que les autres communautés, avec d'autres préoccupations, aimeraient.

Et le même schéma fonctionne à la couche de déploiement. Les décisions concernant les applications d'IA à construire, les problèmes à résoudre avec l'IA, et pour lesquels les utilisateurs à concevoir, sont prises par des personnes spécifiques dans des institutions spécifiques avec des ressources spécifiques. Le fait que les systèmes d'IA de soins de santé soient considérablement meilleurs dans les conditions de diagnostic communes aux populations de patients des systèmes de santé bien financés et moins bons dans les situations de diagnostic courantes dans les populations mal desservies n'est pas une coïncidence et pas principalement un échec technique. Il reflète les choix en amont sur les ensembles de données à assembler, quelles conditions à cibler, pour lesquels les utilisateurs doivent optimiser.

L'analyse de Lewis/Whaanga/Yolgörmez produit les résultats suivants : le cadrage « problème d'éthique IA » traite l'IA comme une technologie fondamentalement saine qui produit occasionnellement des sorties problématiques nécessitant une correction. Le cadre « problème d'épistémologie de l'IA » traite les problèmes éthiques apparents comme des conséquences visibles de choix structurels plus profonds : ce qui compte comme intelligence, ce qui importe comme succès et finalement dont l'intelligence compte du tout. L'encadrement éthique soutient l'amélioration progressive au sein des fondations actuelles; l'encadrement épistémologique soutient le changement de ces fondations.

Ces deux cadres ne sont pas interchangeables. Ils pointent vers différents ordres du jour politiques et produisent différentes lectures des mêmes dommages documentés — et, non pas de façon accessoire, ils ont tendance à amener différentes personnes à la table. Le guide note la distinction sans déterminer quel cadrage est correct. Cette résolution est contestée, et la méthodologie du guide demande aux lecteurs d'engager le concours plutôt que de l'effondrer.

Et parce que la méthode du guide doit s'appliquer à son propre mouvement d'organisation : le cadre épistémologique a de sérieux critiques, et ils obtiennent leur paragraphe. Les contre-lectures les plus fortes se déroulent à peu près comme suit. Une lignée de citation peut s'avérer moins importante qu'elle ne semble : les chercheurs en intelligence artificielle qui travaillent optimisent les repères et les fonctions de perte, et non la définition de Gottfredson, de sorte que la généalogie peut expliquer les points aveugles du champ sans décrire sa pratique quotidienne. La littérature d'équité algorithmique a engagé le pouvoir et la structure plus directement que le binaire éthique-versus-épistémologie lui donne crédit. Et « changer les fondations » reste, jusqu'à présent, un programme de recherche plutôt qu'une alternative démontrée à l'échelle; les prototypes des Abondant Intelligences sont réels, et ils sont également petits. Rien de tout cela ne contredit l'argument de Lewis/Whaanga/Yolgörmez. Cela signifie que l'argument est une position contestée, le guide trouve persuasif, et non un fait établi, le Guide obtient de construire gratuitement. De toute façon, le guide s'en sert. Lean a déclaré.

Une note sur ce que ce cadrage est et n'est pas. Lewis, Whaanga et Yolgörmez ne se disputent pas contre l'IA en tant que telle. Leur article est explicite sur le fait qu'ils divergeaient du camp de la « désinformatisation », la position que le développement de l'IA devrait cesser ou être substantiellement limité. Leur proposition est d'engager l'IA de différentes fondations épistémologiques plutôt que de la refuser. Le programme de recherche Des renseignements abondants est un travail technique concret : prototypes de reconnaissance d'objets en langue hawaïenne, protocoles de construction de matériel Lakota, NLP en langue autochtone, cadres pour l'IA fondés sur différentes hypothèses sur ce qu'est l'intelligence. La critique de l'épistémologie indique une pratique alternative constructive, et non un abandon. Traiter la critique comme anti-IA la caractérise mal.

---

L'IA en classe : le test d'équité Les Canadiens se rencontrent en premier

Pour la plupart des Canadiens, l'IA commence tout d'abord à prendre des décisions à leur sujet, soit à l'école, soit chez leurs enfants, et c'est un bon endroit pour regarder la question de partialité passer de la théorie à une fiche de rendement.

Commencez par la gouvernance, parce que l'écart explique le reste. Au Canada, l'éducation est exclusivement provinciale et, sur l'IA générative, les provinces n'ont pour la plupart pas agi. En 2026, seuls la Colombie-Britannique, le Québec et le Nouveau-Brunswick ont publié des directives gouvernementales à l'intention des écoles de la maternelle à 12 ans, et les trois sont explicitement des conseils consultatifs qui transmettent les décisions réelles aux conseils d'administration et aux enseignants. Le Conseil des ministres de l'éducation, organe chargé de coordonner au niveau national, n'a tenu qu'un seul débat clos et n'en a rien produit. Le projet de loi fédéral sur l'AIDA n'a jamais mentionné l'éducation. La Fédération canadienne des enseignantes et des enseignants a passé deux ans à demander à quelqu'un, n'importe qui, d'établir des règles, de nommer les risques qu'elle voit : surveillance, collecte commerciale des données sur les élèves, fracture numérique et charge de travail des enseignants. Dans ce vide, les vendeurs vendent. Il convient de noter à quoi ressemble l'inverse structurel: en 2026, le gouvernement norvégien a recommandé que l'IA reste pour la plupart hors des classes précoces, selon l'âge, avec des carve-outs pour l'accessibilité. Vous pouvez être en désaccord avec cet appel, mais c'est un appel; le Canada n'en a fait pour la plupart pas.

Le bord le plus aigu du vide est la détection, et ici les preuves sont inhabituellement propres. Les outils que les écoles utilisent pour attraper le travail écrit sur l'IA ne fonctionnent pas de façon fiable, et ils échouent dans une direction biaisée. OpenAI a tué tranquillement son propre détecteur de texte IA en 2023 après avoir correctement signalé seulement 26 pour cent du texte IA. Une étude de Stanford, examinée par des pairs la même année, a révélé que les détecteurs populaires ont signalé plus de 61 pour cent des essais TOEFL par des écrivains anglais non autochtones comme étant générés par l'IA, alors que presque jamais mal firing sur les essais par des étudiants américains, parce que les capteurs lisent le vocabulaire plus simple et la structure de phrase comme machine-like. C'est un cas de manuel du biais structurel dont ce chapitre parle : un outil qui punit un groupe pour sa façon d'écrire, et non pour ce qu'il a fait. Les universités canadiennes ont remarqué. UBC a refusé d'allumer le détecteur d'IA de Tunitin et a réaffirmé la décision; Waterloo l'a éteinte en 2025, invoquant l'irresponsabilité et les préjugés à l'égard des élèves dont la première langue n'est pas l'anglais; Guelph dit aux instructeurs de ne pas faire fonctionner les étudiants par des détecteurs. Le même mécanisme faussement positif inquiète les défenseurs de l'accessibilité au sujet des étudiants neurodivergents, bien que ce dommage spécifique n'ait pas encore été mesuré.

La surveillance est l'autre avantage, et le Canada a un cas de marquee. Pendant la pandémie, les universités ont adopté des outils de proctoration de l'IA qui surveillent les étudiants à travers leurs webcams; la détection faciale dans une a été montrée à manquer visages noirs plus de la moitié du temps, le modèle désormais familier. Lorsqu'un spécialiste de la technologie d'apprentissage de l'UBC, Ian Linkletter, a publiquement critiqué un tel fournisseur, l'entreprise l'a poursuivi. L'affaire a duré cinq ans devant les tribunaux de la Colombie-Britannique avant de se terminer par un congédiement à la fin de 2025 sans argent payé, une longue ombre glaciale sur quiconque examinerait les logiciels de surveillance en classe. La couche de données sur les élèves est régie de façon inégale : la Loi 25 du Québec exige maintenant le consentement des parents pour les données des enfants et un droit d'examen humain pour les décisions automatisées, mais une violation en 2025 d'un fournisseur de dossiers scolaires a révélé des documents sur des millions de Canadiens, et les organismes de réglementation ont constaté que les conseils n'avaient pas écrit de clauses de confidentialité dans leurs contrats.

Rien de tout cela ne signifie que la technologie est inutile dans une classe, et le récit honnête doit le dire. L'étude la plus rigoureuse à ce jour, un essai randomisé à Harvard, a révélé que les étudiants ont appris plus de deux fois plus d'un tuteur d'IA soigneusement construit que d'une solide classe d'apprentissage actif. Lire les beaux caractères, cependant, parce que c'est toute l'histoire: ce tuteur a été fortement conçu par les physiciens, l'étude a couru pour une séance sur un sujet, et ce n'est pas le chatbot hors-la-solde une école achète réellement. Lorsqu'un produit réel a rencontré de vrais étudiants à l'échelle, le résultat a été plus sobre: Sal Khan a concédé que son robot de tutorat largement promu était, pour beaucoup d'étudiants, "un non-événement", et les ventes habituelles pitch se penche sur une statistique de tutrice 1984 qui plus tard la recherche a coupé environ en deux. Il n'existe pas encore d'étude canadienne de rigueur comparable.

Les gens qui étudient cela pour une vie ont surtout convergé sur la même réponse, et ce n'est pas un détecteur. Sarah Eaton de l'Université de Calgary, la plus éminente érudit universitaire du pays en matière d'intégrité, soutient que le fait de diriger le travail des étudiants par un détecteur secret constitue lui-même une atteinte à l'intégrité par l'instructeur, et que la réponse durable consiste à repenser la façon dont l'apprentissage est évalué plutôt que d'intensifier une course aux armements de détection ingagnable. C'est le mouvement que ce guide continue d'arriver à partir d'autres directions: quand l'outil ne peut pas être fiable et la surveillance porte des coûts, la question cesse d'être "comment les attraper?" et devient "qu'essayions-nous réellement de mesurer?"

---

Le modèle de lavage de l'éthique d'entreprise

Un modèle structurel spécifique mérite d'être nommé directement parce qu'il façonne la manière dont les lecteurs devraient interpréter la plupart des documents publiés sur l'éthique de l'IA provenant de grandes sociétés.

Les grandes sociétés d'IA (OpenAI, Anthropic, Google DeepMind, Meta, Microsoft, IBM et de plus en plus Cohere) ont publié des cadres d'éthique de l'IA, des documents de principes, des structures de gouvernance et (dans certains cas) des conseils consultatifs externes. Les cadres partagent des caractéristiques communes : les engagements en matière d'équité, de transparence, de responsabilisation, de sécurité, de protection de la vie privée, d'utilisation bénéfique et de surveillance humaine. Les cadres lisent bien. La question est de savoir ce qu'ils limitent réellement.

Un test de fonctionnement spécifique. Lorsque les intérêts commerciaux d'une entreprise s'harmonisent avec un engagement éthique déclaré, l'engagement est fortement mis en œuvre. Lorsque les intérêts commerciaux sont en conflit avec l'engagement, celui-ci est mis en œuvre de façon faible ou sélective. Ce n'est pas un scandale; c'est le comportement prévisible des cadres éthiques qui répondent, en fin de compte, aux contraintes commerciales. L'obligation principale de la société est envers ses actionnaires ou investisseurs, et non pas envers son cadre d'éthique. Le cadre fonctionne comme un guide où il ne limite pas considérablement l'activité commerciale, et les rendements où il le fait.

Exemples documentés:

Les engagements de sécurité d'OpenAI et le retour en arrière du GPT-4o. OpenAI publie des engagements substantiels en matière d'essais de sécurité, de déploiement progressif et d'examen par équipe rouge. En avril 2025, OpenAI a déployé une mise à jour GPT-4o qui a produit documenté sur les modèles de comportement (réponses sycophantiques excessives, validation des croyances des utilisateurs sans repousse approprié), et a repoussé la mise à niveau seulement après la critique publique. Les processus internes d'examen de la sécurité que le cadre publié par l'entreprise semble exiger n'ont pas empêché le déploiement. Le cadre est réel; il n'a pas non plus empêché le préjudice documenté en l'espèce.

Le conseil consultatif d'éthique de Google IA et sa dissolution 2019. Google a annoncé un conseil consultatif externe en éthique de l'IA en 2019 et l'a dissous dans une semaine après des objections publiques à certains membres du conseil. La dissolution illustre un modèle : la gouvernance éthique externe s'ajoute lorsqu'elle procure des avantages sur le plan de la réputation et qu'elle est éliminée lorsqu'il suscite des controverses qui l'emportent sur les avantages sur celui-ci. Dans la pratique, l'engagement sous-jacent à l'égard du contrôle externe dépendait de l'absence de controverse que le contrôle pouvait engendrer.

La tendance à l'égard des résultats de l'IMF Stanford. Le Stanford Foundation Model Transparency Index (Chapitre 18) documente dans son édition 2025 que les scores moyens de transparence parmi les principaux développeurs de modèles ont chuté de 17 points depuis 2024 , ce qui signifie que les entreprises qui publient des engagements éthiques sont devenues mesurables moins transparent au cours de l'année où le déploiement d'IA a augmenté le plus rapidement. Les engagements en matière de transparence sont restés sur les sites Web; la transparence dans la pratique a diminué.

La structure des sociétés à prestations publiques d'Anthropic et la concentration des investisseurs. Anthropic est structurée en société d'utilité publique avec des engagements explicites en matière de sécurité et d'alignement. En 2024-2025, de grands opérateurs historiques (Amazon, Google) ont réalisé des investissements importants dans l'entreprise — soulevant la question de savoir comment cette structure de capital interagit avec la gouvernance et la prise de décision de l' société. L'engagement structurel est réel; les implications pratiques de la structure du capital sous-jacente ne sont pas entièrement résolues.

Comment lire les cadres éthiques de l'IA. Ce ne sont pas des exercices cyniques. Beaucoup de gens qui les écrivent, travaillent sur eux et essaient de les faire respecter sont sincères. Les cadres ont produit des changements réels dans certains contextes. Ils ne sont pas non plus équivalents à des réglementations contraignantes, à une surveillance indépendante ou à des changements structurels. Lire les cadres d'éthique de l'entreprise comme le principal mécanisme pour résoudre les problèmes structurels de l'IA erreurs engagements-sur-le-papier pour des contraintes réelles. Le guide demande aux lecteurs de traiter les cadres d'éthique des entreprises comme une seule contribution, l'auto-présentation des entreprises, ainsi que la littérature académique indépendante, la documentation de la société civile, le dossier des litiges et l'étude empirique des résultats réels du déploiement. Lorsque le cadre et les éléments de preuve opérationnels divergent, la preuve opérationnelle est le signal plus fiable.

ALIGNMENT — Le principe renonce-t-il? Les principes IA d'une entreprise sont faciles à écrire et à admirer. Le test est ce qu'ils coûtent: trouver le moment où l'engagement déclaré aurait bloqué un mouvement rentable, et vérifier si elle a effectivement fait. Un principe qui rapporte toujours quand l'argent est de l'autre côté est le marketing portant le costume de la gouvernance.

---

Le programme constructif Abondant Intelligences

Le chapitre a nommé la critique d'épistémologie et le modèle de lavage éthique de l'entreprise. Ce serait insatisfait de laisser les lecteurs là-bas. Le programme de recherche Lewis/Whaanga/Yolgörmez réalise des travaux techniques et conceptuels concrets qui montrent à quoi pourraient ressembler les solutions de rechange, qui se livrent à la pratique plutôt qu'à la décoration.

Le programme Des renseignements abondants coordonne les modules de recherche dans plusieurs établissements. Il est codirigé par l'Université Concordia (Jason Edward Lewis) et l'université Massey d'Aotearoa New Zealand (H-mi Whaanga), avec un pod de l'University of Lethbridge qui dessine sur Niitsitapi (Blackfoot) les détenteurs de connaissances et les membres de la communauté, et d'autres pod au Bard College de New York et à l' Université de Hawai'i à O'ahu Ouest. Le programme est financé par une subvention de transformation du Fonds de nouvelles frontières de la recherche de plus de 22 millions de dollars du gouvernement fédéral, un engagement important du gouvernement à la recherche sur l'IA dirigée par des Autochtones qui s'inscrit dans le cadre de la stratégie IA pour tous sans y figurer en bonne place.

Le programme de recherche s'articule autour de trois principes tirés des traditions épistémologiques autochtones :

Régénération. Construction de systèmes d'IA orientés vers le laisser plus pour les générations futures que ce qui est pris. Cela contraste avec la valeur par défaut d'extraction dans l'IA actuel : extraction de données de formation, grande consommation de calcul et de matériel, grand tirage d'électricité. La régénération comme principe de conception demande : quelle IA serait construite si l'exigence était que l'existence du système laisse les ressources, les communautés et les relations sous-jacentes mieux qu'elle ne les a trouvées?

Générosité. Construction d'IA orientée vers le partage avec d'autres êtres dans l'endroit où le système fonctionne : les humains, les animaux non humains, terres, eaux et l'écosystème plus large des relations. Lorsque l'IA actuelle optimise pour des objectifs étroits, la générosité recadre entièrement la question de conception — qu'est-ce qui serait construit si le système devait servir une communauté d'êtres plutôt qu'une classe étroite d'utilisateurs?

La réciprocité. Construction d'IA orientée vers la subsistance mutuelle — relations dans lesquelles le système rend à ce qui le soutient. Cela contraste avec la valeur par défaut de l'extraction unidirectionnelle dans l'IA actuelle. La réciprocité, en tant que principe de conception, demande : quelle IA serait construite si l'exigence était que le système rende la valeur aux gens, aux communautés et aux ressources qui l'ont rendue possible?

Ces principes ne sont pas abstraits. Le programme Des renseignements abondants produit des artefacts techniques spécifiques :

Hua Ki'i. Un prototype de reconnaissance d'objets en langue hawaïenne, développé en collaboration avec Caroline Running Wolf et Noelani Arista, qui inclut des protocoles hawaiiens dans son développement, depuis la base culturelle-protocole jusqu'à la mise en œuvre technique. Le prototype est une démonstration de travail que l'IA construite sur différentes fondations épistémologiques est techniquement possible, pas seulement philosophiquement défendu. Hua Ki'i reconnaît les objets pertinents aux contextes culturels et écologiques hawaïens, avec des catégories d'objets et des conventions de désignation élaborées dans le cadre d'un processus communautaire plutôt que imposées à partir de repères externes.

NLP en langue autochtone. Plusieurs sous-projets du programme plus vaste portent sur le traitement des langues naturelles pour les langues autochtones, y compris les langues de la portée du module canadien Niitsitapi-Haudenosaunee, les données de formation étant rassemblées au moyen de processus contrôlés par la communauté plutôt que par l'arrachage de sites Web. Les défis techniques (petites données NLP, modélisation linguistique à faible ressources, architectures de modèles adaptées aux langues riches en morphologie) sont réels et le travail produit à la fois des contributions techniques et des cadres pour penser au consentement et à la gouvernance dans les langues autochtones.

Les protocoles matériels de Suzanne Kite. Comme nous l'avons vu au chapitre 4, Suzanne Kite "Comment construire quelque chose d'éthique" essai dans le Protocole Indigène et IA Position Paper applique des protocoles de construction Lakota à la construction de matériel informatique physique. Le cadre demeure une contribution conceptuelle plutôt qu'un système de production de matériel entièrement mis en œuvre, mais il fournit des critères opérationnels spécifiques pour ce que la construction matériellement éthique du matériel impliquerait.

Le protocole autochtone de 2020 et le document de position sur l'IA. Au-delà de l'université Des renseignements abondants Le document d'orientation, plus vaste, a rassemblé des contributions de plusieurs chercheurs et praticiens dirigés par des Autochtones dans toute l'Aotearoa, en Amérique du Nord, dans le Pacifique et au-delà. Le Livre est délibérément polyphonique (lignes directrices de conception, essais savants, courte fiction, poésie, documentation prototype, art), reflétant la position explicite selon laquelle les voix autochtones sur l'IA sont hétérogènes plutôt que singulières. L'engagement méthodologique en faveur de la polyphonie elle-même constitue une contribution substantielle.

Pourquoi cela importe pour la politique canadienne sur l'IA. Le gouvernement fédéral finance Des renseignements abondants à une échelle substantielle (subvention de plus de 22 millions de dollars des États-Unis) IA pour tous n'engage pas de façon importante la recherche sur l'IA dirigée par les Autochtones. Les structures parallèles sont remarquables. Le gouvernement appuie le programme de recherche en épistémologie alternative au moyen d'un mécanisme de financement tout en poursuivant une stratégie qui n'engage pas substantiellement les cadres de ce programme. La question de savoir si les deux devraient être intégrées, si la structure parallèle est appropriée et à quoi ressemblerait une stratégie canadienne intégrée d'IA qui aurait un impact sur les deux est une question de politique ouverte.

---

Le test pratique

Le test de travail que le guide demande aux lecteurs de s'appliquer à toute allégation d'éthique, de partialité ou d'équité en matière d'IA :

Sensationnel. Quel sens du « biais » est utilisé - statistique, social ou structurel? Est-ce que la discussion les confond ?

Spécificité. Quel déploiement, quel jeu de données ou quel système spécifique sont analysés? Ou la revendication est-elle suffisamment abstraite pour résister à l'évaluation?

Des intervenants. Quelles valeurs sont encodées dans l'analyse ? L'équipe d'éthique de l'entreprise ? Les chercheurs universitaires ? La communauté touchée ? Qui a décidé de ce qui est aussi juste ?

Des solutions. Quel type de solution est proposé - technique, changement de gouvernance, réforme structurelle, cadre alternatif? Qu'est-ce que chaque solution limite réellement?

Vérification. Les allégations de partialité, d'équité ou d'engagement éthique sont-elles vérifiables de façon indépendante ou sont-ils autodéclarés par l'entité déployante?

Les fondations. L'analyse soulève-t-elle des questions épistémologiques plus profondes sur les personnes dont l'intelligence compte et les intérêts que l'IA sert, ou fonctionne-t'elle au sein des fondations actuelles?

L'essai est structurellement compatible avec les essais de travail des chapitres précédents. La méthodologie est la même parce que le travail analytique sous-jacent est le même : nommer ce qui est réellement revendiqué, nommer les lacunes et les hypothèses fondamentales sous-jacentes, puis laisser les lecteurs raisonner par leurs propres positions.

---

Passé 'il suffit de nettoyer les données'

CHAPTER RECAP — vous avez maintenant: - Les trois sens distincts du « biais » dans l'IA - statistique, social, structurel - et l'engagement méthodologique à suivre quel sens est opérationnel dans toute revendication spécifique. - Cas canadiens documentés de biais algorithmique — Clearview IA, Toronto Police prediction of risk, fédéral Benefits algorithmes, soins de santé IA, recrutement d'IA — comme base empirique pour ce qui est réellement de la conversation sur le biais. - La littérature sur l'équité algorithmique a engagé honnêtement — des contributions réelles (résultats de l'impossibilité mathématique, définitions formelles, outils de mesure des biais, améliorations réelles dans des contextes spécifiques), des limites réelles (concentration de la couche d'output, concentration de catégorie protégée, focalisation de la solution technique qui n'engage pas les questions structurelles). - L'incapacité comme le cas le plus clair que la partialité n'est pas un problème de nettoyage des données — L'IA en tant que véritable avantage d'assistance et en tant que préjudice structurel (discours atypiques, visages et comportement mal compris; avantages sociaux et systèmes d'embauche défaillants aux bords), avec la critique de Treviranus « conception pour les bords » et le cadre canadien de la loi sur l'accessibilité prend maintenant sa première forme concrète dans CAN-ASC-6.2 (la première norme mondiale accessible à l'IA, toujours volontaire). - Le cadrage Lewis/Whaanga/Yolgörmez "problème d'épistémologie, pas de problème d'éthique" s'est développé de manière opérationnelle — les définitions fondamentales de l'intelligence dans la recherche sur l'IA, la couche métrique, la strate de déploiement intègrent toutes des hypothèses issues de traditions intellectuelles particulières que la conversation éthique du domaine n'examine généralement pas. - Le modèle de lavage de l'éthique d'entreprise nommé avec des exemples documentés — le retour en arrière GPT-4o d'OpenAI, la dissolution du conseil d'administration de Google 2019, le déclin documenté de la transparence de Stanford FMTI, la structure des sociétés à bénéfices publics et les pressions sur l'investissement d'Anthropic — établissant que les cadres éthiques d'IA d'entreprises sont un apport aux côtés d'autres, plutôt que le principal mécanisme pour traiter les problèmes structurels d'IA. - Les Des renseignements abondants programme constructif — trois principes (régénération, générosité, réciprocité), artefacts techniques spécifiques (Hua Ki'i, NLP en langue autochtone, protocoles matériels de Kite), l'engagement plus de 22 millions de dollars du gouvernement fédéral à la recherche alternative sur l'IA IA pour tous — en tant qu'alternative de fond engagée sur le plan opérationnel plutôt que décoratif. - Le test de travail pour évaluer toute revendication éthique d'IA: sens, spécificité, parties prenantes, solutions, vérification, fondations.

Le chapitre suivant (chapitre 16) reprend l'analyse structurelle et politico-économique que ce chapitre a développée et s'intéresse en profondeur à la question spécifique de l'IA et du travail — ce qu'indique la littérature académique-économique, ce que montre la documentation syndicale, ce à quoi la stratégie fédérale s'engage, et où se trouvent les véritables désaccords. Le débat d'Acemoglu vs Autor entre dans ce chapitre comme le parallèle à la présentation algorithmique-équité-littérature de ce chapitre: désaccord académique rigoureux engagé honnêtement plutôt que s'est effondré.

Vous pouvez maintenant lire n'importe quelle allégation d'éthique, de partialité ou d'équité en matière d'IA avec l'équipement structural pour reconnaître quelle couche est engagée, ce qui est laissé sans examen, et où les questions plus profondes se posent. La conversation sur l'éthique de l'IA dans le discours public canadien oscille entre l'encadrement des déclarations d'éthique-entreprise (où les problèmes de partialité sont réels mais les solutions proposées ne touchent pas les facteurs structurels) et l'encadrement dédaigneux (où la préoccupation de parti pris est traitée comme exagérée ou déjà résolue). Les preuves empiriques et le travail intellectuel de fond sont tous deux au milieu, le programme Des renseignements abondants démontrant que d'autres fondations sont possible sur le plan opérationnel plutôt qu'en théorie.

---

Étiquette partiale pour ce chapitre : analyse structurelle-politique de l'éthique de l'IA avec un engagement explicite à l'épistémologie-non-éthique en tant que mouvement intellectuel organisé par le manuel. L'auteur se penche sur le doute que les cadres d'éthique des entreprises constituent le principal mécanisme de règlement des problèmes structurels liés à l'IA; il est sensible aux cadres épistémologiques alternatifs dirigés par des Autochtones comme contributions substantielles plutôt que comme boîtes à cocher sur la diversité; il veut nommer la littérature sur l'équité algorithmique comme faisant un travail réel dans les limites méthodologiques que la documentation elle-même encourage parfois; il précise que le manuel n'est pas dirigé par des autochtones et engage les cadres dirigés par les Autochtones (Abondant Intelligences, Kite, document de position plus large) par une traduction respectueuse plutôt qu'un résumé faisant autorité. Auto-divulgation d'entreprise (OpenAI, Google, Anthropic, Meta) étiqueté et lu en conséquence. Des sources universitaires évaluées par des pairs (Buolamwini et Gebru, Obermeyer et al., Kleinberg/Mullinathan/Raghavan, Lewis/Whaanga/Yolgörmez, la littérature plus large sur l'équité algorithmique) ont été considérées comme primaires dans leurs contributions respectives. Sources primaires dirigées par des Autochtones (le document sur les renseignements en abondance, le Protocole autochtone et le document de position sur l'IA) présentés dans leurs propres termes avec des implications opérationnelles nommées.

Sources principales citées ou invoquées dans ce chapitre : Lewis, Whaanga & Yolgörmez, « Abondant renseignement : placer l'IA dans les cadres de connaissances autochtones », IA & Society 40(1):2141–2157, 2024; Indigenous Protocol and IA Position Paper (2020); Buolamwini & Gebru, « Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification » (Procédures de recherche sur l'apprentissage automatique, 2018); Obermeyer et al., « Dissection du biais racial dans un algorithme utilisé pour gérer la santé des populations » (Science, 2019); Kleinberg, Mullainathan & Raghavan, « Inherent Trade-offs in the Fair Determination of Risk Scores » (ITCS 2017); Chouldechova, « Fair prediction with disparate impact » (FaccT 2017); NIST Face Recognition Vendor Test (FRVT) série continue; Bureau du commissaire à la protection de la vie privée du Canada conclusions conjointes sur Clearview IA (2021); Bureau de la Commission canadienne de la protection des renseignements personnels, document sur la stratégie d'information sur la formation des fournisseurs de renseignements sur la Fondation sur le système d'IA, documentation, documentaire, documenté, documentée, documentumnext, document, document. Citations détaillées dans l'annexe Sources.

---

🧌 GOBLIN CHECK — Un système qui est 99% précis en moyenne et 90% précis sur votre visage n'est pas, pour vous, 99% exact. Les moyennes sont celles où les disparités se produisent pour les relations publiques. Chaque fois que quelqu'un cite un numéro de précision pour un système utilisé sur des millions de visages différents, demandez la panne. Buolamwini et Gebru ont demandé la panne, et la panne était toute l'histoire.

🧌 GOBLIN CHECK — Lorsqu'un vendeur dit qu'un système est « 99% précis », la première question du gobelin est Pour qui ? L'exactitude est une moyenne, et les personnes handicapées sont exactement les corps qu'une moyenne est construite en mettant de côté. "Travailler pour la plupart des gens" n'est pas une rassurance pour la personne pour laquelle il ne travaille pas. C'est une description de la façon dont ils ont été laissés de côté. Demandez la précision aux bords, pas le moyen. Si le fournisseur ne l'a jamais mesurée, c'est la réponse.

Récapitulatif

  • Les trois sens distincts du « biais » dans l'IA - statistique, social, structurel - et l'engagement méthodologique à suivre quel sens est opérationnel dans toute revendication spécifique.
  • Cas canadiens documentés de biais algorithmique — Clearview IA, Toronto Police prediction of risk, fédéral Benefits algorithmes, soins de santé IA, recrutement d'IA — comme base empirique pour ce qui est réellement de la conversation sur le biais.
  • La littérature sur l'équité algorithmique a engagé honnêtement — des contributions réelles (résultats de l'impossibilité mathématique, définitions formelles, outils de mesure des biais, améliorations réelles dans des contextes spécifiques), des limites réelles (concentration de la couche d'output, concentration de catégorie protégée, focalisation de la solution technique qui n'engage pas les questions structurelles).
  • L'incapacité comme le cas le plus clair que la partialité n'est pas un problème de nettoyage des données — L'IA en tant que véritable avantage d'assistance et en tant que préjudice structurel (discours atypiques, visages et comportement mal compris; avantages sociaux et systèmes d'embauche défaillants aux bords), avec la critique de Treviranus « conception pour les bords » et le cadre canadien de la loi sur l'accessibilité prend maintenant sa première forme concrète dans CAN-ASC-6.2 (la première norme mondiale accessible à l'IA, toujours volontaire).
  • Le cadrage Lewis/Whaanga/Yolgörmez "problème d'épistémologie, pas de problème d'éthique" s'est développé de manière opérationnelle — les définitions fondamentales de l'intelligence dans la recherche sur l'IA, la couche métrique, la strate de déploiement intègrent toutes des hypothèses issues de traditions intellectuelles particulières que la conversation éthique du domaine n'examine généralement pas.
  • Le modèle de lavage de l'éthique d'entreprise nommé avec des exemples documentés — le retour en arrière GPT-4o d'OpenAI, la dissolution du conseil d'administration de Google 2019, le déclin documenté de la transparence de Stanford FMTI, la structure des sociétés à bénéfices publics et les pressions sur l'investissement d'Anthropic — établissant que les cadres éthiques d'IA d'entreprises sont un apport aux côtés d'autres, plutôt que le principal mécanisme pour traiter les problèmes structurels d'IA.
  • Les Des renseignements abondants programme constructif — trois principes (régénération, générosité, réciprocité), artefacts techniques spécifiques (Hua Ki'i, NLP en langue autochtone, protocoles matériels de Kite), l'engagement plus de 22 millions de dollars du gouvernement fédéral à la recherche alternative sur l'IA IA pour tous — en tant qu'alternative de fond engagée sur le plan opérationnel plutôt que décoratif.
  • Le test de travail pour évaluer toute revendication éthique d'IA: sens, spécificité, parties prenantes, solutions, vérification, fondations.

Sources

  • Lewis, Whaanga & Yolgörmez, "Abundant intelligences: placing AI within Indigenous knowledge frameworks," AI & Society 40(1):2141–2157, 2024
  • Indigenous Protocol and AI Position Paper (2020)
  • Buolamwini & Gebru, "Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification" (Proceedings of Machine Learning Research, 2018)
  • Obermeyer et al., "Dissecting racial bias in an algorithm used to manage the health of populations" (Science, 2019)
  • Kleinberg, Mullainathan & Raghavan, "Inherent Trade-Offs in the Fair Determination of Risk Scores" (ITCS 2017)
  • Chouldechova, "Fair prediction with disparate impact" (FAccT 2017)
  • NIST Face Recognition Vendor Test (FRVT) ongoing series
  • Office of the Privacy Commissioner of Canada joint findings on Clearview AI (2021)
  • Office of the Privacy Commissioner of Canada 2024-25 privacy opinion research documenting 88% concern about AI training data use and 28% Big Tech trust
  • Stanford Center for Research on Foundation Models, 2025 Foundation Model Transparency Index
  • New Frontiers of Research Fund Transformation grant documentation on the Abundant Intelligences program (more than $22 million)
  • Treasury Board of Canada Secretariat AI Register documentation
  • AI for All strategy documentation (June 2026).