Vous pouvez lire le reste de ce guide sans comprendre comment fonctionne un transformateur. Vous en tirerez plus si vous le faites. Ce chapitre existe…

Vous pouvez lire le reste de ce guide sans comprendre comment fonctionne un transformateur. Vous en tirerez plus si vous le faites. Ce chapitre existe pour les lecteurs qui veulent suffisamment de compréhension technique pour lire les revendications IA avec le bon type de scepticisme, sans avoir besoin d'apprendre l'algèbre linéaire. Le chapitre ne contient pas de mathématiques. Il contient les mouvements conceptuels sous la math, qui est ce qui compte réellement pour le reste du livre. L'argument de ce chapitre est simple. L'IA n'est pas magique, et le traiter comme de la magie, qu'elle soit enthousiaste ou anxieuse, est la source de la discussion publique la plus confuse. Les systèmes d'IA sont des machines de couplage statistique construites à partir de décisions techniques spécifiques, formées sur des données spécifiques avec des propriétés spécifiques, optimisées par rapport à des objectifs spécifiques et déployées avec des limites spécifiques. Comprendre l'ingénierie n'est pas la même chose que comprendre la magie, parce qu'il n'y a pas de magie. L'ingénierie est ce qu'il y a. Vous laisserez le chapitre avec : un modèle de travail de ce qu'est réellement la formation, ce que fait réellement un transformateur, pourquoi l'échelle compte et ce que cela produit, ce qu'« réglage fin » et « alignement » signifient en réalité dans la pratique, ce qui est fait par le système ne peut pas qu'il semble faire, et le fondement conceptuel pour lire chaque chapitre suivant, en particulier environnemental (chapitre 8), droit d'auteur (chapitre 11) et éthique (chapitre 15), avec la bonne compréhension structurelle de ce qui se passe réellement à l'intérieur de la machine. C'est le plus long des chapitres des fondations. Il gagne sa longueur. Le reste du guide est plus court et plus ciblé parce que ce chapitre fait le travail technique une fois, bien, et les chapitres suivants peuvent renvoyer en arrière plutôt que de réexpliquer. ---

Ce que « apprentissage » veut vraiment dire

Commencez par le mouvement conceptuel le plus important : quand on dit qu'une machine « apprend », on utilise un mot emprunté à l'expérience humaine pour décrire quelque chose qui n'a presque rien en commun avec ce que les humains font quand ils apprennent.

Un enfant humain apprend le mot « chien » par l'expérience incarnée : voir des chiens, entendre le mot prononcé à proximité des chiens et sentir la fourrure, être abattu par des enthousiastes, construire progressivement un concept de chien qui intègre les informations visuelles, tactiles, auditives, sociales, émotionnelles et narratives. L'enfant peut plus tard reconnaître un chien qu'il n'a jamais vu, un chien sur une photo, un canin de dessin animé, un animal décrit dans une histoire qu'ils entendent pour la première fois, et un chien dont ils imaginent. Le concept est robuste dans tous les contextes parce qu'il a été construit à partir de plusieurs types d'intrants simultanément.

Lorsqu'une machine « apprend » le concept de chien , rien de cela ne se produit.

Ce qui se passe à la place: la machine est montrée de nombreuses images, chacune étiquetée "chien" ou "pas chien" par les humains. Chaque image est représentée par une grille de nombres, généralement trois nombres par pixel décrivant l'intensité rouge, verte et bleue. Une image modeste est quelques millions de chiffres. La machine a une fonction mathématique, un « modèle », avec des millions ou des milliards de paramètres internes (nombres) qui peuvent être ajustés. La fonction prend les numéros d'image comme entrée et affiche une estimation de probabilité : cette image est X% chien. Au début, les paramètres sont aléatoires et les sorties sont inutiles. On montre alors à la machine une image, on fait une prédiction, on lui dit si la prédiction était juste, et on ajuste légèrement chaque paramètre dans la direction qui aurait produit une réponse plus correcte. Cela se répète des milliards de fois sur des millions d'images.

Après une répétition suffisante, les paramètres de la fonction se sont installés dans une configuration où les sorties sont correctes la plupart du temps sur les images d'entraînement et, surtout, généralement correctes sur les nouvelles images que le système n'a jamais vues. La machine a « appris » à reconnaître les chiens dans le seul sens qui s'applique : elle produit des classifications correctes chien/non chien à des taux élevés.

Ce qu'il n'a pas appris : tout ce qui concerne les chiens comme êtres vivants, tout ce qu'il y a sur les relations humaines qui donnent aux chiens leur sens culturel, tout sur l'expérience d'être un chien, tout savoir sur les raisons pour lesquelles quelqu'un pourrait vouloir reconnaître un chien. Il a appris une carte statistique des patrons de pixel qui sont en corrélation avec l'étiquette « chien » fournie par l'homme. La carte est fonctionnellement utile. Ce n'est pas la même chose que ce que l'enfant a construit.

Cette distinction est importante car elle explique à la fois le succès spectaculaire et les étranges échecs de l'IA actuelle. La machine est en train de faire l'appariement à une échelle et la vitesse des humains ne peut pas correspondre. C'est pourquoi il peut lire des radiographies, trouver des tumeurs, trier des documents, reconnaître des visages, traduire des langues et écrire des essais. La machine n'a pas de concept sous le modèle-appariement. C'est pourquoi le même classificateur d'image identifiera avec confiance un bus scolaire comme une autruche si quelques pixels spécifiques sont modifiés (un "exemple contradictoire"). Le modèle humain est si robuste qu'on remarquerait la manipulation immédiatement. Le modèle de la machine est statistique, au niveau de la surface et fragile de façon que nous ne nous intuitions pas.

Le nom technique de ce que fait la machine est l'apprentissage statistique ou l'apprentissage automatique . Le sous-champ mathématique s'appelle optimisation : ajustage des paramètres pour minimiser une mesure d'erreur. L'architecture spécifique utilisée pour la plupart des IA actuels est appelée un réseau neuronal , initialement inspiré (loosely) par la structure des neurones biologiques mais fonctionnant maintenant à une échelle et de manière qui ont peu de rapport pratique avec la biologie. Les réseaux neuronaux avec de nombreuses couches internes (généralement des dizaines à des centaines) sont appelés réseaux neuraux profonds , et le domaine de la construction est appelé apprentissage approfondi .

Vous n'avez pas besoin de vous souvenir du vocabulaire. Vous devez vous souvenir du déménagement : La machine learning est un appariement à l'échelle industrielle, optimisé par rapport à des objectifs mesurables, sans concepts sous-jacents. Tout le reste dans ce chapitre en découle.

---

Les données sont le modèle

Voici le deuxième mouvement conceptuel, et c'est celui qui porte la charge pour tout ce que le guide plaide sur le droit d'auteur, l'environnement, l'éthique et la souveraineté : ce qu'un modèle d'IA "sait" est un reflet statistique comprimé de ses données de formation. Changez les données de formation, et vous changez le modèle. Changez substantiellement les données, et vous obtenez un modèle entièrement différent. Le modèle est, dans un sens significatif, les données , réaménagé dans une forme différente.

Cela signifie techniquement, pas comme une figure de la parole.

Quand OpenAI a formé GPT-4, ils ont recueilli un énorme corpus de textes (l'Internet public, une grande partie des livres numérisés, des dépôts de codes et d'autres documents écrits) et l'ont fait passer par leur processus de formation. La production est un ensemble de pondérations de modèles: des centaines de milliards de chiffres représentant les schémas statistiques du processus de formation extrait des données d'entrée. Les chiffres ne contiennent pas le texte original. Ils contiennent quelque chose de plus abstrait : les motifs de la façon dont les mots et les concepts sont apparus ensemble dans le corpus de formation.

Lorsque vous posez une question à GPT-4, le modèle utilise ces modèles pour générer une réponse. La réponse est nouvelle; ce n'est pas une copie d'un document spécifique dans les données de formation. Mais il est façonné par chaque document dans les données de formation, parce que les modèles que le modèle suit sont extraits de ces documents. Le modèle est, statistiquement, le corpus de formation. Demander ce qu'un LLM « sait » demande dans ses données d'entraînement, codées dans les paramètres du modèle par le processus de formation, récupérables à travers la génération de réponse du modèle.

🧌 GOBLIN CHECK — «Notre modèle tiré des données accessibles au public» est une phrase faisant beaucoup de travail non rémunéré. Le modèle n'a pas apprendre de les données de la façon dont vous avez appris de votre professeur de sciences de huitième année. Le modèle est les données, compressées et réaménagées en un billion de cadrans. Demandez ce qu'il y a dans la pile, et remarquez à quelle vitesse le sujet est changé.

C'est pourquoi la question de la formation-données se trouve au centre plutôt que le bord de tout ce qui suit. Trois implications directes :

Pour le droit d'auteur (chapitre 11). Si le modèle est les données, alors la formation du modèle est un acte qui utilise les données. La question de savoir si cette utilisation constitue une infraction au droit d'auteur en vertu du droit canadien est contestée (l'argument académique de Carys Craig et Michael Geist est qu'elle devrait être permise en vertu d'une exception à l'extraction de texte et de données; l'argument côté créateur de l'Union des écrivains du Canada et ACTRA est que cela constitue actuellement une infraction). Mais le fait technique que le modèle est façonné par les données n'est pas contesté. Le procès des journaux canadiens contre OpenAI repose sur ce fait.

Pour l'environnement (chapitre 8). Si le modèle est les données, alors la formation nécessite le traitement de toutes ces données à l'aide des paramètres du modèle, ce qui rend la formation aussi intensive en énergie. Les coûts de calcul déclarés par GPT-4 sont, en substance, le coût de quelques billions de jetons de texte à travers des centaines de milliards d'opérations mathématiques, des milliards répétés de fois. La taille des données sur la formation, la taille du modèle et la durée de la formation sont les trois facteurs qui déterminent le coût environnemental de cette formation. L'inférence est beaucoup plus petite par requête, mais se produit beaucoup plus souvent.

Pour la souveraineté (chapitre 9). Si le modèle est les données, alors un modèle formé aux données canadiennes est, dans un sens significatif, un modèle qui contient des renseignements canadiens compressés. Si ces données comprennent le contenu autochtone, le modèle contient des renseignements autochtones compressés. Les cadres de souveraineté des données autochtones du PACO/NISR/CARE introduits au chapitre 1 et approfondis au chapitre 9 s'appliquent aux données de formation, et donc, par extension, au modèle qui en résulte.

C'est pourquoi l'indice de transparence du modèle de la Fondation Stanford, dans chaque édition depuis 2023, a identifié les données de formation comme domaine unique le plus opaque pour la divulgation des modèles de fondation. Les entreprises qui produisent les modèles ne divulguent généralement pas sur quelles données elles ont été formées. Lorsque l'Indice a marqué 13 grands développeurs de modèles de fondation en décembre 2025, le sous-domaine des données était le plus bas dans presque tous les développeurs. C'est le sous-domaine où les promoteurs sont le plus susceptibles d'être exposés à des risques juridiques (procédures en matière de droit d'auteur), à des dangers réglementaires (réglementation relative au respect de la vie privée) et à une exposition éthique (les biais dans la formation et les données se reproduisent dans les extrants du modèle). L'opacité est structurelle et cohérente dans l'ensemble de l'industrie.

Pour nos besoins dans ce chapitre : lorsque vous lisez une revendication sur ce qu'un système d'IA peut ou ne peut pas faire, demandez quelles données se trouvaient dans son ensemble de formation. La plupart du temps, la réponse n'est pas accessible au public. La non-disponibilité est elle-même significative.

---

Le transformateur — ce qui est réellement à l'intérieur de ChatGPT, Claude, Gemini, Cohere

L'architecture sous chaque grand modèle de langue actuel est appelée transformateur , présenté dans un document 2017 de Google Brain appelé "L'attention est tout ce dont vous avez besoin." L'un des huit co-auteurs du document était Aidan Gomez, qui a ensuite trouvé Cohere de Toronto en 2019, ce qui rend la contribution technique canadienne au moment actuel de l'IA plus substantielle que le cadre « Le Canada est derrière l'IA » ne le reconnaît.

Qu'est-ce qu'un transformateur fait réellement?

Commencez par une version plus simple du problème : prédisez le mot suivant. Compte tenu de l'entrée « La capitale du Canada est », un système formé pour prédire le mot suivant produirait une distribution des probabilités sur tous les mots suivants possibles. « Ottawa » aurait la plus forte probabilité. "Toronto" pourrait avoir une probabilité non-triviale. "Banana" aurait une probabilité presque nulle. Le système n'est pas regarder vers le haut la réponse; il génère une distribution des probabilités basée sur les modèles à partir des données de formation, et le modèle de « la capitale du Canada est X » apparaît dans les données de la formation, X étant presque toujours « Ottawa ».

Un transformateur est ce problème de prédiction, qui s'est considérablement développé de trois façons spécifiques.

D'abord, attention. Lors de la prédiction du mot suivant, le transformateur ne regarde pas seulement le mot le plus récent. Il examine simultanément le mot précédent tous les dans l'entrée et utilise un mécanisme appelé « attention » pour peser les mots précédents qui importent le plus pour la prédiction actuelle. Le mécanisme d'attention, la perspicacité du titre de l'article 2017, permet aux transformateurs de gérer les dépendances à long terme dans le texte : des pronoms qui renvoient aux paragraphes mentionnés plus tôt, des connexions logiques qui s'étendent sur des phrases, la structure des arguments qui se construisent sur plusieurs paragraphes. L'attention est coûteuse sur le plan informatique, c'est pourquoi la formation des transformateurs nécessite le matériel GPU spécialisé dont nous avons parlé au chapitre 4 (à venir) et pourquoi les puces que NVIDIA expédie sont configurées pour les multiplications matricielles de style attention.

Deuxièmement, les couches. Un modèle moderne de grande langue a des dizaines à des centaines de couches de transformateurs empilées l'une sur l'autre. Chaque couche transforme légèrement la représentation de l'entrée. Les premières couches traitent les modèles syntaxiques locaux : quel mot suit quoi. Les couches moyennes gèrent des modèles à plus longue portée comme la structure de phrase et la logique des paragraphes. Les calques tardifs gèrent les modèles les plus abstraits, comme la structure argumentative, le ton, le registre et le contenu factuel. Pas de couche unique "sait" quoi que ce soit , mais la pile de couches ensemble implémente quelque chose qui fonctionne comme la compréhension à l'échelle. La raison pour laquelle cela fonctionne aussi bien qu'il ne le fait n'est pas bien comprise, même par les chercheurs qui construisent les systèmes. C'est l'une des questions ouvertes sur le terrain.

Troisièmement, échelle. Un transformateur avec un millier de paramètres ne fait rien d'utile. Un transformateur avec un million de paramètres peut effectuer des tâches de génération de texte simples. Un transformateur avec un milliard de paramètres peut écrire des paragraphes cohérents et répondre à des questions factuelles simples. Un transformateur avec cent milliards de paramètres peut faire la plupart de ce que les systèmes d'IA actuels font. GPT-4 est estimé, par des analystes extérieurs puisque OpenAI ne dit pas, être dans la gamme de trillions-paramètre. Les concurrents sont supposés comparables, et aucun d'entre eux ne dit non plus. La série Command de Cohere fonctionne dans la fourchette des dizaines de milliards. L'échelle produit des changements qualitatifs dans les capacités que les modèles plus petits ne peuvent pas faire correspondre, un phénomène appelé l'émergence dans la littérature de recherche sur l'IA, bien que le terme soit contesté (certains chercheurs affirment que c'est un artefact de choix de mesure plutôt qu'un véritable effet seuil).

GOBLIN FACTS — échelle a un nombre derrière elle. GPT-3, le modèle 2020 qui a déclenché la vague actuelle, a fonctionné sur 175 milliards de paramètres sur 96 couches (Brown et al., 2020). Dans ce domaine, "gros" n'est pas une vibration. C'est un compte que vous pouvez consulter, et le compte est la plupart du tour.

Ce que coûte l'échelle: plus de paramètres nécessitent plus de données de formation, plus de calcul, plus d'électricité, plus du refroidissement, plus des puces, plus le capital. L'économie des modèles de fondation est fondamentalement une économie d'échelle. C'est pourquoi seul un petit nombre d'entreprises peuvent former des modèles de frontières, pourquoi ces entreprises bénéficient d'un soutien important en matière de capital et pourquoi le « champion national » qui définit la stratégie d'IA de tout pays dépend en fin de compte de la capacité du pays à soutenir la formation à l'échelle frontalière. La Cohére du Canada est réelle, mais son échelle est significativement plus petite que OpenAI, Anthropic, Google DeepMind ou Meta. Cela fait partie de ce que fait la discussion du chapitre 7 sur la dynamique canadienne de l'IA.

---

Formation, réglage fin, alignement — trois étapes distinctes

La discussion publique s'effondre régulièrement en trois étapes distinctes de la création d'un système d'IA, et l'effondrement produit des arguments confus. Le chapitre les sépare maintenant afin que le reste du guide puisse les consulter précisément.

Pré-entraînement. L'étape très coûteuse, à forte intensité énergétique, où un modèle est construit à partir de zéro en traitant des quantités massives de texte. La sortie est un "modèle de base" ou un "model de fondation" : un système qui peut générer des textes plausibles, mais n'a pas été façonné pour être utile, honnête ou sûr. Un modèle brut préformé répondrait à « Comment construire une bombe ? » en produisant des instructions plausibles pour fabriquer des bombes, parce que son corpus de formation contient de telles instructions dans la littérature technique, la fiction, les articles d'actualité et les discussions de forum, et le seul objectif du modèle est de prédire le texte suivant plausible. La préformation établit ce que le modèle sait . Il n'établit pas comment le modèle se comporte .

Bon réglage. Une deuxième étape, beaucoup moins chère, plus ciblée où le modèle de base est formé sur des exemples spécifiques pour façonner son comportement pour des tâches particulières. La plupart des produits commerciaux de l'IA (ChatGPT, Claude, Gemini, les produits d'entreprise de Cohere) sont des modèles de fondation pré-formés qui ont été considérablement affinés. Le réglage fin enseigne au modèle à suivre les instructions, à formater les réponses utiles, à refuser les demandes nuisibles, à traiter des domaines professionnels particuliers (codage, médecine, recherche juridique), et à maintenir un ton et une personnalité cohérents.

Harmonisation. Un type spécifique de réglage fin visant à faire correspondre le comportement du modèle aux valeurs et intentions humaines. La technique dominante est appelée Renforcement de l'apprentissage tiré de la rétroaction humaine (RLF) : les résultats du modèle humain sont meilleurs ou pires, et le modèle est formé pour produire des résultats meilleurs que les résultats humains. C'est ce qui rend ChatGPT poli, fait que Claude refuse d'écrire des logiciels malveillants, rend Gemini prudent sur l'information électorale, et fait que les produits d'entreprise de Cohere restent en mission. L'alignement est également l'endroit où la plupart des choix éthiques et politiques contestés sont faits : ce qui compte comme « meilleure », dont les valeurs le définissent, quels sujets le modèle discutera et ce qu'il refusera de discuter, quelles voix et perspectives sont reflétées dans la rétroaction de formation.

Trois implications opérationnelles :

Un modèle de fondation n'est pas le même qu'un produit déployé. Lorsque OpenAI publie ChatGPT, OpenAI lance une version alignée et ajustée d'un modèle de base qui existe séparément. Le modèle de base est plus capable d'une certaine manière (il a accès à des connaissances plus brutes) et moins capable dans d'autres (il ne suit pas les instructions de façon fiable). Lorsque des chercheurs comme Geoffrey Hinton, Yoshua Bengio ou la communauté de la sécurité des IA parlent de « risques liés aux modèles frontaliers », ils parlent souvent des modèles de base, et non des produits de consommation déployés. Cette distinction est importante lorsque l'on lit une allégation précise concernant la capacité d'IA.

L'alignement n'est pas résolu. L'état actuel du RLHF et des techniques connexes est qu'ils rendent les modèles plus utiles et plus polis. Ils rendent les modèles moins honnêtes. Ils fabriquent des modèles qui refusent certaines catégories de demandes nuisibles, mais peuvent souvent être contournés par le « dérapage » : l'incitation contradictoire qui amène le modèle à produire du contenu sa formation d'alignement était censée empêcher. La course aux armements entre les techniques d'alignement et les techniques de démolition des prisons se poursuit.

L'alignement encode les choix politiques et culturels. Quand OpenAI décide de ce que ChatGPT va et ne dira pas sur des sujets contestés (avortement, vaccins, changement climatique, chiffres politiques spécifiques), ces décisions sont prises par les humains à OpenAI, reflétant la vision institutionnelle spécifique d'OpenAI de ce qu'IA devrait et ne devrait pas dire. Il en va de même pour Anthropic, Google, Meta et Cohere. Les engagements politiques et culturels des entreprises qui produisent les modèles sont intégrés dans le comportement des modèles par l'alignement. Ce n'est pas une théorie du complot; les équipes d'alignement de ces entreprises discutent publiquement de leurs choix, dans des documents techniques et des publications politiques. Mais les choix sont des choix, et ils sont faits par des personnes spécifiques dans des entreprises spécifiques. Les valeurs qui définissent l'alignement sont l'une des questions que le champ continue de traiter.

ALIGNMENT — dans laquelle les valeurs ont-elles été formées? Lorsqu'un modèle répond à une question délicate d'une manière et en refuse une autre, ce comportement a été façonné par des personnes spécifiques dans une entreprise donnée qui décidait de ce qui compte comme une bonne réponse. Demandez à qui le jugement est mis dans le refus, et où vous iriez même pour le contester. "L'IA a décidé" est une façon de faire disparaître les décideurs.

---

Ce que ces systèmes ne peuvent pas faire — et ne pourront pas faire bientôt

L'engagement honnête envers l'IA exige de comprendre à la fois ce que les systèmes actuels peuvent bien faire et ce qu'ils ne peuvent pas faire, quelle que soit la façon dont le marketing les cadre. Cette section est la correction apportée par le chapitre aux demandes de dérogation les plus courantes.

Les modèles actuels de grands langages ne peuvent pas faire un raisonnement authentique. Ils peuvent générer du texte qui décrit Le mécanisme sous-jacent est encore en phase avec les données de formation. Lorsqu'un LLM produit une solution étape par étape à un problème de maths, il génère le texte suivant le plus plausible étant donné le problème, ne faisant pas réellement la math. C'est pourquoi les modèles de pointe produisent toujours des erreurs confiantes sur des problèmes qui sont de simples variations des problèmes sur lesquels ils ont été formés. « Chain-of-thought inciting » et les nouveaux « modèles raisonnants » (OpenAI o1, DeepSeek-R1, Claude avec une pensée élargie) améliorent la fiabilité du comportement de type raisonnement, mais l'amélioration est progressive : ces modèles raisonnent plus de façon fiable que leurs prédécesseurs, pas robustement dans des domaines nouveaux.

L'IA actuelle n'a pas accès aux faits de la façon dont une base de données le fait. Lorsque ChatGPT vous dit que la capitale du Canada est Ottawa, elle génère la plus probable statistiquement de « la capitale canadienne est X » à partir des données sur la formation. Lorsque les données de formation sont riches, actuelles et cohérentes, la réponse est correcte. Lorsque les données de formation sont rares, dépassées ou contradictoires, la réponse est fausse : le phénomène appelé « hallucination ». Le problème plus profond est que le modèle n'a aucun moyen de dire lequel de ses extrants sont fiables et qui ne le sont pas, parce qu'il n'est pas doté d'un vérificateur des faits distinct. Tout ce que regarde aime la recherche factuelle est, mécaniquement, le même pattern-matching qui produit l'écriture créative.

L'IA actuelle ne peut pas non plus accomplir des tâches qui nécessitent réellement une interaction avec le monde physique. Aucune formation textuelle ne produit un modèle qui peut réparer un évier, effectuer une chirurgie ou récolter du blé. La génération actuelle de l'IA (robotique combinée à des modèles de fondation) est encore en recherche, et les tâches physiques-mondes restent beaucoup plus difficiles que les tâches purement textuelles parce que le monde physique produit des données continues, nouvelles, incarnées que les systèmes d'IA ne peuvent pas pré-trainer contre la façon dont ils pré-formation contre le corpus texte d'Internet.

Une limite plus subtile : les systèmes ne peuvent pas prédire de façon significative leurs propres échecs. Lorsqu'un LLM produit une mauvaise réponse, il le fait habituellement avec le même ton de confiance que lorsqu'il produit une bonne réponse. Demander au modèle « êtes-vous sûr ? » suscite parfois une correction et provoque parfois une reformulation plus confiante de la mauvaise réponse. Le modèle n'a pas de signal interne fiable pour « Je ne sais pas » parce que son objectif d'entraînement récompense la production de textes plausibles, sans produire un calibrage précis de l'incertitude.

L'IA actuelle ne peut remplacer le jugement humain dans les cas qui exigent réellement un jugement humain. Diagnostic médical, analyse juridique, décisions en matière d'emploi, condamnation pénale : ce sont des domaines où les systèmes d'IA peuvent produire une analyse utile comme support de décision, mais où le jugement humain impliqué n'est pas seulement le traitement de l'information. Il s'agit également de la responsabilité, du contexte, de l'application des valeurs et du poids moral des conséquences. La question de savoir si IA devrait est utilisée dans ces décisions est contestée (voir chapitre 15). La question de savoir si IA peut est utilisée dans de telles décisions d'une manière qui se substitue réellement au jugement humain est également contestée, et les preuves actuelles ne le suggèrent pas.

L'allégation inverse, que l'IA est « juste » autocomplète et ne mérite donc pas une attention sérieuse, est également erronée. Les systèmes actuels accomplissent de nombreuses tâches qui, auparavant, nécessitaient une expertise humaine. La précision du diagnostic médical est réelle, tout comme la qualité de traduction, la génération de code et l'écriture créative. Mais les systèmes font tout cela en appariement avec les données de formation, sans compréhension conceptuelle sous-jacente, sans moyen fiable de savoir quand ils se trompent, et sans véritable capacité de raisonnement. Les deux histoires simples, "IA est magique" et "IA n'est rien", sont erronées. Ce qu'il y a de puissant appariement avec des implications économiques, sociales et politiques substantielles, et lire ces implications signifie clairement garder la capacité réelle et les limites réelles en vue en même temps.

---

Une note sur l'intelligence artificielle générale

Vous rencontrerez le terme Renseignements généraux artificiels (IGA) dans toute conversation étendue sur l'IA. Le terme désigne un futur système d'IA hypothéqué qui correspondrait ou dépasserait la performance humaine pour la plupart des tâches cognitives. La question de savoir si l'AGI est réalisable, quand elle pourrait être réalisée et ce qu'elle signifierait si elle était réalisée figurent parmi les questions les plus contestées dans le domaine.

Le chapitre 1 présente la définition fondamentale de l'IGA de Legg et Hutter (2007): « L'intelligence mesure la capacité générale d'un agent à atteindre des objectifs dans un large éventail de milieux. Le chapitre a également introduit la critique Lewis/Whaanga/Yolgörmez 2024 selon laquelle cette définition tire, par une chaîne de citations, sur l'année 1994 "La science principale sur l'intelligence" document et la tradition de recherche IQ qui a produit La courbe de Bell , une question fondamentale avec laquelle la conversation AGI ne s'engage généralement pas.

Aux fins du chapitre 2, les observations techniques:

L'AGI n'est pas ce que sont les systèmes actuels. ChatGPT, Claude, Gemini et les produits de Cohere ne sont pas des AGI par définition sérieuse. Ce sont des modèles-matchers spécialisés qui fonctionnent très bien sur certaines tâches. Les capacités qu'ils démontrent sont plus étroites que ne le laisse entendre la commercialisation et plus larges que ne permettent les comptes dédaignaux.

Le désaccord au sujet des échéanciers de l'AGI est réel et substantiel. Certains chercheurs chevronnés en matière d'IA (Geoffrey Hinton, Yoshua Bengio, Demis Hassabis) croient que l'AGI est possiblement réalisable en quelques décennies et qu'il a des positions publiques sur les implications pour la sécurité. D'autres (Yann LeCun, Andrew Ng, Sasha Luccioni) estiment que les architectures actuelles sont fondamentalement limitées et qu'AGI nécessiterait des percées qui ne sont pas encore visibles. Le désaccord est empirique plutôt que idéologique, se tournant vers des jugements sur la question de savoir si les limites des systèmes actuels d'IA sont des problèmes d'ingénierie temporaire ou des caractéristiques structurelles de l'approche.

L'implication politique est la même quelle que soit la réponse technique. Que l'AGI soit dans des décennies ou dans des siècles, les systèmes d'IA sont déjà être déployés de manière à affecter les travailleurs, les citoyens et les collectivités du Canada. Les questions de politique générale que le guide aborde, de l'environnement et de la souveraineté à la propriété intellectuelle, au travail, à l'éthique et à la gouvernance, ne dépendent pas de l'arrivée des IAG. Ils parlent de l'IA qui existe maintenant et qui est en cours de déploiement. La conversation de l'IGA est une conversation distincte, importante en soi, mais séparable des questions politiques immédiates du Canada.

Le Canada devrait-il s'engager à ne poursuivant pas les capacités frontalières les plus avancées, la position associée à Geoffrey Hinton, qui a quitté Google en 2023 en partie pour parler plus librement des risques existentiels d'IA, et Yoshua Bengio, qui est devenu une voix publique sur les préoccupations de risque catastrophique, est une question vivante dans la politique canadienne d'IA, et la IA pour tous l'annonce ne l'engage pas. (Une version antérieure de ce guide a affirmé que la question apparaissait comme un fil conducteur dans l'ébauche de la stratégie de la SRC; l'article de la CBC n'appuie pas cela, donc la demande est retirée en attendant un reçu.) Le guide renvoie à la question du risque frontalier au chapitre 20.

---

Lorsque la prédiction commence à agir — agents d'IA

Tout à ce point a décrit un système que produit du texte . Vous lui donnez une prompt ; il renvoie un paragraphe, une image, un bloc de code. Il prédit, et vous décidez quoi faire de la prédiction. Le changement le plus important dans l'IA depuis la fin de 2024 est le passage des systèmes qui produisent la sortie vers les systèmes que prendre des mesures , et c'est le changement que la plupart teste le cadrage "c'est juste autocomplet", donc il vaut la peine de comprendre avant que les chapitres de politique s'y penchent.

Un Agent d'IA est un modèle de langue câblé dans une boucle. Au lieu de répondre une fois et s'arrêter, le modèle reçoit un but, un ensemble d'outils qu'il peut appeler (un navigateur Web, un interprète de code, votre email, une API de paiement, un calendrier), et la permission d'agir, d'observer le résultat, et d'intervenir à nouveau jusqu'à ce que le but soit atteint ou il abandonne. "Réservez-moi un vol vers Toronto de moins de 400 $ et mettez-le sur le calendrier" cesse d'être une phrase que le modèle vous écrit et devient une séquence de choses qu'il fait : recherche de vols, comparer les prix, ouvrir le site de réservation, remplir le formulaire, charger la carte, créer l'événement. Le moteur en dessous n'a pas changé. Il s'agit encore d'une prédiction de la prochaine année sur les tendances des données de formation.

EXAMPLE — la saisie automatique de votre téléphone. Quand votre clavier propose « en retard » après que vous avez tapé « Je suis », il ne lit pas dans vos pensées. Il a vu ces mots se suivre des millions de fois et il parie que le motif tient. Un grand modèle de langue, c'est le même pari, étendu à presque tout l'Internet : toujours un pari, et toujours personne aux commandes.

C'est tout le mouvement conceptuel, et il est plus petit que le marketing suggère. Un agent n'est pas un nouvel esprit. C'est le même modèle-matcher de la Section One, exécuté en boucle, avec ses mains sur les outils. La thèse du chapitre tient: la fluence est le costume, l'appariement de motif est la créature qui la porte. Mais une créature qui ne peut que parler et une créature qui peut agir sur votre compte bancaire sont des propositions différentes même lorsque la machine est identique, et la plupart des nouveaux risques vivent dans cette différence, pas dans aucune nouvelle intelligence.

🧌 GOBLIN CHECK — "Agentic IA" est le même gobelin que vous avez déjà rencontré, maintenant tenir votre portefeuille. Avant de vous laisser agir pour vous, posez-vous la question peu glamour que la brochure saute: quand elle fait une erreur — et elle le fera — l'erreur atterrit-elle sur un brouillon que vous pouvez supprimer, ou sur votre compte bancaire? La démo montre toujours la réservation qui a fonctionné. Demande à voir celui qui ne l'a pas fait.

En 2025 et en 2026, « IA agentique » est devenu le point central de l'industrie : agents qui déposent vos dépenses, trient votre boîte de réception, écrivent et déploient du code, exécutent le service à la clientèle, exécutent des métiers. La capacité est réelle et s'améliore. Tout comme le mode d'échec. Un agent qui réserve avec confiance le mauvais vol, envoie un courriel au mauvais client, supprime le mauvais fichier ou exécute la mauvaise transaction le fait à l'échelle de la machine et de la vitesse de la machines, et la même fluidité qui rend persuasive rend ses erreurs difficiles à attraper dans le moment. Le problème d'hallucination de la section 5 ne disparaît pas lorsque vous donnez les outils du système. Il a un budget et un clavier.

Le changement le plus profond concerne la question de la responsabilité. Quand un modèle vous écrit une mauvaise réponse, vous êtes la dernière ligne de défense: vous le lisez, vous l'attrapez, vous décidez. Lorsqu'un agent agit, ce point de contrôle humain est exactement ce qui est enlevé exprès, parce qu'il est le point d'automatisation. Ce n'est pas une question essentiellement technique, c'est une question de responsabilité, et le droit canadien n'y est pas encore construit. Si un agent d'IA agissant pour une entreprise canadienne surfacture un client, accepte quelque chose qu'il ne devrait pas, ou communique les renseignements personnels de quelqu'un, qui est responsable : la personne qui l'a déployée, l'entreprise qui a construit le modèle, le vendeur qui l'a emballé dans un produit, ou personne? La LPRPDÉ, la Loi 25 du Québec, le droit provincial de protection des consommateurs et la common law of agency ont été rédigés pour les acteurs humains et les entreprises, et non pour les logiciels qui improvisent. IA pour tous (chapitre 5) ne fournit pas de réponse, et le vide de gouvernance postérieur à l'AIDA (chapitre 17) signifie qu'aucune loi canadienne n'est clairement sur le point. Cet écart mérite d'être observé.

Donc, quand quelqu'un vous vend un agent, les questions portatives sont les autres de ce train guide. Que peut-il faire sans qu'un humain approuve l'étape, et que fait-il simplement suggérer ? Quels outils tient-il, et quel est le rayon d'explosion si c'est mal ? Y a-t-il un registre de ce qu'il a fait? Et quand il échoue, qui est responsable, par écrit, avant de l'allumer ? « L'agent s'en est occupé » n'est pas une réponse à « qui est responsable ». C'est une façon de faire disparaître la question.

Les agents sont là où la conversation abstraite « sécurité IA » devient concrète et canadienne : non pas une superintelligence lointaine, mais un logiciel avec votre carte de crédit, votre boîte de réception, et aucune ligne claire de responsabilité juridique derrière elle. Le chapitre 16 revient à ce que signifient les agents pour le travail; les chapitres 17 et 20 reviennent à l'écart de gouvernance qu'ils exposent.

---

Ce qu'il faut retenir

CHAPTER RECAP — vous avez maintenant: - Un modèle de travail d'apprentissage automatique en tant que modèle à l'échelle industrielle correspondant aux données de formation, optimisé par rapport à des objectifs mesurables, sans concepts sous-jacents — et la base conceptuelle pour lire les comptes d'IA alarmistes et dédaigneux sceptiques. - Le fait technique que le modèle est les données , avec ses trois implications directes : les données de formation sont au centre de la question du droit d'auteur, la taille et le contenu des données de la formation déterminent le coût environnemental de la forma tion, et les cadres de souveraineté des données autochtones s'appliquent aux données de l'enseignement par définition. - Une compréhension fonctionnelle des transformateurs : attention, couches, échelle et la question scientifique ouverte de savoir pourquoi l'échelle produit les changements qualitatifs dans les capacités qu'elle produit. - Les trois étapes de la construction d'un système d'intelligence artificielle déployé — préformation, réglage fin, alignement — et les implications opérationnelles: un produit déployé n'est pas le même qu'un modèle de base, l'alignement n'a pas été résolu, le rapprochement code les choix politiques et culturels faits par des entreprises spécifiques. - Un compte rendu clair de ce que l'IA actuelle peut et ne peut pas faire, en tenant à la fois les capacités réelles et les limites réelles en vue simultanément plutôt que s'effondrer à la magie ou à la lecture de rien. - L'agent tourne — des modèles de langage câblés en boucles acte Grâce à des outils, pourquoi cela est encore en correspondance plutôt qu'un nouveau renseignement, et pourquoi « il peut agir en votre nom » ouvre une lacune canadienne de responsabilisation qu'aucune loi actuelle ne comble carrément. - Une orientation de travail à la conversation sur l'IAG : l'AGI n'est pas ce que sont les systèmes actuels, les échéanciers sont véritablement contestés parmi les chercheurs chevronnés, les implications politiques de l'IA telle qu'elle existe actuellement ne dépendent pas de la question sur l'AGI, et la question des risques à la frontière entre Hinton et Bengio est une des questions en direct dans la politique canadienne de l'IA (un fil d'Ariane prétendu n'a pas été vérifié, et le guide ne s'y fonde pas).

Le chapitre suivant (chapitre 3) prend la base technique que ce chapitre fournit et s'appuie sur les données de formation en particulier : d'où elles proviennent, ce qui y est contenu, la différence entre « ouvert » et « gratté gratuitement », et les conséquences des données de la formation étant le modèle. La formation-data-opacity de Stanford FMTI trouvant les terres correctement dans le chapitre 3, le matériel de souveraineté des données autochtones du chapitre 1 obtient son installation conceptuelle approfondie au chapitre 3 avant que le chapitre 9 ne l'amène à son application de souveraineté, et le Whaanga "IA as new colonizer" cadrage du Protocole Indigène et IA Position Paper obtient son plein traitement.

Vous pouvez maintenant lire n'importe quelle revendication technique au sujet de l'IA, que ce soit au niveau des entreprises, du gouvernement, du milieu universitaire ou de la défense des intérêts, avec suffisamment de compréhension pour poser les bonnes questions : Quelles étaient les données sur la formation ? Quels étaient les choix d'alignement? Quelles sont les véritables capacités? Quelles sont les véritables limites? Quel est le contexte de déploiement? Jusqu'à ce que ces questions soient répondues, toute demande d'IA est incomplète, quelle que soit la direction qu'elle indique.

---

Étiquette partiale pour ce chapitre : synthèse éducative avec indication explicite de l'endroit où les revendications techniques se rattachent aux enjeux politiques ailleurs dans le manuel. L'auteur se penche sur le cadrage de la capacité d'intelligence artificielle plutôt que le cadastre de l'intelligence émergente; le respect du travail technique réel en cause, tout en sceptique à l'égard du cadage d'entreprise qui masque les limites; le fait de comprendre que l'alignement est un terrain véritablement contesté plutôt qu'un problème résolu; l'affirmation explicite que la question de la GI est séparable des questions immédiates de la politique canadienne en matière d'IA tout en étant importante à part entière. Lorsque des revendications techniques contestées apparaissent (émergence, échéanciers de l'IGA, statut d'alignement), le concours est nommé et les postes identifiés plutôt que s'affaiblis sur un seul compte.

Sources principales citées ou invoquées dans le présent chapitre : Vaswani et al., « Attention is All You Need » (NeurIPS 2017); Stanford Center for Research on Foundation Models, 2025 Foundation Model Transparency Index; Lewis, Whaanga & Yolgörmez, « Abondant intelligences: place IA into Indigenous knowledge frameworks », IA & Society 40(1):2141–2157, 2024; CBC a divulgué l'ébauche de la stratégie d'IA pour tous (Lopez Steven & McKenna, 1er juin 2026); Canadian newspapers v. OpenAI (Cour supérieure de l'Ontario CV-24-00732231-00CL); Goodfellow, Bengio & Courville, Deep Learning (2016) pour une exposition technique fondamentale; Christiano et al. Travaux de base du RLHF. Citations détaillées dans l'annexe Sources.

---