L'Encyclopédie visuelle · octobre 2026

L'Encyclopédie visuelle
de l'IA

100 chapitres. 10 thèmes. Tout ce qui compte.
par Mat Siems
Partie I

Les fondements

Ce que signifie vraiment l'intelligence des machines.

Chapitre 1 · Partie I

Qu'est-ce que l'intelligence ?

Demandez à dix experts de définir l'intelligence et vous obtiendrez onze réponses. Il n'existe toujours pas de définition unique et partagée. Certains insistent sur la faculté d'apprendre, d'autres sur la capacité de raisonner, de planifier, de se souvenir ou de percevoir. Un corbeau qui tord un fil de fer en crochet, un enfant qui apprend une deuxième langue et un grand maître d'échecs qui calcule douze coups à l'avance semblent tous intelligents, et pourtant leurs mécanismes n'ont, en apparence, presque rien en commun.

La définition de travail qu'adoptent la plupart des laboratoires d'IA est pragmatique : l'intelligence est la capacité d'atteindre des objectifs dans une grande diversité d'environnements. La formule doit beaucoup aux chercheurs Shane Legg et Marcus Hutter, qui, en 2007, ont passé en revue des dizaines de définitions pour en extraire le noyau commun. Pour un ingénieur, elle a une immense vertu : elle décrit ce qu'un système sait faire, non ce dont il est fait. On peut donc la mesurer, la comparer et, en principe, la construire.

Ce déplacement est le geste fondateur de l'intelligence artificielle. Pendant deux millénaires, la nature de l'esprit fut une énigme de philosophes. L'IA l'a transformée en programme d'ingénierie : si l'intelligence est un ensemble de capacités, chacune peut être spécifiée, testée et améliorée, que le support soit fait de neurones ou de silicium. La question n'est plus « qu'est-ce qu'un esprit ? » mais « de quoi une machine aurait-elle besoin pour se comporter comme tel ? »

La réponse, dans les grandes lignes, est un faisceau de facultés qui travaillent ensemble. L'apprentissage permet à un système de progresser grâce à l'expérience. Le raisonnement lui permet de tirer des conclusions de ce qu'il sait déjà. La mémoire conserve faits et savoir-faire, la perception transforme des signaux bruts, lumière ou son, en objets porteurs de sens, et la planification enchaîne les actions vers un but. L'intelligence humaine mêle ces cinq facultés si harmonieusement qu'on en oublie à quel point elles sont distinctes. Une bonne part de l'histoire de l'IA consiste à les construire une à une, puis à découvrir combien il est difficile de les assembler.

Le saviez-vous ? Psychologues et chercheurs ont recensé plus de 70 définitions distinctes de l'intelligence ; l'étude de Legg et Hutter, en 2007, en rassemblait à peu près autant avant de tenter de les unifier.

Point essentiel : l'IA vise la compétence, non la conscience. Savoir si une machine qui répond brillamment aux questions éprouve quoi que ce soit est une question profonde et ouverte, mais c'est une autre question. Un thermostat poursuit un objectif sans avoir chaud ; une application de navigation trouve l'itinéraire le plus rapide sans se soucier d'arriver. La question de l'ingénieur est plus étroite et plus abordable : le système accomplit-il sa tâche de façon fiable, y compris dans des situations qu'il n'a jamais rencontrées ? Cette dernière exigence, la généralité, se révèle la plus difficile de toutes.

À l'ère des machines, l'intelligence se juge à ce qu'elle accomplit.

Le faisceau de facultés appelé intelligence Intelligence atteindre des objectifs partout Apprentissage progresse par l'expérience Raisonnement tire des conclusions Mémoire conserve faits et savoir-faire Perception signaux bruts en objets Planification enchaîne des actions Généralité réussit l'inédit Elle se juge à ce qu'elle accomplit, non à ce dont elle est faite.
Fig. 1 · Qu'est-ce que l'intelligence ?. La question à l'origine de tout.
Chapitre 2 · Partie I

Le test de Turing

En 1950, le mathématicien britannique Alan Turing publie dans la revue de philosophie Mind un article intitulé « Computing Machinery and Intelligence ». Il s'ouvre sur une question, « Les machines peuvent-elles penser ? », que Turing écarte aussitôt comme trop floue pour recevoir une réponse. À sa place, il propose un jeu qu'il appelle le jeu de l'imitation, connu depuis sous le nom de test de Turing.

Le dispositif est simple. Un juge humain converse avec deux interlocuteurs cachés, une personne et une machine. Juge, humain et machine ne communiquent que par écrit, si bien que ni la voix, ni le visage, ni l'écriture ne trahissent quoi que ce soit. Le juge peut tout demander : un calcul, un poème, un potin, le goût des fraises. Si, au terme d'un interrogatoire honnête, il ne parvient pas à désigner la machine de façon fiable, celle-ci a réussi l'épreuve.

Le génie de l'idée tient à ce qu'elle laisse de côté. Turing ne demande pas ce que l'on ressent en pensant, ni si la machine a une âme, ni si ses rouages ressemblent à un cerveau. Il définit l'intelligence par le comportement, non par la biologie : si la conversation est indiscernable, au nom de quoi refuserait-on à la machine l'étiquette que l'on accorde aux autres humains ? Il anticipe les objections, théologiques comme mathématiques, et y répond une à une dans le même article.

Le test n'a cessé d'être critiqué. En 1980, le philosophe John Searle imagine sa « chambre chinoise » pour montrer qu'un manipulateur de symboles suivant des règles pourrait produire des réponses fluides sans rien comprendre. D'autres font remarquer que le test récompense la tromperie, et qu'une machine pourrait échouer simplement en calculant trop vite. Les premiers programmes misaient sur la bienveillance humaine : ELIZA, écrit par Joseph Weizenbaum au MIT au milieu des années 1960, imitait un psychothérapeute en renvoyant aux utilisateurs leurs propres mots, et certains se confiaient pourtant à lui.

Le saviez-vous ? Turing prédisait que vers l'an 2000, les machines joueraient si bien au jeu de l'imitation qu'un juge moyen n'aurait pas plus de 70 % de chances de les démasquer après cinq minutes. Il s'est trompé d'environ deux décennies.

La confirmation est venue avec les grands modèles de langage. Les agents conversationnels modernes trompent régulièrement les juges lors de courtes sessions, et en 2025 des chercheurs de l'université de Californie à San Diego ont rapporté que GPT-4.5, invité à adopter une personnalité humaine, était désigné comme l'humain plus souvent que les véritables participants face à lui. Réussir le test, en fin de compte, en disait autant sur les juges que sur les machines, et peu de chercheurs y voient encore une ligne d'arrivée. Son héritage durable est la posture qu'il a instaurée : juger une machine sur ce qu'elle fait.

Turing a changé une énigme métaphysique en expérience que chacun peut mener.

Comment se joue le jeu de l'imitation Humain caché Juge Machine Toute question, par écrit calcul, poème, potin Réponse écrite voix et visage cachés Même type de question même interrogatoire Réponse écrite Mind, 1950 Indiscernables : réussi GPT-4.5, UCSD 2025 Par écrit : le juge voit le comportement, jamais la biologie.
Fig. 2 · Le test de Turing. Une machine peut-elle tromper un humain ?.
Chapitre 3 · Partie I

IA faible ou IA générale

Tous les systèmes d'IA déployés aujourd'hui sont, en un sens important, des spécialistes. Les ingénieurs parlent d'IA faible, ou IA étroite : un logiciel capable d'être surhumain dans une tâche et inutile en dehors. Un moteur d'échecs ne sait pas conduire une voiture. Un système qui repère les tumeurs sur des mammographies ne sait pas traduire un menu, et un traducteur automatique ne sait pas plier une serviette. Chacun est un savant prodige doté d'un seul talent.

Dans leur couloir, ces spécialistes sont redoutables. L'IA faible surpasse déjà l'humain dans des dizaines de domaines : jeux de plateau comme les échecs et le go, nombreux jeux vidéo, prédiction de la structure des protéines, transcription de la parole dans de bonnes conditions, certains bancs d'essai de classification d'images. L'écart est souvent considérable. Aucun humain n'a battu un moteur d'échecs de premier plan dans un match sérieux depuis de nombreuses années, et les meilleurs joueurs étudient désormais les analyses des machines pour progresser.

Le rêve qui anime le domaine depuis sa fondation est tout autre : l'intelligence artificielle générale, ou IAG (souvent appelée AGI), un système unique égalant l'humain sur tous les plans. Il pourrait apprendre un métier à partir d'un manuel, passer du droit fiscal à la plomberie puis à la poésie, et transférer ce qu'il a appris d'un domaine à l'autre, comme une personne qui sait conduire une voiture prend vite en main une camionnette. C'est la généralité, plus que la virtuosité, qui le définit.

La frontière s'est brouillée ces dernières années. Les grands modèles de langage écrivent du code, résument des contrats, réussissent des examens professionnels et conversent sur presque tous les sujets, à partir d'un seul jeu de poids entraînés. Certains chercheurs y voient des pas, précoces et inégaux, vers la généralité ; d'autres soulignent qu'ils trébuchent encore sur des tâches faciles pour un enfant, manquent d'une mémoire fiable d'une session à l'autre et ne savent pas agir avec compétence dans le monde physique. Les deux camps s'accordent sur un point : l'AGI est un objectif, pas un produit livré, et les critères permettant de dire qu'elle est atteinte restent disputés.

Le saviez-vous ? Deep Blue, d'IBM, a battu le champion du monde d'échecs Garry Kasparov en 1997, mais aurait été incapable de jouer au morpion : tout ce qu'il savait, c'était les échecs.

La distinction compte bien au-delà du laboratoire. Un système spécialisé échoue de façon circonscrite et prévisible, et l'on peut l'évaluer sur sa tâche. Un système général serait bien plus difficile à juger, car l'éventail de ce qu'il pourrait faire, bien ou mal, n'a pas de bord évident. Voilà pourquoi les débats sur la sûreté et la gouvernance de l'IA tournent si souvent autour du degré de généralité d'un système, plutôt que du caractère spectaculaire d'une démonstration isolée.

Les spécialistes sont déjà là ; le généraliste reste un horizon.

Spécialistes, modèles actuels et rêve d'AGI IA faible Une seule tâche Surhumaine Échecs, go, protéines Inutile hors tâche Facile à évaluer LLM actuels Un seul jeu de poids Code, examens Bute sur le facile Mémoire fragile Rien de physique AGI Toute tâche Ampleur humaine Transfère Dure à évaluer Encore un but Les grands modèles de langage brouillent une frontière autrefois nette.
Fig. 3 · IA faible ou IA générale. Les spécialistes et le rêve d'un généraliste.
Chapitre 4 · Partie I

L'IA symbolique

Le premier grand paradigme de l'intelligence artificielle concevait la pensée comme une manipulation de symboles. Ses fondateurs, parmi lesquels Allen Newell, Herbert Simon et John McCarthy, voyaient l'esprit comme une machine appliquant des règles logiques à des énoncés sur le monde. Il suffirait de consigner assez de connaissances sous forme de symboles et d'y ajouter un moteur de déduction pour que l'intelligence en découle. On appelle cette approche l'IA symbolique, ou, avec une pointe de nostalgie, la « bonne vieille IA ».

Un système symbolique comporte deux éléments principaux. Une base de connaissances réunit des faits et des règles rédigés par des experts humains, sous une forme telle que SI fièvre ET éruption ALORS suspecter la rougeole. Un moteur d'inférence enchaîne ces règles, confronte les faits aux conditions et ajoute de nouvelles conclusions jusqu'à aboutir à une réponse. Chaque étape étant explicite, le système peut justifier son raisonnement, ce qui reste l'un des attraits durables du paradigme.

L'IA symbolique domine des années 1950 aux années 1980. Parmi ses premiers succès figurent le Logic Theorist de 1956, qui démontrait des théorèmes des Principia Mathematica, et des programmes résolvant des problèmes d'algèbre ou empilant des cubes virtuels. Son apogée commercial arrive avec les systèmes experts, à la fin des années 1970 et dans les années 1980. MYCIN, conçu à Stanford, s'appuyait sur plusieurs centaines de règles pour recommander des antibiotiques contre les infections du sang et soutenait honorablement la comparaison avec des spécialistes lors d'essais. Les entreprises se ruèrent pour mettre en bouteille le savoir-faire de leurs meilleurs employés.

Sa faiblesse était la fragilité. Les règles échouent hors des cas prévus, et le monde réel est fait surtout de cas imprévus. Un système médical ignorant la grossesse d'une patiente, ou une faute de frappe dans un résultat d'analyse, aboutissait gaiement à des conclusions absurdes. Rédiger les règles était lent et coûteux, un écueil baptisé goulot d'étranglement de l'acquisition des connaissances, et les bases de règles s'emmêlaient en grossissant. Le sens commun, cet immense stock de faits implicites que chacun tient pour acquis, s'est révélé presque impossible à mettre par écrit ; le projet Cyc, lancé par Douglas Lenat en 1984, s'y est employé pendant des décennies.

Le saviez-vous ? XCON, un système expert conçu au début des années 1980 pour configurer les commandes d'ordinateurs VAX de Digital Equipment Corporation, aurait fait économiser à DEC environ 40 millions de dollars par an au milieu de la décennie.

Avec l'effondrement du marché des systèmes experts à la fin des années 1980, l'IA symbolique perd sa couronne, mais pas sa pertinence. Ses idées survivent dans les algorithmes de recherche, les logiciels de planification, les langages de requête des bases de données et la vérification formelle des puces et du code. Les chercheurs explorent aujourd'hui activement des hybrides « neurosymboliques », qui associent systèmes appris et logique explicite dans l'espoir de marier la souplesse des uns à la fiabilité de l'autre.

L'IA symbolique a montré que les règles savent raisonner, et que le monde refuse de s'y plier.

Comment un système expert rend son verdict 01 Expert humain rédige les règles 02 Base de faits SI fièvre ET éruption ALORS rougeole 03 Moteur confronte faits et conditions 04 Conclusion avec ses raisons les conclusions deviennent des faits Chaque étape est explicite : le système peut se justifier.
Fig. 4 · L'IA symbolique. L'intelligence comme logique et règles.
Chapitre 5 · Partie I

Le tournant de l'apprentissage

La programmation traditionnelle suit une recette : un humain écrit les règles, l'ordinateur les applique aux données, et les réponses en sortent. L'apprentissage automatique renverse la recette. Au lieu d'écrire les règles, le programmeur fournit des exemples, des données assorties des bonnes réponses, et laisse la machine trouver elle-même les règles. Les règles sont découvertes, non écrites.

Prenons la reconnaissance d'un chiffre manuscrit. Décrire en code ce qui fait d'un « 7 » un sept, avec toutes les inclinaisons, gribouillis et fioritures possibles, est d'une difficulté exaspérante. Montrer à un système apprenant des dizaines de milliers de sept étiquetés, et le laisser ajuster ses réglages internes jusqu'à les classer correctement, s'avère bien plus simple. La célèbre base MNIST, 70 000 chiffres manuscrits rassemblés dans les années 1990, est devenue le terrain d'entraînement classique de cette approche.

L'idée est ancienne. En 1959, l'ingénieur d'IBM Arthur Samuel publie l'étude d'un programme de jeu de dames qui progressait en disputant des milliers de parties contre lui-même, et popularise au passage l'expression même de « machine learning ». L'affirmation centrale était que les systèmes apprenants s'améliorent avec l'expérience : plus ils reçoivent de parties, d'exemples ou de retours, meilleurs ils deviennent, sans que personne ne réécrive leur code.

Pendant des décennies, les méthodes d'apprentissage cohabitent avec l'IA symbolique, souvent en partenaire de second rang. L'équilibre bascule dans les années 1990 et 2000, à mesure que les ordinateurs accélèrent et que les données numériques s'accumulent. Les méthodes statistiques commencent à battre les règles écrites à la main en reconnaissance vocale, en filtrage du spam, en traduction automatique et en recherche sur le Web. Puis, à partir de 2012, l'apprentissage profond fondé sur de grands réseaux de neurones déferle sur la vision et le langage, et l'apprentissage devient l'approche par défaut pour presque tous les problèmes difficiles de l'IA.

Le saviez-vous ? Arthur Samuel n'était pas lui-même un fort joueur de dames, et son programme autodidacte a fini par battre son propre créateur ; en 1962, il remportait une partie très médiatisée contre un joueur humain chevronné.

Le tournant de l'apprentissage a changé la nature de l'ingrédient précieux. À l'ère symbolique, la ressource rare était le savoir des experts, saisi laborieusement. À l'ère de l'apprentissage, les données ont remplacé la connaissance artisanale comme carburant, et leur qualité compte désormais davantage qu'un code astucieux. Un modèle entraîné sur des exemples mal étiquetés, biaisés ou peu représentatifs en apprendra fidèlement les erreurs. Le métier d'ingénieur a changé lui aussi : une grande partie du travail en IA consiste aujourd'hui à collecter, nettoyer et étiqueter des données, à concevoir des objectifs et à vérifier que le comportement appris se généralise vraiment au-delà des exemples.

Les machines ont cessé de recevoir les réponses pour se mettre à les trouver.

Des dames autodidactes à l'apprentissage profond 1959 Arthur Samuel « machine learning » 1962 Victoire aux dames bat un bon joueur années 1990 MNIST 70 000 chiffres années 2000 Statistiques parole, spam, Web 2012 Deep learning approche par défaut Les règles sont découvertes dans les données, non écrites.
Fig. 5 · Le tournant de l'apprentissage. Des réponses programmées aux réponses apprises.
Chapitre 6 · Partie I

Recherche et optimisation

Sous une part étonnante de l'intelligence artificielle se cache une idée unique : la recherche. Un problème est formulé comme un espace de réponses possibles, que le système explore en quête de la meilleure. Coups d'échecs, tournées de livraison, emplois du temps, formes des protéines et poids d'un réseau de neurones se trouvent tous, au fond, de la même manière : en essayant des candidats et en gardant les plus prometteurs.

La difficulté tient à la taille. Le mathématicien Claude Shannon estimait en 1950 que les échecs comptent environ 10^120 parties possibles, un chiffre baptisé depuis nombre de Shannon. Aucun ordinateur ne pourra jamais les examiner toutes. Même un problème modeste, comme visiter 30 villes dans le meilleur ordre, offre plus d'itinéraires qu'on ne pourrait en vérifier durant toute la vie de l'univers. La force brute seule est sans espoir ; l'intelligence consiste à savoir où ne pas chercher.

C'est le rôle des heuristiques : des règles empiriques qui réduisent des espaces de recherche démesurés à une taille maniable. Un programme d'échecs n'envisage pas, dans chaque variante, de sacrifier sa dame au premier coup ; il estime quelles positions semblent bonnes et y concentre ses efforts. L'algorithme A*, publié en 1968 par Peter Hart, Nils Nilsson et Bertram Raphael, trouve les plus courts chemins en combinant la distance déjà parcourue et une estimation de celle qui reste ; ses descendants animent encore les logiciels de navigation et les personnages de jeux vidéo. Les programmes de jeu recourent à la recherche minimax, qui suppose que l'adversaire jouera son meilleur coup, et à l'élagage alpha-bêta, qui ignore les branches incapables de modifier le résultat.

L'optimisation est une recherche dotée d'un score. Au lieu de viser un état final, le système cherche l'option qui maximise ou minimise une grandeur : profit, distance, erreur. Le cheval de trait de l'apprentissage automatique moderne, la descente de gradient, est une recherche dans l'espace des poids. Imaginez un randonneur dans le brouillard sur un relief dont l'altitude représente l'erreur du modèle : à chaque pas, il sent la pente sous ses pieds et descend. Répétée des milliards de fois dans des milliards de dimensions, l'opération amène peu à peu un réseau de neurones vers une configuration qui commet peu d'erreurs.

Le saviez-vous ? Il existe plus de parties d'échecs possibles que d'atomes dans l'univers observable : les 10^120 de Shannon écrasent les quelque 10^80 atomes que les physiciens attribuent au cosmos.

Les deux grandes méthodes font souvent équipe. AlphaGo, de DeepMind, vainqueur de Lee Sedol au go en 2016, associait une recherche arborescente de Monte-Carlo à des réseaux de neurones entraînés par descente de gradient pour juger quels coups et quelles positions étaient prometteurs. La recherche apportait la prévoyance ; l'apprentissage, l'intuition sur l'endroit où regarder.

Bien souvent, ce qui ressemble à de l'astuce n'est qu'une recherche bien élaguée.

La famille des méthodes de recherche Recherche explorer un espace de réponses Heuristiques règles empiriques A* (1968) Navigation Personnages de jeux Arbres de jeu ~10^120 parties d'échecs Minimax Élagage alpha-bêta Monte-Carlo (AlphaGo) Optimisation recherche avec score Descente de gradient Descendre au brouillard Poids du réseau L'intelligence consiste à savoir où ne pas chercher.
Fig. 6 · Recherche et optimisation. L'intelligence comme quête de la meilleure option.
Chapitre 7 · Partie I

La représentation des connaissances

Savoir quelque chose ne suffit pas : une machine doit le stocker sous une forme exploitable. La représentation des connaissances étudie comment. Le choix n'a rien de neutre : la représentation détermine les raisonnements possibles, de même que la projection d'une carte détermine quelles distances sont faciles à mesurer. En soixante-dix ans, l'IA a essayé de nombreux formats, et chacun rend certaines questions faciles et d'autres presque impossibles.

L'approche la plus ancienne est la logique : faits et règles écrits sous forme d'énoncés précis qu'un moteur d'inférence peut combiner. « Tous les oiseaux ont des ailes ; Titi est un oiseau ; donc Titi a des ailes. » La logique est exacte et explicable, mais maladroite face aux exceptions (manchots, autruches, ou l'accident malheureux de Titi) et aux degrés de croyance.

Les graphes se sont ensuite imposés pour relier les faits entre eux. Un graphe de connaissances relie des entités par des relations : « Marie Curie » est reliée à « physicienne » par profession, à « Varsovie » par lieu de naissance et au « prix Nobel » par distinction reçue. Google a lancé son Knowledge Graph en 2012 avec le slogan « things, not strings » (des choses, pas des chaînes de caractères), et les encadrés de synthèse affichés à côté des résultats de recherche y puisent. Wikidata, la base ouverte qui sous-tend Wikipédia, compte plus de cent millions d'éléments organisés de la même façon. Les représentations probabilistes, quant à elles, attachent des probabilités aux faits et aux liens, si bien qu'un système peut dire qu'un diagnostic est probable à 80 % plutôt que simplement vrai ou faux.

La révolution moderne a remplacé les symboles explicites par des nombres. Les plongements (embeddings) encodent le sens sous forme de vecteurs : chaque mot, image ou document devient une liste de centaines ou de milliers de nombres, disposés de sorte que les choses semblables soient proches. En 2013, le système word2vec a montré qu'une arithmétique sur ces vecteurs capturait des relations : « roi » moins « homme » plus « femme » tombait près de « reine ». Les grands modèles de langage vont plus loin encore : ils stockent leurs connaissances implicitement dans leurs poids, des milliards de paramètres numériques ajustés pendant l'entraînement. Nulle part dans un modèle ne figure la ligne « Paris est la capitale de la France », et pourtant, interrogé, il donne la réponse.

Le saviez-vous ? En 2020, Google indiquait que son Knowledge Graph contenait plus de 500 milliards de faits portant sur 5 milliards d'entités, accumulés en huit ans à peine.

Chaque format sacrifie quelque chose. La logique et les graphes sont transparents et modifiables, mais rigides ; les poids sont souples et d'une étendue stupéfiante, mais opaques. C'est pourquoi un modèle peut énoncer une contre-vérité avec aplomb, et pourquoi les chercheurs peinent à localiser ou corriger un fait précis à l'intérieur. Les systèmes qui extraient des faits d'une base ou d'un graphe pour les confier à un modèle de langage tentent de réunir le meilleur des deux.

La façon dont une machine range son savoir décide, en silence, de sa façon de penser.

Ce que sacrifie chaque format de savoir Logique et graphes exacts, explicables, fragiles aux exceptions Graphe + LLM faits d'un graphe, aisance d'un modèle Le pire des deux rigide et illisible Plongements, poids roi − homme + femme ≈ reine ; faits cachés rigide Étendue et souplesse souple ↑ Transparence opaque → modifiable La façon de ranger le savoir décide de la façon de penser.
Fig. 7 · La représentation des connaissances. Comment les machines stockent ce qu'elles savent.
Chapitre 8 · Partie I

Probabilités et incertitude

Le monde réel est bruité. Les capteurs se trompent, les témoins oublient, les symptômes se recoupent et les mots ont plusieurs sens. Un système qui exigerait la certitude avant d'agir n'agirait jamais. L'IA moderne est donc probabiliste : elle pèse les indices et produit des probabilités, non des certitudes, en traitant la croyance comme une affaire de degrés.

La grammaire de ce raisonnement est le théorème de Bayes, du nom du pasteur et mathématicien anglais Thomas Bayes. Il décrit comment réviser une croyance à la lumière d'un nouvel indice. On part d'un a priori, la vraisemblance initiale ; on observe un indice ; on se demande quelle serait la probabilité de cet indice si la croyance était vraie ou fausse ; et l'on combine le tout en un a posteriori, la croyance révisée. Cet a posteriori devient l'a priori de l'indice suivant, et le cycle recommence.

Un test médical montre pourquoi c'est important. Supposons qu'une maladie touche une personne sur mille, et qu'un test détecte 99 % des cas mais signale aussi à tort 1 % des personnes saines. Un résultat positif paraît accablant ; pourtant, la règle de Bayes montre que la plupart des positifs proviennent de la population saine, bien plus nombreuse, si bien que la probabilité d'être réellement malade n'est que d'environ 9 %. L'intuition, qui tend à négliger l'a priori, se trompe ; l'arithmétique, non.

Les filtres antispam furent parmi les premiers succès bayésiens. En 2002, le programmeur Paul Graham décrivait un filtre qui apprenait, à partir du courrier de l'utilisateur, la fréquence de mots comme « viagra » ou « désabonner » dans les messages indésirables et dans les vrais, puis combinait ces indices en une probabilité globale qu'un nouveau message soit du spam. Dans les années 1980, Judea Pearl a mis au point les réseaux bayésiens, des schémas de causes et d'effets reliés qui permettent aux machines de raisonner sur l'incertitude à grande échelle ; ces travaux lui ont valu le prix Turing en 2011. Les voitures autonomes emploient des méthodes apparentées pour fusionner les mesures imparfaites des caméras, du radar et du lidar en une seule estimation optimale de la position de chaque chose.

Le saviez-vous ? La règle de Bayes a été publiée en 1763, deux ans après la mort de Bayes, lorsque son ami Richard Price l'a présentée à la Royal Society : environ 180 ans avant les premiers ordinateurs électroniques.

Les probabilités irriguent les modèles de langage actuels. Chaque sortie d'un LLM est une distribution de probabilités : à chaque étape, le modèle attribue une vraisemblance à chaque fragment de mot possible, puis en choisit un. Un réglage appelé température détermine l'audace de ce choix. Le ton assuré d'un agent conversationnel peut masquer le fait qu'en dessous, il ne fait jamais que parier.

La croyance d'une machine n'est jamais oui ou non ; c'est un nombre qui ne cesse de bouger.

La règle de Bayes, boucle de la croyance théorème de Bayes A priori croyance initiale 1 malade sur 1 000 Indice une observation test positif Vraisemblance probable si c'est vrai ? 99 % · 1 % faux pos. A posteriori croyance révisée ≈ 9 % seulement Maladie 1 sur 1 000, test à 99 % : un positif ne vaut qu'environ 9 %.
Fig. 8 · Probabilités et incertitude. Raisonner quand rien n'est certain.
Chapitre 9 · Partie I

Calcul, données, algorithmes

Toute capacité d'une IA est le produit de trois ingrédients : la puissance de calcul, utilisée pour entraîner et faire tourner un modèle ; les données, les exemples dont il apprend ; et les algorithmes, les idées qui transforment les deux premiers en savoir-faire. Un progrès sur l'un démultiplie la valeur des autres. Un algorithme astucieux privé de données apprend peu ; des montagnes de données ne servent à rien sans la puissance nécessaire pour les digérer.

Des trois, le calcul est celui qui a crû le plus vite. Les analystes du groupe de recherche Epoch AI estiment que la puissance mobilisée pour entraîner les plus grands modèles a été multipliée par quatre à cinq chaque année à la fin des années 2010 et dans les années 2020, soit un doublement tous les six mois environ. L'essentiel est venu des processeurs graphiques, des puces conçues à l'origine pour les jeux vidéo qui excellent justement dans les immenses multiplications de matrices au cœur des réseaux de neurones. AlexNet, le réseau qui stupéfia la discipline en remportant le concours de reconnaissance d'images ImageNet en 2012, avait été entraîné sur deux cartes graphiques grand public ; les modèles de pointe s'entraînent désormais sur des dizaines de milliers de puces spécialisées, dans des centres de données construits à cet effet.

Les données ont fourni la deuxième poussée. ImageNet, constituée par l'équipe de Fei-Fei Li et publiée en 2009, offrait plus de 14 millions de photographies étiquetées. Les textes à l'échelle d'Internet ont rendu possibles les grands modèles de langage : livres, sites Web, code et encyclopédies, filtrés et dédoublonnés, représentant des milliers de milliards de tokens, ces fragments de mots que lisent les modèles. Meta a indiqué avoir entraîné ses modèles Llama 3, en 2024, sur environ 15 000 milliards de tokens. Les laboratoires craignent de plus en plus que les textes humains de qualité soient en quantité finie, et se tournent vers les données synthétiques, les archives sous licence et de nouvelles modalités comme la vidéo.

Le troisième carburant arrive par à-coups. La rétropropagation, popularisée en 1986, a rendu praticable l'entraînement de réseaux à plusieurs couches. Le transformeur, présenté par des chercheurs de Google en 2017 dans l'article « Attention Is All You Need », a été le déclic algorithmique décisif pour le langage : il traite des séquences entières en parallèle, ce qui convient aux puces modernes, et s'adapte bien à la croissance des modèles. Des études suggèrent par ailleurs que les progrès algorithmiques réduisent régulièrement le calcul nécessaire pour atteindre un niveau de performance donné.

Le saviez-vous ? Selon les estimations compilées par Epoch AI, la puissance de calcul utilisée pour entraîner les plus grands modèles de pointe a été multipliée par plus de 100 millions entre 2012 et 2024.

Ces trois carburants expliquent à la fois la vitesse des progrès récents et la structure du secteur. Le calcul coûte cher : il concentre le pouvoir entre les mains des organisations capables de s'offrir d'immenses centres de données et l'électricité pour les alimenter. Les données soulèvent des questions de droit d'auteur et de consentement. Les algorithmes, eux, circulent encore librement dans les articles publiés.

La capacité, c'est le calcul multiplié par les données et par les idées, et les trois ne cessent de croître.

Trois carburants et leurs grandes étapes Capacité calcul × données × idées Calcul ×4 à 5 chaque année Données milliers de Md de tokens Algorithmes idées → savoir-faire AlexNet, 2012 deux cartes graphiques Llama 3, 2024 env. 15 000 Md de tokens Transformeur, 2017 parallèle, passe à l'échelle Un progrès sur l'un démultiplie la valeur des deux autres.
Fig. 9 · Calcul, données, algorithmes. Les trois carburants de l'IA.
Chapitre 10 · Partie I

La leçon amère

En mars 2019, l'informaticien Rich Sutton, pionnier de l'apprentissage par renforcement, publie sur son site personnel un court essai intitulé « The Bitter Lesson », la leçon amère. Il y condense soixante-dix ans de recherche en IA en une affirmation dérangeante : les méthodes générales qui tirent parti d'une puissance de calcul massive l'emportent toujours, à long terme, sur les méthodes fondées sur des connaissances façonnées par l'homme.

Sutton puise ses preuves dans l'histoire même de la discipline. Aux échecs, des chercheurs ont passé des décennies à coder la sagesse des grands maîtres sur les structures de pions et la sécurité du roi, avant d'être dépassés en 1997 par la recherche massive, en force brute, de Deep Blue. Au go, les programmes fondés sur l'intuition humaine plafonnaient au niveau amateur jusqu'à ce qu'AlphaGo associe la recherche à l'apprentissage par le jeu contre soi-même. En reconnaissance vocale, les méthodes statistiques fondées sur les modèles de Markov cachés ont battu, dès les années 1970, les systèmes bâtis sur des règles linguistiques, avant d'être balayées à leur tour par l'apprentissage profond. La vision par ordinateur a suivi la même trajectoire, les réseaux appris remplaçant les détecteurs de contours et extracteurs de caractéristiques conçus à la main.

La leçon est amère parce qu'elle pique. Le savoir construit à la main plafonne à répétition. Il procure de séduisants gains initiaux, flatte la compréhension que ses concepteurs ont du problème, puis bute sur un plafond, tandis que l'approche plus fruste et plus générale continue de progresser à mesure que les ordinateurs accélèrent. Le moteur, notait Sutton, est la baisse implacable du coût du calcul, souvent résumée par la loi de Moore. Une méthode incapable d'absorber davantage de calcul parie contre la tendance la plus fiable de la technologie.

Sutton désigne deux méthodes qui passent indéfiniment à l'échelle : la recherche et l'apprentissage. Toutes deux convertissent directement un surcroît de calcul en meilleures performances, et aucune n'exige du chercheur qu'il comprenne le problème aussi bien que la solution finira par le faire. Sa prescription : cesser d'intégrer ce que nous croyons savoir du fonctionnement de l'esprit, et construire plutôt des systèmes capables de découvrir ces structures par eux-mêmes.

Le saviez-vous ? « The Bitter Lesson » compte moins de 1 200 mots, mais a remodelé des programmes de recherche pesant des milliards ; Sutton a ensuite partagé le prix Turing 2024 avec Andrew Barto pour avoir fondé l'apprentissage par renforcement.

L'essai est devenu le texte fondateur de l'ère du passage à l'échelle, cité dans les conseils d'administration autant que dans les laboratoires. L'essor des grands modèles de langage, entraînés avec des objectifs relativement simples sur toujours plus de données et de calcul, ressemble à une confirmation. Les critiques rappellent que la leçon décrit une tendance historique, non une loi de la nature : le passage à l'échelle pourrait se heurter aux limites des données, de l'énergie ou des coûts, et les idées ingénieuses, comme le transformeur lui-même, comptent encore. Mais Sutton n'a jamais prétendu que les idées ne valent rien, seulement que les meilleures sont celles qui laissent le calcul faire le travail.

Misez sur ce qui passe à l'échelle, et attendez-vous à ce que cela gagne.

Soixante-dix ans de leçon amère années 1970 Parole Markov bat les règles 1997 Deep Blue force brute 2012 Vision traits appris 2016 AlphaGo recherche + auto-jeu 2019 Leçon amère essai de Sutton 2024 Prix Turing Sutton et Barto Ce qui absorbe le calcul bat le savoir façonné à la main.
Fig. 10 · La leçon amère. L'échelle l'emporte sur l'ingéniosité.
Extrait gratuit · Partie I

Continuer la lecture

Vous avez lu les 10 premiers chapitres sur 100 de L'Encyclopédie visuelle de l'IA. Le livre complet contient chaque chapitre et chaque planche, en PDF et EPUB, en anglais, français, polonais et espagnol.

Le livre complet arrive bientôt dans la boutique.

Déjà acheté ? Lire l’édition complète en ligne

L'Encyclopédie visuelle de l'IA · Première édition, octobre 2026
100 chapitres · 10 parties · cent schémas
par Mat Siems · The Visual Encyclopaedia, No. 1 · 2026