L'agnotologie algorithmique désigne la production ou l'organisation stratégique de l'ignorance à travers les systèmes numériques et l'intelligence artificielle, au service d'intérêts corporatifs ou politiques. Le concept a été formulé par la politiste Alondra Nelson, ancienne directrice par intérim du Bureau de la politique scientifique et technologique de la Maison-Blanche, qui l'a présenté publiquement en février 2026 lors de la conférence IASEAI à l'UNESCO, à Paris [1].

On ne parle pas ici juste de désinformation. Pour rappel, la désinformation renvoie principalement à la diffusion intentionnelle d'informations fausses ou trompeuses. Mais l'agnotologie algorithmique s'attaque aux conditions structurelles qui rendent l'ignorance systémique et rentable. Cette note présente le concept, ses mécanismes et quelques pistes de gouvernance envisagées pour en limiter les effets.

De l'agnotologie à l'agnotologie algorithmique

Le terme agnotologie (de l'anglais agnotology) a été forgé au début des années 1990 par l'historien des sciences de Stanford Robert Proctor, avec l'aide du linguiste de Berkeley Iain Boal. Il désigne l'étude de la production culturelle et délibérée de l'ignorance, par opposition à l'ignorance comme simple absence de savoir.

Proctor a construit cette notion en étudiant l'industrie du tabac. Un mémo interne de la société Brown & Williamson, rédigé en 1969 et rendu public par la suite lors de procédures judiciaires contre l'industrie du tabac, résume la stratégie en une formule restée célèbre dans la littérature sur le sujet : « Doubt is our product » (« Le doute est notre produit ») [2]. Le document précise que le doute y est présenté comme le meilleur moyen de contrer le corpus de faits déjà établi dans l'esprit du public. Il s'agit aussi d'un outil pour entretenir artificiellement une controverse. L'objectif n'était donc pas de réfuter les études sur le lien entre tabac et cancer, mais de retarder la régulation en maintenant l'apparence d'un débat scientifique encore ouvert.

Alondra Nelson transpose ce cadre d'analyse aux entreprises technologiques et à l'intelligence artificielle. Selon elle, les grandes entreprises du numérique ont raffiné les tactiques industrielles du XXe siècle en exploitant la complexité technique des systèmes d'IA pour brouiller les responsabilités afin de présenter l'opacité comme une caractéristique inhérente aux systèmes numériques [3]. Nelson situe ainsi les entreprises d'IA dans la même lignée que les industries du tabac, du pétrole et pharmaceutique, secteurs historiquement associés à la production organisée de doute.

Le concept d'agnotologie algorithmique

L'agnotologie algorithmique peut se définir comme la production ou l'organisation stratégique de l'ignorance à travers les systèmes numériques et d'IA, dans le but de servir des intérêts corporatifs, politiques ou autres. Elle se distingue de la désinformation classique en ceci qu'elle ne vise pas seulement à faire croire des faits erronés, mais à entretenir les conditions structurelles qui rendent l'ignorance profitable et durable. L'un des principaux aspects du cadre proposé par Nelson repose sur une distinction empruntée aux travaux de la sociologue Jennifer Croissant [4] :

  • l'incertitude épistémique : ce qui n'est pas encore connu, mais pourrait l'être avec davantage de recherche ou de meilleurs modèles ;
  • l'incertitude stochastique : ce qui relève d'un processus probabiliste, où l'incertitude est intrinsèque au système lui-même.

Selon Nelson, l'agnotologie algorithmique agit en brouillant délibérément cette distinction. Des zones d'ombre qui pourraient être éclaircies par la recherche, l'audit ou la transparence réglementaire sont présentées comme relevant d'une incertitude inhérente et donc irréductible aux systèmes d'IA.

Les mécanismes de production de l'ignorance

D'après les notes de la présentation de Nelson à IASEAI'26, trois mécanismes structurels soutiennent l'agnotologie algorithmique [5] :

  1. L'opacité de conception (design opacity) : le fait de dissimuler la manière dont les décisions algorithmiques sont réellement prises.
  2. L'incertitude produite (generated uncertainty) : la diffusion de contenus trompeurs ou prématurés sur les capacités et les limites des systèmes.
  3. Les arguments en faveur de l'inconnaissabilité, de la complexité (claims of unknowability) : les arguments selon lesquels un système serait trop complexe pour être expliqué, utilisé pour clore le débat plutôt que pour le documenter.

À ces mécanismes s'ajoute d'autres de tactiques, présentées sous forme de « playbook ». Parmi celles-ci, on peut citer :

  • la production de doute ;
  • l'asymétrie d'information entre l'entreprise et le public ;
  • la fausse équivalence entre positions scientifiquement inégales ;
  • la divulgation sélective d'informations favorables ;
  • la déflexion des critiques vers d'autres acteurs ou d'autres causes.

Nelson appuie sa démonstration sur des exemples documentés dans la presse, notamment les révélations sur la gestion interne des risques de sécurité chez certaines entreprises d'IA, rapportées en 2024 par le Washington Post [6]. Ce type de cas illustre comment un écart entre le discours public et les pratiques internes peut nourrir un déficit de connaissance chez le public, les salariés et les régulateurs.

La question de la responsabilité

L'argument de fond de Nelson est que le discours dominant sur l'imprévisibilité des systèmes d'IA, même lorsqu'il repose sur des constats techniques réels, a pour effet collatéral de limiter la responsabilité et la transparence des entreprises qui les développent. Elle formule la question de façon directe : les discours sur l'opacité des systèmes d'IA servent-ils à l'interroger, ou à la légitimer ?

Une question qui rejoint d'autres travaux académiques sur l'ignorance produite par l'IA. Un ouvrage récent consacré à ce que ses auteurs nomment l'« ignorance artificielle » propose un cadre d'analyse inspiré de l'agnotologie. L'objectif est d'examiner les implications épistémiques, politiques et culturelles de l'intelligence artificielle, en mobilisant des références allant de Proctor à Heidegger et Habermas. Ce travail définit l'ignorance artificielle comme l'ensemble des biais, lacunes informationnelles, opacités et déformations qui résultent de systèmes algorithmiques entraînés sur des données massives, mais incomplètes, partielles ou biaisées [7].

Pistes de gouvernance évoquées

Face à ce constat, Nelson avance quatre axes de réponse, présentés lors de sa conférence :

  • la gouvernance démocratique des choix technologiques structurants ;
  • la transparence obligatoire des entreprises qui développenent des systèmes d'IA ;
  • la supervision indépendante, extérieure aux entreprises concernées ;
  • le droit à la connaissance, conçu comme un droit à faire valoir plutôt que comme une option laissée à la discrétion des acteurs privés.

Ces recommandations restent, à ce stade, des pistes de discussion issues d'une conférence scientifique et n'ont pas de valeur contraignante. Leur traduction en obligations réglementaires concrètes fait l'objet de débats distincts, notamment autour de textes comme l'AI Act européen ou les initiatives de normalisation portées par des organisations telles que l'IASEAI elle-même.

Références

  1. Nelson, A. (2026, février). Algorithmic Agnotology: On AI, Ignorance and Power. Communication présentée à IASEAI'26, UNESCO, Paris.
  2. Proctor, R. N., & Schiebinger, L. (dir.). (2008). Agnotology: The Making and Unmaking of Ignorance. Stanford University Press.
  3. Croissant, J. L. (2014). Agnotology: Ignorance and Absence, or Towards a Sociology of Things That Aren't There. Social Epistemology, 28(1).
  4. Seligman, L., Zakrzewski, C., & Menn, J. (2024, 13 juillet). OpenAI illegally barred staff from airing safety risks, whistleblowers say. The Washington Post.
  5. Department of the History of Science, Harvard University. (2026). Announcing Alondra Nelson as the 2026 History of Science Frederick A. Jakobiec Lecturer.
  6. O'Shaughnessy, K. (2026, mars). IASEAI'26 Part 1: Manufacturing Ignorance and Shaping AI Governance. Medium.
  7. ARTIFICIAL IGNORANCE — Agnotology-AI: To understand AI's power, we must first confront its ignorance (2025). Synthèse d'ouvrage, ResearchGate.

[!NOTE] Cet article synthétise des propos publics tenus lors d'une conférence académique tenue en février-mars 2026 ainsi que des sources journalistiques et académiques associées. Les tactiques et mécanismes cités reflètent le cadre présenté par Alondra Nelson à IASEAI'26 et n'engagent pas de consensus scientifique établi, le concept étant encore récent.