Un algorithme embarque des choix sur ce qui compte, ce qui est normal et ce qui mérite d’être optimisé. Guillaume Chevillon tire la conséquence de ce constat : si la conception algorithmique produit de la norme, changer la conception change la norme. Algorithmes queers, publié le 3 avril 2026 aux Éditions B42, propose d’en faire le programme d’une autre ingénierie. L’essai paraît au moment où le règlement européen sur l’IA impose la transparence aux systèmes automatisés à haut risque, sans encore garantir le droit de contester les catégories qu’ils utilisent.

L’essentiel

  • Les algorithmes construisent une version de la réalité conforme aux catégories de leur conception et marginalisent ce qui n’y entre pas.
  • Chevillon propose de faire de l’erreur, des expériences minoritaires et des usages imprévus des critères de conception plutôt que des anomalies à éliminer.
  • La thèse rejoint la critique d’Adam Becker sur le techno-utopisme de la Silicon Valley : l’objectivité algorithmique dissimule des choix normatifs qui concentrent le pouvoir de définir quelles vies sont désirables.
  • Le règlement européen sur l’IA (2024) ouvre un droit à l’explication, mais ne garantit pas encore le droit de contester les catégories elles-mêmes.
  • La suite examine quelles institutions permettent de corriger des systèmes automatisés sans renoncer à leurs usages utiles.

L’auteur

Guillaume Chevillon est chercheur en statistiques et en méthodes quantitatives. Son travail académique porte sur les modèles de prévision, leur robustesse et leurs limites. Il écrit depuis l’intérieur de la discipline, connaît les contraintes techniques de la conception algorithmique et en examine les choix sans dénoncer la technique.

La thèse : la normalisation comme produit de conception

L’argument central de Chevillon tient en une phrase : un algorithme optimise toujours vers quelque chose, et ce quelque chose, c’est quelqu’un qui l’a défini. Quand un système de crédit évalue la solvabilité, quand un outil de recrutement classe des candidatures, quand un algorithme de recommandation ordonne des contenus, il ne mesure pas une réalité préexistante. Il produit une version de la réalité filtrée par des critères de conception. Ces critères portent des hypothèses sur ce qui est normal, désirable, acceptable.

Le mot « queer » dans le titre mérite une attention particulière. Chevillon ne l’utilise pas pour circonscrire son propos aux sexualités ou aux identités de genre. Il l’emploie dans son sens étymologique et théorique plus large : ce qui dévie, ce qui résiste à la catégorisation, ce qui perturbe les taxonomies. Une personne handicapée dont le parcours de vie ne suit pas la trajectoire linéaire attendue par un algorithme d’assurance est « queer » au sens de Chevillon. Un usage imprévu d’une application, une trajectoire professionnelle atypique, une situation familiale hors norme : tous ces cas réels deviennent des anomalies à corriger ou des erreurs à éliminer dans les systèmes actuels.

La proposition de l’essai inverse cette logique. Faire de l’erreur un critère de conception, c’est concevoir des systèmes capables de traiter l’exception comme une information utile plutôt que comme un bruit à supprimer. Faire des usages imprévus un signal de conception, c’est reconnaître que les utilisateurs savent des choses que les concepteurs ignorent. Cette inversion est moins simple qu’elle n’y paraît : elle suppose de renoncer à une partie de l’efficacité mesurable pour gagner en robustesse réelle.

L’objectivité comme idéologie

La partie la plus tranchante de l’essai s’attaque à ce que Chevillon appelle le mythe de l’objectivité algorithmique. Les systèmes automatisés sont régulièrement présentés, par leurs concepteurs et leurs utilisateurs, comme des outils neutres qui traitent des données sans préjugé. Cette présentation est une erreur, ou une stratégie.

Adam Becker, dans ses travaux sur le techno-utopisme de la Silicon Valley, a montré que l’idéologie du progrès technologique universel sert régulièrement à masquer des choix de pouvoir. Les systèmes algorithmiques incarnent cette dynamique à une échelle opérationnelle. Ils décident qui obtient un prêt, qui passe un entretien d’embauche, qui reçoit une prestation sociale. Ces décisions ne sont pas neutres. Elles reflètent les corrélations statistiques présentes dans les données d’entraînement, et ces données sont produites par des sociétés qui ont leurs propres inégalités, leurs propres normes, leurs propres angles morts.

Chevillon va au-delà de la dénonciation du biais. Le problème des biais algorithmiques est bien documenté : des études ont montré, par exemple, que des systèmes de reconnaissance faciale affichent des taux d’erreur nettement plus élevés sur les visages de femmes noires que sur les visages d’hommes blancs. Corriger un biais revient à travailler dans le cadre de la même logique d’optimisation : on améliore la précision du système sans interroger ce qu’il optimise ni pour qui. Algorithmes queers remonte en amont pour demander qui décide des catégories.

Ce point recoupe une tension que l’on retrouve dans les débats sur la régulation de l’IA. Le règlement européen sur l’IA (2024) soumet les systèmes à haut risque en matière de recrutement, crédit, prestations sociales et justice à des exigences de transparence et prévoit un droit conditionnel à l’explication pour certaines décisions individuelles défavorables. C’est un progrès réel. Mais le droit à l’explication n’est pas le droit à contester la catégorie elle-même. On peut expliquer pourquoi un algorithme a refusé un crédit sans jamais interroger la pertinence des variables qu’il utilise pour définir la solvabilité.

L’erreur comme source d’apprentissage

Le deuxième pilier de l’essai est une réhabilitation de l’erreur. Dans la conception algorithmique classique, l’erreur est ce dont on veut se débarrasser. On entraîne des modèles en minimisant une fonction de perte. On mesure leur performance à leur taux d’erreur. On les déploie quand ce taux passe sous un seuil acceptable.

L’erreur est le problème.

Chevillon retourne l’argument. L’erreur d’un algorithme est souvent le moment où la réalité résiste au modèle : le modèle expose alors ses limites, ses angles morts et les catégories qu’il ne sait pas traiter. Supprimer l’erreur revient à supprimer ce signal. Conserver l’erreur comme information de conception donne les moyens de comprendre ce que le modèle ne voit pas.

Cette position a des précédents dans l’histoire des sciences. Selon Thomas Kuhn, les anomalies annoncent les changements de paradigme. Un modèle confronté à ses propres limites apprend plus vite qu’un modèle qui ne produit que des confirmations de ses hypothèses. Chevillon applique cette intuition aux systèmes de décision automatisés.

Il l’est d’autant plus que des contre-exemples empiriques commencent à apparaître. Des études menées sur des systèmes de prêt alternatifs, notamment des fintechs qui utilisent des données non conventionnelles pour évaluer la solvabilité dans des pays sans historique de crédit robuste, suggèrent que traiter les profils atypiques comme des sources d’information plutôt que comme des anomalies à écarter peut améliorer la prédiction du risque dans certains contextes. La « normalisation par défaut » des grands modèles de crédit peut laisser de côté des emprunteurs solvables qui ne ressemblent pas à la moyenne historique.

Il existe une tension réelle, que l’essai ne dissimule pas complètement. Faire de l’erreur un critère de conception a un coût. Les systèmes qui tolèrent davantage d’incertitude sont souvent plus lents, plus complexes, plus difficiles à auditer. Pour des applications à faibles enjeux, ce compromis est facile à assumer. Pour des systèmes de décision en temps réel à grande échelle, allocation de ressources d’urgence, détection de fraude, sécurité des infrastructures, le compromis est moins évident.

Chevillon y répond en distinguant les contextes, mais la réponse reste partielle.

Les limites actuelles de la régulation

La tension entre la critique de Chevillon et les outils disponibles pour y répondre est peut-être l’endroit le plus intéressant de l’essai, et celui où il appelle à la réflexion collective le plus directement.

Le règlement européen sur l’IA classe les systèmes selon leur niveau de risque. Les systèmes à haut risque sont soumis à des exigences de documentation, d’enregistrement des événements et de transparence envers les déployeurs; l’explication individuelle est prévue dans des cas limités. C’est un cadre sérieux, parmi les plus ambitieux au monde. Mais la régulation porte sur les systèmes existants, avec leurs catégories existantes. Elle améliore la transparence sur la façon dont un algorithme décide.

Elle n’impose pas de revoir les catégories à partir desquelles il décide.

Sur ce point, la position de Jean Tirole, régulation comme design de marché, pas comme contrôle administratif, offre une lecture complémentaire utile. Si la régulation fixe les résultats attendus (quelles populations doivent pouvoir accéder au crédit, à l’emploi, aux prestations) plutôt que les seuls processus (documentation, explicabilité), elle crée une pression vers la conception différente que Chevillon appelle de ses vœux. Définir un résultat attendu, c’est obliger les concepteurs à trouver les catégories qui permettent de l’atteindre.

Cette approche n’est pas sans risques. Elle suppose de pouvoir mesurer les résultats de manière fiable, et de disposer d’institutions capables de les évaluer indépendamment. Deux conditions que les systèmes algorithmiques à grande échelle rendent précisément difficiles. Comme le montre l’analyse sur la négociation collective et le droit de regard des travailleurs sur l’IA au travail, l’Europe progresse sur le volet procédural, mais le volet substantiel, celui des catégories elles-mêmes, reste largement ouvert.

Les institutions capables de corriger les catégories

Chevillon pose la question des institutions sans la trancher. Il reste à déterminer qui décide que les catégories d’un algorithme sont injustes, qui dispose de la légitimité et des moyens techniques pour les contester, et qui arbitre entre l’efficacité mesurable et la robustesse aux situations minoritaires.

À l’horizon 2030-2040, trois configurations semblent plausibles.

Dans la première, les obligations réglementaires s’approfondissent progressivement. Le droit à l’explication évolue en droit à la contestation des catégories, soutenu par des autorités de supervision dotées d’expertise technique indépendante. Des organisations comme l’Agence européenne de supervision des marchés financiers (ESMA) ou la Commission nationale de l’informatique et des libertés (CNIL) pourraient développer des capacités d’audit algorithmique substantiel. Ce scénario suppose une volonté politique durable et des ressources humaines spécialisées que l’Europe peine encore à constituer.

Dans la seconde, la pression vient davantage du marché. Des acteurs qui conçoivent des systèmes plus robustes aux profils atypiques captent des marchés que les systèmes normalisateurs laissent de côté, exactement comme les fintechs alternatives de crédit. La compétition sur la qualité de conception, plutôt que sur la seule efficacité moyenne, devient un avantage concurrentiel. Ce scénario est plus réaliste dans des secteurs où les populations mal servies représentent un volume économique significatif. Il est moins probable pour des populations dont la marginalité statistique ne constitue pas un marché attrayant.

Dans la troisième, les usagers organisés exercent eux-mêmes la pression. Des collectifs, des associations, des syndicats documentent les effets des catégories algorithmiques sur leurs membres et portent des contestations juridiques ou médiatiques. Ce mode de régulation par le bas a historiquement produit des résultats dans d’autres domaines, les droits des consommateurs, l’accessibilité des bâtiments publics, les obligations d’étiquetage alimentaire. Il suppose une capacité technique minimale pour comprendre et documenter ce qui se passe à l’intérieur des systèmes, capacité que la transparence imposée par la réglementation européenne commence à rendre possible. Le parallèle avec l’enjeu de la visibilité des contenus locaux sur les plateformes est instructif : la régulation seule ne suffit pas quand les architectures techniques sont conçues pour optimiser vers d’autres objectifs.

Ces trois configurations ne s’excluent pas. Les signaux à surveiller pour comprendre laquelle progresse : l’évolution des compétences des autorités de supervision européennes sur l’audit technique, les premiers cas de jurisprudence sur le droit à contester une catégorie algorithmique, et l’émergence ou non de marchés significatifs pour des systèmes conçus selon la logique de Chevillon.

Les angles morts

L’essai a ses limites, et il faut les nommer. La première est la question de la scalabilité. Chevillon démontre que des systèmes conçus pour traiter l’exception sont possibles, et qu’ils seraient plus équitables. Il montre moins clairement comment les déployer à grande échelle sans perdre les propriétés qui les rendent souhaitables.

La deuxième est politique. La logique d’optimisation algorithmique vers la normalité n’est pas une erreur de conception naïve. Elle répond à des intérêts réels : réduire les coûts de traitement des cas complexes, minimiser la responsabilité en se réfugiant derrière la procédure automatisée, concentrer les services là où la rentabilité est maximale. Contester les catégories, c’est contester des modèles économiques. L’essai décrit ce qu’une ingénierie différente permettrait ; il dit moins pourquoi les acteurs en position de concevoir ces systèmes auraient intérêt à le faire.

La troisième est un angle de lecture que l’essai n’explore pas : la possibilité que certains algorithmes produisent de la normalisation utile. La standardisation n’est pas toujours une violence. Les protocoles médicaux standardisés ont sauvé des vies précisément en résistant aux préférences individuelles des praticiens. Distinguer les domaines où la normalisation algorithmique est acceptable de ceux où elle est problématique est un travail qui reste à faire, et que Chevillon laisse ouvert.

Intérêt de l’essai

Algorithmes queers s’adresse à trois publics distincts. Aux concepteurs d’algorithmes, il offre un cadre pour penser les externalités normatives de leurs choix techniques. Aux décideurs publics, il propose un langage pour formuler des exigences de conception qui vont au-delà de la transparence procédurale. Aux citoyens et aux organisations qui vivent avec les effets de ces systèmes, il donne des outils conceptuels pour nommer ce qui leur arrive.

Ce que l’on trouve dans cet essai qu’on ne lit pas souvent ailleurs : un argument qui ne se contente pas de dénoncer les biais algorithmiques, mais qui propose une logique de conception alternative, depuis l’intérieur de la discipline statistique. C’est précisément ce positionnement qui lui donne sa force. Chevillon ne dit pas que les algorithmes sont mauvais. Il dit que les algorithmes peuvent être conçus autrement, et il explique comment.

À l’heure où l’IA entre dans les amphis et dans les entreprises avant que les institutions aient eu le temps de s’adapter, ce genre d’argument, technique sans être inaccessible, critique sans être technophobe, mérite d’être lu largement.

Informations bibliographiques Algorithmes queers : Perturber les technologies, imaginer nos futurs Guillaume Chevillon Éditions B42, 3 avril 2026

Sources

  1. Bibliothèque nationale de France, Nouveautés Éditeurs, Algorithmes queers de Guillaume Chevillon : https://nouveautes-editeurs.bnf.fr/accueil?id_declaration=10000001304211&titre_livre=Algorithmes_Queers
  2. Adam Becker, More Everything Forever: AI Overlords, Space Empires, and Silicon Valley’s Crusade to Control the Fate of Humanity, Scientific American author page : https://www.scientificamerican.com/author/adam-becker/
  3. Règlement européen sur l’intelligence artificielle (AI Act), Parlement européen et Conseil de l’Union européenne, 2024, Journal officiel de l’UE