EN 
Українська
Polski
Español
Deutsch
日本語
Italiano
Português (BR)
Français
العربية
Nederlands
中文
한국어
हिन्दी
Türkçe
Tiếng Việt
Русский
Bahasa Indonesia
فارسی
বাংলা
ไทย
Filipino
Kiswahili
اردو
Bahasa Melayu
தமிழ்
עברית
Ελληνικά
ਪੰਜਾਬੀ
አማርኛ
မြန်မာဘာသာ
ខ្មែរ
ქართული
नेपाली
Монгол хэл
Հայերեն
සිංහල
ລາວ
Čeština
Română
Magyar
Български
Svenska
Dansk
Suomi
Norsk
Slovenčina
Hrvatski⚖️ Laboratoire d'éthique de l'IA — Équité algorithmique et compromis de seuils
Déplacez le seuil de décision d'un classifieur groupe par groupe et observez la parité démographique, l'égalité des chances et l'exactitude globale s'opposer en temps réel.
À propos du laboratoire d'éthique de l'IA
L'équité en apprentissage automatique n'est pas une seule propriété — ce sont plusieurs, et elles peuvent entrer en conflit. Cette simulation génère une population synthétique divisée en deux groupes ayant des taux de base de résultat positif différents (représentant un biais historique réel dans les données d'entraînement), attribue un score à chaque individu, et vous permet de fixer un seuil de décision commun aux deux groupes ou distinct par groupe. Quand vous déplacez les curseurs, trois nombres évoluent avec eux : l'écart de parité démographique (la différence de taux d'approbation entre groupes), l'écart d'égalité des chances (la différence de taux de vrais positifs entre groupes — les personnes qualifiées de chaque groupe ont-elles les mêmes chances d'être approuvées), et l'exactitude globale.
Le résultat inconfortable que cette simulation est conçue pour montrer : avec un seuil unique partagé et des taux de base différents entre groupes, la parité démographique et l'égalité des chances sont généralement violées toutes les deux à la fois, et combler l'un des écarts en passant à des seuils séparés peut en ouvrir un autre. Le bouton « égaliser automatiquement les chances » recherche le seuil du groupe B qui minimise l'écart d'égalité des chances pour le seuil du groupe A que vous avez fixé — observez ce qu'il advient de l'écart de parité démographique et de l'exactitude globale lorsqu'il y parvient.
Questions fréquentes
Pourquoi un seuil unique partagé ne peut-il pas satisfaire les deux métriques d'équité à la fois ?
Si les deux groupes ont des distributions de scores réellement différentes — ce que produit un taux de base sous-jacent différent — un seuil unique va, en général, approuver des proportions différentes de chaque groupe (violant la parité démographique) et capter des proportions différentes des personnes réellement qualifiées de chaque groupe (violant l'égalité des chances), et il n'existe aucun seuil unique qui annule les deux écarts simultanément, sauf dans des distributions particulières. Ce n'est pas un défaut de cette simulation ; cela reflète un véritable résultat d'impossibilité, mathématiquement démontrable dans la littérature sur l'équité, dès lors que les groupes ont des taux de base différents et que l'on souhaite aussi une exactitude raisonnable.
Si des seuils séparés peuvent combler l'écart d'égalité des chances, pourquoi ne pas toujours les utiliser ?
Utiliser explicitement un seuil différent par groupe est lui-même juridiquement et éthiquement contesté dans de nombreuses juridictions et contextes — cela peut constituer un traitement différencié même lorsque l'intention est de corriger un impact différencié, et différents cadres d'équité ne s'accordent pas sur quel mode de défaillance est le pire. Cette simulation rend délibérément les deux options disponibles et montre le compromis numériquement plutôt que de trancher, car la bonne réponse dépend du contexte juridique, éthique et commercial précis dans lequel opère le classifieur, pas des seules mathématiques.
Quelle est la différence entre parité démographique et égalité des chances, en termes simples ?
La parité démographique demande si les deux groupes sont approuvés au même taux global, indépendamment du fait que les personnes approuvées soient réellement qualifiées. L'égalité des chances pose une question plus restreinte : parmi les personnes réellement qualifiées (vraiment positives), les deux groupes ont-ils une probabilité égale d'être correctement approuvés ? Un classifieur peut satisfaire l'une tout en échouant gravement sur l'autre — par exemple, approuver les deux groupes à un taux global identique tout en manquant systématiquement plus souvent les personnes qualifiées d'un groupe que de l'autre.
Pourquoi cliquer sur égalisation automatique élargit-il parfois l'écart de parité démographique ?
L'égalisation automatique ne recherche que le seuil qui minimise l'écart de taux de vrais positifs entre groupes, sans aucune contrainte sur l'écart de taux d'approbation — si la population du groupe B a une part plus faible de personnes réellement qualifiées, atteindre un taux de vrais positifs égal peut nécessiter d'approuver une part globale très différente du groupe B par rapport au groupe A, ce qui est précisément ce qui élargit la parité démographique. C'est exactement le compromis que cette simulation est conçue pour rendre visible : optimiser une métrique d'équité isolément peut activement nuire à une autre.
Un écart d'équité non nul est-il toujours la preuve que le modèle lui-même est biaisé ?
Pas nécessairement — si la population synthétique du groupe B a réellement un taux de base plus faible du résultat positif (comme cette simulation le construit, pour représenter de vraies disparités historiques en amont du modèle), un classifieur parfaitement calibré et non biaisé au sens technique produira quand même des taux d'approbation inégaux et peut aussi produire des taux de vrais positifs inégaux, parce que les populations sous-jacentes diffèrent. Diagnostiquer si un écart réel provient du modèle, d'étiquettes historiques biaisées, ou de véritables différences d'opportunité en amont, est un problème bien plus difficile que de lire deux chiffres sur un tableau de bord, et nécessite généralement une investigation de terrain que cette simulation ne peut remplacer.
Une population synthétique de 1 000 personnes est divisée en deux groupes ayant des taux de base de résultat positif différents et des distributions de scores qui se recouvrent ; les statistiques d'approbation, de taux de vrais positifs, de parité démographique et d'égalité des chances sont recalculées en direct à partir des curseurs de seuil par groupe, et l'égalisation automatique effectue un balayage grossier des seuils pour minimiser l'écart de taux de vrais positifs.
Canvas 2D · vanilla JavaScript · 60 FPS target · runs fully client-side, no install