🏛️ Classificateur de Fraude dans le Secteur Public — Précision, Rappel et la Matrice de Confusion

La détection de fraude par carte note une transaction en quelques millisecondes et peut la bloquer ou l'approuver automatiquement à l'instant, avec un remède rapide et peu risqué en cas d'erreur (un refus de carte, un SMS de suivi). Le contrôle de la fraude aux prestations gouvernementales alimente à l'inverse un pipeline d'examen humain plus lent, est soumis à des droits de procédure régulière et d'appel, et un faux positif peut signifier que le revenu d'un demandeur vulnérable est suspendu ou retardé pendant des semaines pendant qu'un dossier est instruit — un coût d'erreur bien plus élevé pour les personnes concernées. La fraude aux prestations est aussi généralement plus rare en proportion des demandes, les caractéristiques disponibles sont généralement administratives plutôt que comportementales-biométriques, et les conséquences juridiques et réputationnelles d'un signalement erroné sont bien plus lourdes pour le secteur public que pour une banque.

Des caractéristiques telles que le montant de la demande et les anomalies de schéma de dépôt peuvent corréler, indirectement, avec des caractéristiques protégées comme la composition du ménage, le handicap, l'origine ethnique, ou la précarité liée au code postal — même lorsque ces caractéristiques ne sont jamais utilisées directement. Si les faux positifs touchent de façon disproportionnée des groupes déjà défavorisés, un outil de contrôle automatisé peut systématiquement aggraver le tort causé aux personnes les moins capables d'absorber une enquête injustifiée ou un versement suspendu. Des cas réels tels que le scandale néerlandais des allocations de garde d'enfants et le dispositif Robodebt en Australie ont montré comment des systèmes automatisés de détection de fraude et de dette, déployés sans audit adéquat par sous-groupes, sans explicabilité, ni véritable droit d'appel, ont causé un préjudice injustifié à grande échelle. C'est pourquoi les audits de précision/rappel par sous-groupe, l'examen humain des cas signalés, et des droits d'appel clairs sont considérés comme des exigences de premier ordre dans ce domaine, et non comme des options accessoires.

La régression logistique combine les deux caractéristiques d'entrée avec des poids appris w₁, w₂ et un biais b en un seul score z = w₁x₁ + w₂x₂ + b, puis compresse ce score en une probabilité grâce à la fonction sigmoïde p = 1/(1+e⁻ᶻ). Entraîner le modèle consiste à choisir w₁, w₂, b pour minimiser la perte d'entropie croisée — la moyenne de −[y·log(p) + (1−y)·log(1−p)] sur toutes les demandes, où y est la vraie étiquette de fraude. Comme cette perte est convexe par rapport aux poids en régression logistique, la descente de gradient — calculer de façon répétée le gradient de la perte par rapport à chaque poids et avancer d'une petite distance dans la direction opposée — converge de manière fiable vers le même optimum global à chaque nouvel entraînement, ce que cette simulation exécute réellement, époque par époque, en observant la perte diminuer.

Le modèle produit une probabilité de fraude continue pour chaque demande ; le curseur de seuil détermine la limite au-dessus de laquelle une demande est comptée comme « signalée ». Abaisser le seuil signale davantage de demandes au total, ce qui capture nécessairement plus de vrais cas de fraude (rappel plus élevé) mais entraîne aussi davantage de demandes légitimes qui ont simplement obtenu un score modérément élevé (précision plus faible). Relever le seuil fait l'inverse : moins de signalements, mais plus sûrs, donc la précision augmente tandis que le rappel diminue à mesure que les cas de fraude marginaux passent sous la barre. Comme la distribution des scores sous-jacente se chevauche entre les classes, aucun seuil unique ne maximise les deux simultanément — le curseur vous permet de tracer en direct toute cette courbe de compromis, cellule par cellule, dans la matrice de confusion.