Strona główna AI i ML Klasyfikator oszustw w sektorze publicznym — precyzja, czułość i macierz pomyłek

🏛️ Klasyfikator oszustw w sektorze publicznym — precyzja, czułość i macierz pomyłek

Klasyfikator ocenia wnioski o świadczenia pod względem ryzyka oszustwa — obserwuj, jak macierz pomyłek, precyzja i czułość zmieniają się na żywo, gdy przeciągasz próg decyzyjny na rzeczywistej ocenionej populacji.

AI i ML3DŚredni60 FPS
ai-government-data-analytics ↗ Otwórz osobno
Interfejs samej symulacji jest w języku angielskim.

O klasyfikatorze oszustw w sektorze publicznym

Agencje rządowe wypłacające świadczenia, dotacje czy zwroty coraz częściej stosują statystyczne ocenianie ryzyka, by decydować, które wnioski zasługują na bliższe przyjrzenie się. Ta symulacja generuje syntetyczną populację kilkuset wniosków z ukrytym wskaźnikiem oszustwa na poziomie 8% — celowo niskim, ponieważ rzeczywiste oszustwa dotyczące świadczeń są rzeczywiście rzadkim zdarzeniem w stosunku do liczby uzasadnionych wniosków — i trenuje prawdziwy klasyfikator regresji logistycznej na dwóch widocznych cechach (z-score kwoty wniosku i wynik anomalii wzorca składania) metodą wsadowego spadku gradientu na funkcji straty entropii krzyżowej, dokładnie tak, jak trenowany byłby model produkcyjny, tylko w skali, którą możesz obserwować zbiegającą epoka po epoce.

Po wytrenowaniu każdy wniosek niesie żywe prawdopodobieństwo oszustwa, renderowane jako mapa cieplna prawdopodobieństwa za wykresem punktowym. Przeciąganie suwaka progu zmienia, które wnioski liczą się jako „oznaczone”, a macierz pomyłek, precyzja, czułość, wynik F1 i wskaźnik fałszywych pozytywów natychmiast aktualizują się względem prawdziwych (normalnie ukrytych) etykiet populacji. Kontrola zdolności przeglądowej dodaje ograniczenie, w ramach którego działa każdy prawdziwy zespół antyoszustwowy: śledczy mogą przejrzeć tylko określoną liczbę wniosków na okres, więc „statystycznie poprawny” próg i „operacyjnie wykonalny” próg to często dwie różne liczby.

Najczęściej zadawane pytania

Dlaczego precyzja jest tu tak trudna do osiągnięcia, nawet przy dobrze rozdzielonym modelu, gdy tylko 8% wniosków to oszustwa?

To efekt wskaźnika bazowego (a priori). Załóżmy, że 500 wniosków obejmuje 40 oszukańczych (wskaźnik 8%), a model osiąga silną czułość 85% przy skromnym 6% wskaźniku fałszywych pozytywów w znacznie większej grupie legalnej. Poprawnie oznacza 34 z 40 przypadków oszustwa (prawdziwe pozytywy) — ale wskaźnik fałszywych pozytywów stosuje się do wszystkich 460 legalnych wniosków, produkując około 28 fałszywych pozytywów. Precyzja = 34/(34+28) ≈ 55%, mimo że leżący u podstaw model jest rzeczywiście dobry. Gdy warunek, którego szukasz, jest rzadki, sam rozmiar klasy negatywnej oznacza, że nawet niski wskaźnik fałszywych pozytywów generuje bezwzględną liczbę fałszywych alarmów porównywalną z prawdziwymi pozytywami. To ta sama arytmetyka stojąca za klasycznym paradoksem „testu na rzadką chorobę” w medycynie.

Co oznacza operacyjnie każda komórka macierzy pomyłek dla rządowego zespołu ds. przeglądu oszustw?

Prawdziwy pozytyw: rzeczywiście oszukańczy wniosek zostaje oznaczony, zbadany, a ustalenie potwierdzone — system zadziałał. Fałszywy pozytyw: legalny wnioskodawca zostaje oznaczony, zużywa czas śledczego na sprawę, która okazuje się czysta, i może stanąć w obliczu stresującego przeglądu, opóźnienia płatności lub procesu odwoławczego — to obciążenie śledztwem, a w skali, koszt równości i zaufania. Fałszywy negatyw: oszukańczy wniosek otrzymuje wynik poniżej progu i nie otrzymuje żadnej kontroli — wypłacane są pieniądze, które nie powinny być wypłacone, i nikt nigdy nie zostaje powiadomiony, by przyjrzeć się ponownie, chyba że sprawa wypłynie w inny sposób. Prawdziwy negatyw: legalny wniosek zostaje słusznie pozostawiony bez interwencji — niewidoczny, bezzdarzeniowy i najczęstszy wynik, ponieważ większość wniosków jest legalna.

Dlaczego zdolność przeglądowa ma znaczenie jako rzeczywiste ograniczenie ponad wybór progu statystycznego?

Próg wybrany wyłącznie w celu statystycznego zrównoważenia precyzji i czułości może wciąż oznaczyć znacznie więcej wniosków, niż śledczy są w stanie faktycznie przejrzeć w danym okresie — zamieniając problem oceniania w problem segregacji. Jeśli zdolność wynosi 50 przeglądów na okres, ale próg oznacza 140 wniosków, albo kolejka narasta w nieskończoność, sprawy pozostają nieprzejrzane po upływie użytecznych terminów, albo personel podejmuje pospieszne decyzje niższej jakości. W praktyce agencje często odwracają logikę: zamiast najpierw wybierać próg prawdopodobieństwa, rangują wszystkie wnioski według wyniku oszustwa i biorą N najwyższych do granicy zdolności, co jest matematycznie równoważne wyborowi jakiegokolwiek progu, który akurat produkuje dokładnie N oznaczeń w danym okresie. Zdolność, a nie same statystyki, często ostatecznie ustala rzeczywisty próg operacyjny.

Podobne symulacje