Jasny sztucznyinteligentny: Budowanie zaufanych modeli uczenia maszynowego

Jądro idei – zrozumienie uczenia głębokiego

Uczenie głębokie opiera się na reprezentowaniu danych w warstwowych przestrzeniach cech.

Te warstwy pozwalają modelowi na naukę coraz bardziej skomplikowanych wzorców na podstawie nienadprzezroczystych wejść, takich jak obrazy lub tekst.

Pewność decyzji: Wyrażana jako prawdopodobieństwo przypisane przez eksperta

Precyzja wyjaśnienia: To najwyraźniej jest najtrudniejsze do pomiaru. Korzystamy z kombinacji:

Weryfikacja ekspertów: Data scientists niezależnie przeglądarka wyjaśnień i oceniają ich prawdopodobieństwo w odniesieniu do znanej dziedzinowej wiedzy. Ocena na skali 1-5 (1=całkowicie niemożliwe, 5=doskonale zgodne z oczekiwaniem).

Przebieg dążenia do modeli zrozumiałościowych nie jest nowy. Dawne modele statystyczne

(H2) Obecny rynkowy krajobraz i rosnąca wymagana XAI

Obecnie rynek charakteryzuje się podwójnym podejściem: po jednej stronie, mamy aplikacje o wysokiej stanie (finansowe, medyczne, prawne), gdzie zrozumiałość jest obowiązkowa. Regulatorki napędzają ten wymóg poprzez ramy takie jak GDPR i EU AI Act. Po drugiej stronie, istnieje szeroka tendencja korzystania z metod ‘po-hoc’ wyjaśnialności – technik zastosowanych po treningu modelu, aby zrozumieć jego zachowanie.

Często zadawane pytania