Bezpieczeństwo i Wyrównanie AI - Zapewnianie Bezpiecznych i Wiarygodnych Systemów AI

Bezpieczeństwo i wyrównanie inteligencji sztucznej

Badania dotyczące bezpieczeństwa i wyrównania inteligencji sztucznej skupiają się na zapewnieniu, że systemy AI są bezpieczne, wiarygodne i zgodne z wartościami ludzkimi. Wielka Brytania jest globalnym liderem w tej kluczowej dziedzinie badań, a instytucje takie jak UCL i DeepMind prowadzą na czele najnowoczesnych prac.

Badania dotyczące bezpieczeństwa inteligencji sztucznej skupiają się na zagwarstwieniu, aby systemy AI zachowywały się bezpiecznie i wiarygodnie, zwłaszcza gdy stać się będą bardziej zdolne. To obejmuje odporność, interpretowalność oraz zapobieganie niezamieronym zachowaniom.

Rozwój metod do monitorowania, kontroli i poprawiania systemów AI

Wyzwania dotyczące odporności: Gwarancja tego, aby systemy AI mogły obsłużyć nieoczekiwane lub atypiczne dane bez awarii, jest kluczowym obszarem badań.

Danych poza zakresu (out-of-distribution): Oznacza to punkty danych, które są znacznie różne od danych, na których system był treningowy, co stanowi ryzyko dla jego wydajności i bezpieczeństwa.

Metody interpretowalności

Techniki do zrozumienia sposobu działania systemów sztucznej inteligencji, w tym visualizacja uwagi, ważność cech i wyjaśnienia counterfactual.

Nauka preferencji i wartości ludzi, aby dostosować systemy sztucznej inteligencji do celów ludzkich.

Często zadawane pytania