Inteligentna Technologia Publiczna — Przewodnik dla Rządu

Aby zapewnić przejrzystość w AI Sektorze Publicznym, powinno być dostarczane dokumentacja wszystkich systemów AI dla publicznego dostępu (karty modelu, karty decyzyjne, dokumentacja systemu wyjaśniająca działania i decyzje AI oraz metodologię używaną), a logi wszystkich decyzji AI powinny być utrzymywane do celów kontroli (zakładanie śladów do monitorowania wszystkich operacji AI, dostępu i zmian, aby zapewnić odpowiedzialność). Powinny być również podawane cytaty i referencje do odpowiedzi AI, aby potwierdzić informacje, a procesy apelacyjne, przegląd przez ludzi oraz mekanizmy rozstrzygania sporów powinny być stworzone, aby umożliwić obywatelom wyzwania decyzji AI. Na koniec regularne raporty na temat użycia, wydajności i wpływu AI powinny być opublikowane, a dodatkowe paneliki publiczne dla widoczności są potrzebne. Ostatnim krokiem jest regularna recenzja i aktualizacja, aby zachować zgodność z wymaganiami dotyczące przejrzystości, w tym prawami do informacji o wolności i regulacjami danych otwartych.

Aby zapewnić prywatność w AI Sektorze Publicznym, powinna być przeprowadzana ocena wpływu na ochronę danych (DPIA) lub ocena wpływu na prywatność (PIA) przed wdrożeniem, aby rozpoznać i zminimalizować potencjalne ryzyka związane z danymi obywateli oraz danymi rządowymi. Powinno być stosowane prawo do minimalizacji danych, przetwarzając tylko niezbędne dane dla funkcjonalności, a informacje osobiste powinny być zakryte przed przetwarzaniem, aby chronić wrażliwe informacje, a kontrola dostępu oparta na rolach i stopniach uprawnień powinna być wprowadzona. Powinny być ustanowione polityki przechowywania zgodne z regulacjami, a wszystkie dostępy powinny być zapisywane do celów kontroli. Powinno również być używane szyfrowanie do ochrony danych w spoczynku i w trakcie przesyłania, a także zgodność z GDPR oraz innymi odpowiednimi regulacjami ochrony danych rządowych powinna być zachowana.

Aby zapewnić bezpieczeństwo w AI Sektorze Publicznym, powinna być zintegrowana centra operacyjne bezpieczeństwa (SOC) lub integracja informacji i zarządzania wydarzeniami (SIEM), aby zapewnić ciągły monitorowanie bezpieczeństwa poprzez przekazywanie logów i ostrzeżenia. Powinny być zapisywane wszystkie operacje, aby stworzyć ślad kontroli, powinna być prowadzone testowanie przez czerwonego zespołu (red-team) do rozpoznawania wady, a regularne testy powinny być przeprowadzane dla walidacji. Powinna być zachowana zgodność z regulacjami rządowymi dotyczącymi ochrony danych, dostępności i przejrzystości, a publiczne zgłoszenia na temat incydentów bezpieczeństwa i zgodności są kluczowe. Dodatkowo niezbędne są solidne procedury reagowania w przypadku incydentów oraz regularne inspekcje bezpieczeństwa, a trening pracowników na temat najlepszych praktyk bezpieczeństwa oraz uzyskanie odpowiednich certyfikatów, takich jak ISO 27001 lub SOC 2.

Zachowanie zgodności w AI Sektorze Publicznym wymaga ustalenia regulacji danych do przestrzegania praw ochrony danych (GDPR, prawa ochrony danych rządowych), zapewnienia dostępności poprzez standardy takie jak WCAG i Section 508, publikowania regularnych raportów dla zgodności dotyczącej przejrzystości (prawa do informacji o wolności, wymagania dotyczące danych otwartych) oraz przestrzegania wszystkich stosowanych regulacji rządowych obejmujących ochronę danych, dostępność, przejrzystość i zakup. W przypadku złożonych spraw powinny być konsultowane prawni ekspertowie, regularne recenzje zgodności są niezbędne, a procesy dokumentacji oraz trening pracowników na temat wymogów zgodności powinny być przeprowadzane. Regularne aktualizacje wiedzy są niezbędne do dostosowania się do nowych regulacji. Regionalni oficerowie zgodności mogą dostarczyć lokalne wiedza.