Пояснюваний ШІ

🔬 Методи інтерпретації

LIME

Local Interpretable Model-agnostic Explanations: локальна інтерпретація через наближення простим моделями. Об'єктно-агностичний. Пояснює конкретні передбачення. Популярний, інтуїтивний.

SHAP

Shapley Additive exPlanations: на основі Shapley values з game theory. Справедливий розподіл внеску ознак. Unified framework для інтерпретації. Широко використовується.

Attention Maps

Візуалізація уваги у transformers, CNN. Показує, на що модель звертає увагу. Інтуїтивний, візуальний. Використовується у NLP, візії.

Feature Importance

Важливість ознак для передбачення. Global (для всієї моделі) або local (для конкретного передбачення). Дерева рішень мають вбудовану важливість.

🎯 Типи пояснень

Global Explanations

Пояснення загальної поведінки моделі: які ознаки важливі, як модель працює загалом. Feature importance, model summaries. Добре для розуміння моделі.

Local Explanations

Пояснення конкретного передбачення: чому цей об'єкт отримав це передбачення. LIME, SHAP для локальних пояснень. Добре для окремих рішень.

Counterfactual Explanations

Пояснення через "що якби": які зміни потрібні для іншого результату. Інтуїтивний, actionable. Використовується для покращення рішень.

💻 Застосування

Медицина

Пояснення діагностичних рішень для лікарів. Критично для довіри, регулювання. Підтримка прийняття рішень, не заміна.

Фінанси

Пояснення кредитних рішень, fraud detection. GDPR право на пояснення. Важливо для справедливості, комплаєнсу.

Юриспруденція

Пояснення правових рекомендацій, аналізу документів. Критично для прозорості, довіри. Важливо для справедливості.

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Hash Function Avalanche Visualizer і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.