Fairness та Bias в Machine Learning

🎓 Типи Bias

Historical Bias

Визначення: Bias в даних через історичні упередження. Дані відображають історичні несправедливості.

Приклад: HR дані з історичною дискримінацією.

Рішення: Очищення даних, збалансування, fairness constraints.

Representation Bias

Визначення: Недостатнє представлення груп в даних. Деякі групи мають мало прикладів.

Приклад: Меншини недостатньо представлені.

Рішення: Збільшення даних, sampling, weighting.

Measurement Bias

Визначення: Помилки вимірювання, що по-різному впливають на групи.

Приклад: Різні методи вимірювання для груп.

Рішення: Стандартизація вимірювань, виправлення помилок.

🔧 Fairness Metrics

Demographic Parity

Визначення: Рівність ймовірності позитивного прогнозу для всіх груп. P(Ŷ=1|A=a) = P(Ŷ=1|A=b).

Переваги: Простий, інтуїтивний.

Недоліки: Ігнорує ground truth, може бути несправедливим.

Equalized Odds

Визначення: Рівність TPR та FPR для всіх груп. TPR(A=a) = TPR(A=b), FPR(A=a) = FPR(A=b).

Переваги: Враховує ground truth, справедливіший.

Недоліки: Може конфліктувати з accuracy.

Calibration

Визначення: Рівність calibration для всіх груп. P(Y=1|Ŷ=p, A=a) = P(Y=1|Ŷ=p, A=b).

Переваги: Важливо для probability predictions.

📚 Практичні приклади

Приклад 1: Виявлення bias в моделі

Групи: Визначити sensitive groups (наприклад, gender).

Метрики: Обчислити fairness metrics (Demographic Parity, Equalized Odds).

Аналіз: Порівняти метрики між групами. Виявити bias.

Приклад 2: Mitigation через fairness constraints

Constraints: Додати fairness constraints до loss.

Навчання: Навчити модель з constraints.

Оцінка: Перевірити fairness metrics та accuracy.

© 2025 Науковий Симулятор. Всі права захищені.

Fairness: справедливість ML моделей

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Dimensionality Reduction: PCA, t-SNE & UMAP і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.