Виклик Алгоритмічної Моралі

Упередження у навчальних даних

Штучні інтелектуальні системи (ШІ) навчаються на основі даних. Якщо ці навчальні дані відображають існуючі суспільні упередження – будь-які, пов’язані з расою, статтю, соціально-економічним статусом або іншими факторами – ШІ неминуче буде поширювати та підсилювати ці упередження у своєму процесі прийняття рішень. Це не є відображенням навмисних намірів самого алгоритму; скоріше, це наслідок засвоєння закономірностей, які присутні в даних.

Розглянемо систему розпізнавання облич, яка навчалася переважно на зображеннях однієї демографічної групи. Така система, ймовірно, буде менш точною при ідентифікації осіб з інших груп, що може призвести до потенційних помилкових ідентифікацій та дискримінаційних результатів. Точність такої системи безпосередньо пропорційна різноманітності та репрезентативності її навчального набору даних.

Accuracy = 1 - (False Positive Rate + False Negative Rate)

Корисні Функції та Вирівнювання Значень

Штучний інтелект часто спирається на ‘корисні функції’ – математичні вирази, які кількісно визначають бажаність різних результатів. Виклик полягає у визначенні цих корисних функцій таким чином, щоб вони відповідали людським цінностям – процес, відомий як вирівнювання значень. Просто максимізація однієї метрики, такої як прибуток чи ефективність, може призвести до неетичних результатів.

Наприклад, штучний інтелект, призначений для мінімізації заторів, може віддавати перевагу високошвидкісним маршрутам, ігноруючи таким чином безпеку пішоходів або потреби вразливих учасників дорожнього руху. Проектування корисної функції має враховувати декілька цілей та обмежень, що відображають ширші суспільні цінності.

U = w₁*Benefit - w₂*Cost + ... (where wᵢ are weighting factors)

Обґрунтованість та Прозорість

Багато передових систем Штучного Інтелекту, особливо глибокі нейронні мережі, працюють як «чорні скрибочки», ускладнюючи розуміння *чому* вони зробили конкретне рішення. Ця відсутність обґрунтованості створює значні етичні проблеми, особливо коли рішення мають серйозні наслідки для людей. Прозорість логіки алгоритму та даних є ключем.

Методи, такі як SHAP (SHapley Additive exPlanations) і LIME (Local Interpretable Model-Agnostic Explanations), спрямовані на надання уявлення про те, *як* системи ШІ приходять до висновків, але ці методи також є неідеальними та потребують ретельного інтерпретації. Мета полягає не обов’язково в ідеальному розумінні, а скоріше у розумному ступені впевненості в міркуваннях системи.

SHAP Value = (φ(S, α) - min(φ(S))) / (max(φ(S)) - min(φ(S)))

Надійність і ворожі атаки

Штучні інтелектуальні системи можуть бути вразливими до «ворожих атак», коли спеціально розроблені входи – часто з незначними змінами – можуть призвести до неправильних рішень. Ця вразливість підкреслює необхідність створення надійної штучного інтелекту, яка враховує потенційне маніпулювання та непередбачені сценарії.

Наприклад, автомобіль з автопілотом може бути обдурений у неправильному інтерпретації знаку «Зупинки» шляхом застосування невеликої кількості відбивної стрічки до його поверхні. Забезпечення надійності вимагає ретельного тестування за різноманітних умов та впровадження механізмів для виявлення та пом’якшення ворожих атак – по суті, створення надмірності та заходів безпеки.»

Δx = (1 - α) * x + α * y  (where Δx is the adversarial perturbation, x is the original input, y is the target output, and α is a small weighting factor)

Часті запитання

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте SPH Fluid і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.