Захист даних за допомогою чутливості

Проблема: Знову ідентифікація

Традиційні методи анонімізації, такі як видалення імен із наборів даних, часто недостатньо захищають конфіденційність. Зловмисники можуть використовувати статистичне виведення, щоб зробити висновок про чутливу інформацію про окремих осіб на основі здавалося б невинних даних.

Це називається знову ідентифікацією – процес зв’язку анонімної особи з її особистою інформацією. Диференційована конфіденційність безпосередньо вирішує цю проблему, обмежуючи потенціал шкоди.

Ключові поняття: Чутливість та Бюджет Приватності

Основна ідея ґрунтується на *чутливості*. Це вимірює, на скільки може змінитися результат запиту, якщо змінити дані однієї людини. Дуже чутливий запит може розкрити значну інформацію про одну людину.

Для досягнення диференціальної приватності ми додаємо обережно відрегульований *шум* до результатів запиту. Кількість доданого шуму визначається *бюджетом приватності* (ε – епсилон), який контролює загальний рівень захисту приватності.

Sensitivity (Δ) = |Output(x) - Output(x')| where x and x’ are slightly different data points.

Механізм: Лапласівське Шумлення

Поширеним механізмом для додавання шуму є використання лапласіанського розподілу. Лапласіанський розподіл додає випадковий шум із середнім значенням, що дорівнює нулю, який допомагає маскувати окремі внески, зберігаючи при цьому точність статистичних результатів.

Кількість доданого шуму масштабується з чутливістю запиту та обернено пропорційна бюджету конфіденційності (ε). Більші значення ε дозволяють додати більше шуму та забезпечити більшу конфіденційність, але потенційно зменшити точність.

Noise = Random Sample from Laplace(0, Δ/ε)

Практичні застосування

Дифференційоване захист все частіше використовується в таких додатках, як браузер Google Chrome та операційна система Apple iOS, для захисту даних користувачів, зберігаючи при цьому можливість проведення цінних аналітичних досліджень.

Воно також досліджується для використання в охороні здоров’я, фінансах та інших галузях, де необхідно відповідально аналізувати чутливу інформацію.

Frequently asked questions

Спробуйте наживо

Усе, що вище, працює прямо у вашому браузері — відкрийте Bridge Structural Analysis і змінюйте параметри під час роботи. Нічого не встановлюється, нічого не завантажується на сервер, уся модель живе в одній вкладці.