Дифференциальная конфиденциальность гарантирует, что наши нейронные сети учатся на конфиденциальных данных, что они изучают только то, что должны узнать из данных, но случайно не узнают то, чему они не должны учиться на основе данных.

Общая цель дифференцированной конфиденциальности - гарантировать, что различные виды статистического анализа не поставят под угрозу конфиденциальность.

Статистический анализ в самом общем смысле означает, что у нас есть некоторые обучающие данные или база данных или просто набор данных о людях, и мы хотим убедиться, что наш статистический анализ этого набора данных не ставит под угрозу конфиденциальность какого-либо конкретного человека, содержащегося в этом наборе данных.

Когда люди говорят о дифференцированной конфиденциальности, они не всегда имеют в виду одно и то же. Люди согласны с определением, но контекст также имеет много.

Дифференциальная конфиденциальность бывает двух разных видов, которые относятся к двум различным местам, где можно добавить шум.

Особая локальная конфиденциальность

Добавляет шум к каждой отдельной точке данных. Вы можете думать об этом как о добавлении шума непосредственно в базу данных или как о том, что люди добавляют шум к своим данным, прежде чем даже помещать их в базу данных. В этом параметре пользователи наиболее защищены, поскольку им не нужно доверять владельцу базы данных в том, что он ответственно использует свои данные.

Чтобы объяснить локальную модель, давайте рассмотрим типичную настройку, в которой у нас есть набор пользователей с входными данными внизу, а также специалист по данным Наверху, кто хотел бы узнать агрегирование по этим входам. В середине у нас есть агрегатор, который получает входные данные от пользователей, выполняет фактические вычисления и отправляет выходные данные специалисту по данным.

Что касается конфиденциальности, мы стремимся к тому, чтобы никто не мог узнать «слишком много» о каждом отдельном пользователе, и поэтому каждый пользователь добавляет немного шума перед отправкой его агрегатору.

Global Differential Privacy

Добавляет шум к выводу запроса в базе данных. Это означает, что сама база данных содержит всю личную информацию и что это только интерфейс к данным, который добавляет шум, необходимый для защиты конфиденциальности каждого человека.

Чтобы объяснить глобальную модель, давайте рассмотрим тот же пример, но здесь агрегатор / оператор добавляет шум вместо пользователей. Это по-прежнему может обеспечить желаемый уровень конфиденциальности для специалиста по данным, но теперь пользователи должны доверять агрегатору как ангелу.

В чем разница между локальной и глобальной дифференциальной конфиденциальностью?

Если оператор базы данных заслуживает доверия, единственное отличие состоит в том, что глобальная дифференциальная конфиденциальность приводит к более точным результатам с тем же уровнем защиты конфиденциальности. Однако для этого требуется, чтобы владелец базы данных был заслуживающим доверия. То есть владелец базы данных должен правильно добавлять шум. В литературе по DP владелец базы данных называется Trusted Curator ( владелец базы данных, к которой применяется глобальный DP, и им доверяют правильное применение DP )

Вывод:

К счастью, современная криптография дает выход из ситуации, когда слепо доверять агрегатору: безопасное многостороннее вычисление или сокращенно MPC. Используя различные методы, такие как совместное использование секретов и гомоморфное шифрование, оказывается, что мы действительно можем построить криптографическую систему, которая обеспечивает такую ​​же конфиденциальность, как и локальная модель, но предполагает гораздо меньшие шаги веры!

Осведомленность, отраслевые стандарты, а также законодательство, касающееся конфиденциальности, неуклонно развиваются, превращая конфиденциальность в стратегическое и этическое позиционирование. Крупные компании, такие как Google и Apple, учли эти возможности и ограничения и устанавливают высокие стандарты в этой области.

Спасибо, если вы нашли что-то полезное, хлопайте в ладоши! и поделитесь им! другим нуждающимся !!

# 60daysofudacity #SecureAndPrivateAI # Lesson5