Введение
По мере того, как модели ИИ становятся все более сложными и ценными, возникает необходимость защитить их от неправильного использования и подделки. Водяные знаки и подпись — два метода для достижения этой цели.
Что такое водяные знаки?
Водяные знаки включают в себя встраивание скрытого отпечатка пальца или метки в модель, которая однозначно идентифицирует владельца. Это можно использовать для проверки происхождения модели и обнаружения клонированных моделей.
Водяные знаки обычно внедряются:
- Незаметное изменение веса модели
- Добавление дополнительных слоев или нейронов, не влияющих на производительность модели
- Тонкое изменение архитектуры модели
Затем водяной знак извлекается путем анализа модели и обнаружения возмущений или модификаций.
Методы водяных знаков специфичны для архитектуры модели. Они были предложены для:
- Нейронные сети
- Деревья решений
- Машины опорных векторов
- Случайные леса
Что такое подписание?
Подписание включает создание криптографической подписи для модели с использованием закрытого ключа. Затем любой, у кого есть соответствующий открытый ключ, может проверить, соответствует ли подпись модели.
Это доказывает, что:
- Модель сгенерирована владельцем закрытого ключа
- Модель не подвергалась фальсификации с момента подписания.
Подпись может использоваться в сочетании с водяными знаками для повышения безопасности.
Реализация защиты модели
Чтобы внедрить водяные знаки и подписи для ваших моделей ИИ, вам необходимо:
- Выберите подходящую технику водяных знаков на основе архитектуры вашей модели.
- Встроить водяной знак в модель во время обучения
- Создайте криптографическую подпись для окончательной модели, используя свой закрытый ключ.
- Выпустите подписанную модель вместе с соответствующим открытым ключом
- Во время вывода извлеките водяной знак и проверьте подпись, чтобы обнаружить любую фальсификацию.
Это помогает защитить ваши модели от кражи интеллектуальной собственности и гарантирует происхождение и целостность моделей, используемых в производстве.
Как это использовать
Водяные знаки модели ML действуют как оболочка для вашей модели, предоставляя ряд методов для нанесения водяных знаков на вашу модель, а также функцию определения права собственности. После этапа добавления водяных знаков вы можете получить свою модель и сохранить информацию о владении.
>>> from mlmodelwatermarking.markface import TrainerWM >>> trainer = TrainerWM(model=your_model) >>> ownership = trainer.watermark() >>> watermarked_model = trainer.get_model()
Позже можно проверить, была ли данная модель украдена, на основе информации о владельце.
>>> from mlmodelwatermarking.marktorch import TrainerWM >>> from mlmodelwatermarking.verification import verify >>> trainer = TrainerWM(model=suspect_model, ownership=ownership) >>> trainer.verify() {'is_stolen': True, 'score': 0.88, 'threshold': 0.66}
Заключение
- Нанесение водяных знаков и подписание моделей ИИ — важный метод защиты интеллектуальной собственности и обеспечения целостности модели. Он включает в себя встраивание водяных знаков или цифровых подписей в модели для отслеживания прав собственности и обнаружения несанкционированного доступа.
- Водяной знак делается путем внесения незаметных изменений в вес модели, архитектуру или активацию таким образом, чтобы кодировать информацию о владельце. Позже этот водяной знак можно будет извлечь, чтобы подтвердить право собственности и происхождение.
- При подписании модели создается криптографическая подпись с использованием закрытого ключа. Любой, у кого есть соответствующий открытый ключ, может проверить, соответствует ли подпись модели, доказав, что она не была подделана.
- Методы нанесения водяных знаков включают изменение веса, добавление дополнительных слоев и использование стеганографии. Подписание использует криптографические подписи.
- Доступны инструменты, помогающие вставлять водяные знаки и генерировать подписи для моделей во время обучения. Затем можно развернуть модели с водяными знаками и подписью.
- Во время вывода водяной знак может быть извлечен, а подпись проверена, чтобы определить, была ли модель подделана или клонирована.
В заключение, водяные знаки и подписи моделей AI могут помочь защитить вашу интеллектуальную собственность, защитить ваши модели и обеспечить целостность моделей в производстве. Методы позволяют определить, были ли модели украдены или изменены после развертывания.