- Нецелевая состязательная атака с привлечением внимания объекта(arXiv)
Автор:Чао Чжоу, Юань-Гэн Ван, Гопу Чжу
Вывод:Глубокие нейронные сети сталкиваются с серьезными угрозами со стороны злоумышленников. Большинство существующих атак методом «черного ящика» обманывают целевую модель, генерируя либо глобальные возмущения, либо локальные исправления. Однако как глобальные возмущения, так и локальные исправления легко вызывают раздражающие визуальные артефакты в состязательном примере. По сравнению с некоторыми гладкими областями изображения область объекта обычно имеет больше краев и более сложную текстуру. При этом небольшие возмущения на нем будут более незаметны. С другой стороны, область объекта, несомненно, является решающей частью изображения для задач классификации. Руководствуясь этими двумя фактами, мы предлагаем метод состязательной атаки с привлечением внимания к объекту для нецелевой атаки. В частности, мы сначала создаем область объекта, пересекая область обнаружения объекта из YOLOv4 с областью обнаружения заметных объектов (SOD) из HVPNet. Кроме того, мы разрабатываем стратегию активации, чтобы избежать реакции, вызванной неполным SOD. Затем мы выполняем состязательную атаку только на область обнаруженного объекта, используя простую состязательную атаку черного ящика (SimBA). Чтобы проверить предложенный метод, мы создаем уникальный набор данных, извлекая все изображения, содержащие объект, определенный COCO, из ImageNet-1K, названный в этой статье COCO-Reduced-ImageNet. Экспериментальные результаты на ImageNet-1K и COCO-Reduced-ImageNet показывают, что при различных настройках системы наш метод дает состязательный пример с лучшим качеством восприятия, при этом экономя бюджет запроса до 24,16% по сравнению с современными подходами. в том числе SimBA
2.Теоретико-игровой анализ уязвимостей состязательной атаки(arXiv)
Автор:Хондкер Фариха Хоссейн, Алиреза Тавакколи, Шамик Сенгупта
Аннотация: в последнее время глубокое обучение широко используется для автоматизации различных задач безопасности в кибердоменах. Однако во многих ситуациях злоумышленники манипулируют данными и снижают точность развернутой модели глубокого обучения. Одним из ярких примеров является обман данных CAPTCHA для доступа к классификатору на основе CAPTCHA, что приводит к тому, что критически важная система становится уязвимой для кибератак. Чтобы облегчить это, мы предлагаем вычислительную основу теории игр для анализа уязвимости, стратегии и результатов классификатора на основе CAPTCHA путем создания одновременной игры для двух игроков. Мы применяем метод быстрого градиентного символа (FGSM) и атаку одним пикселем на данные CAPTCHA, чтобы имитировать реальные сценарии возможной кибератаки. Впоследствии, чтобы интерпретировать этот сценарий с точки зрения теории игр, мы представляем взаимодействие в игре Штакельберга в дереве Куна, чтобы изучить возможное поведение и действия игроков, применяя фактические предсказанные значения нашего классификатора. Таким образом, мы интерпретируем потенциальные атаки в приложениях глубокого обучения, представляя жизнеспособные стратегии защиты в перспективе теории игр.
3.Атака злоумышленников на нейронные сети локализации на основе изображений(arXiv)
Автор: Меир Бранд, Итай Наэ, Даниэль Тейтельман
Аннотация: в этой статье мы представляем доказательство концепции злоумышленников для атаки на модуль локализации автономного транспортного средства на основе изображений. Эта атака направлена на то, чтобы заставить транспортное средство выполнять неправильные навигационные решения и помешать ему достичь желаемого заранее определенного пункта назначения в моделируемой городской среде. База данных визуализированных изображений позволила нам обучить глубокую нейронную сеть, которая выполняет задачу локализации и реализует, разрабатывает и оценивает состязательный паттерн. Наши тесты показывают, что с помощью этой атаки противника мы можем предотвратить поворот автомобиля на заданном перекрестке. Это делается путем манипулирования навигационным модулем транспортного средства для ложной оценки его текущего положения и, таким образом, невозможности инициализировать процедуру поворота до тех пор, пока транспортное средство не упустит последнюю возможность выполнить безопасный поворот на данном перекрестке.
