В последние годы модели глубокого обучения добились значительных успехов в различных областях, от распознавания изображений до обработки естественного языка. Однако эти модели не защищены от атак. Состязательные атаки, быстро развивающаяся область, направлены на использование уязвимостей в системах глубокого обучения, что часто приводит к неправильной классификации или ошибочному поведению. В этом сообщении блога мы рассмотрим тонкости состязательных атак, обсудим распространенные методы атак и прольем свет на новые средства защиты, направленные на…