Общая разведка
Как Академик А. Исследования превратились в компьютерное порно
Эти опасные технологии все еще находятся в зачаточном состоянии, и они будут продолжать становиться более точными и убедительными.
General Intelligence от OneZero - это сводка самых важных новостей недели в области искусственного интеллекта и распознавания лиц.
Менее 10 лет назад некоторые из самых основных алгоритмов искусственного интеллекта, такие как распознавание изображений, требовали вычислительной мощности, типичной для центров обработки данных. Сегодня эти инструменты доступны на вашем смартфоне, они намного мощнее и точнее.
Подобно ядерной энергетике или ракетному двигателю, искусственный интеллект считается технологией двойного назначения, что означает, что его способность причинять вред равна его способности приносить пользу.
Ранее на этой неделе Vice сообщил о последнем примере одного из этих недостатков: кодеры использовали изображения сексуального насилия для обучения алгоритмов создания порно. В статье подробно рассказывается, как анонимный аспирант компилировал изображения без согласия в набор данных и сочетал их с готовыми алгоритмами для создания пользовательских видео.
Создатель сгенерированного искусственным интеллектом порно, который разместил его на таких платформах, как PornHub и OnlyFans, сказал Vice, что он использовал StyleGAN2, алгоритм с открытым исходным кодом, созданный Nvidia. Если вы видели в Интернете очень реалистичные фальшивые лица, такие как ThisPersonDoesNotExist.com, скорее всего, они были созданы StyleGAN2.
Подобно ядерной энергетике или ракетным двигателям, искусственный интеллект считается технологией двойного назначения, что означает, что его способность причинять вред равна его способности приносить пользу.
Но эта технология появилась не в одночасье. Существует четкий путь от некоторых из самых ранних современных алгоритмов создания изображений к этому феномену порнографии, созданной с помощью искусственного интеллекта. Вот как это выглядит.
Переход к GAN
Возможности алгоритмов генерации изображений резко возросли в 2014 году, когда были созданы генеративные состязательные сети или GAN. Идея, которую А. Исследователь Ян Гудфеллоу изначально придумал во время спора в баре, чтобы противопоставить алгоритмы друг другу, чтобы добиться наилучшего результата. Для создания изображения у вас будет генератор и дискриминатор. Генератор создавал изображения, а дискриминатор пытался определить, настоящие они или фальшивые, на основе реальных изображений, на которых он был обучен. Дискриминатор будет принимать только самые реалистичные изображения, гарантируя, что конечный результат будет сливками искусственного интеллекта.
Как сделать технологию полезной
Первоначальное исследование Гудфеллоу относительно GAN показало хорошие результаты по отраслевым тестам, но многие из созданных им изображений по-прежнему выглядели как адские капли, которые представляли идеи только абстрактно и нечеловечески. К 2016 году другие исследователи начали экспериментировать с этой техникой и нашли способы создавать реалистичные изображения, хотя и с небольшим разрешением. Одна из выдающихся работ того времени показала, как исследователи могут создавать реалистичные изображения спален, а также рудиментарные попытки создания лиц. Это исследование снова показало, что сети GAN могут адаптироваться в зависимости от типа данных, на которых они обучались. Идея сработала как для лиц, так и для спален, а это значит, что сети действительно смогли идентифицировать закономерности в различных типах изображений.
Дипфейки становятся общедоступными
В настоящее время существует несколько свободно доступных методов с открытым исходным кодом для создания синтетических граней, основанных на архитектуре GAN. И поскольку облачные сервисы, такие как Amazon AWS и Google Cloud, стали более доступными, появилась возможность обучать эти алгоритмы. Самый известный в A.I. Исследовательский мир - StyleGAN, сделанный Nvidia. Он был выпущен в декабре 2018 года, и, хотя он мог создавать невероятно качественные изображения фальшивых лиц, изображения также содержали странные капли и цифровые артефакты. Менее чем через год команда Nvidia выпустила StyleGAN2, который исправил архитектуру алгоритма, чтобы предотвратить образование этих капель и артефактов, а также улучшить точность изображений.
Эти алгоритмы можно адаптировать к различным областям. Обучая алгоритмы на порнографических изображениях, а не только на лицах, система смогла адаптироваться к созданию чего-то, для чего она, возможно, никогда не предназначалась.
GANS также были портированы специально для создания дипфейков через проекты с открытым исходным кодом, такие как DeepFaceLab и Wav2Lip. Легкость использования этих сервисов невозможно переоценить: на веб-сайте проекта Wav2Lip показано, как можно использовать одну строку кода для автоматической синхронизации губ на видео с любым аудиофайлом.
Эти технологии все еще находятся в зачаточном состоянии, и они будут продолжать становиться более точными и убедительными. Некоторые из применений этих технологий действительно интересны - посмотрите, как Мстители поют Sweet Child O 'Mine сцену из Step Brothers - но в конечном итоге эти алгоритмы также стали намного проще для всех. использовать в злонамеренных целях. И без какой-либо защиты вред дипфейка может перевесить их небольшую развлекательную ценность.
