Ниже представлена короткая гифка, на которой люди превращаются друг в друга. Эти люди не настоящие, и мне потребовался всего день, чтобы их создать. Да… довольно страшно.
Вступление
Прежде чем мы углубимся в этические проблемы GAN, мы должны объяснить, что они собой представляют. GAN или Generative Adversarial Networks - это структура глубокого обучения, в которой две нейронные сети, по сути, играют в конкурентную игру друг против друга. Одна нейронная сеть (генератор) пытается создать поддельные изображения. Другая нейронная сеть (дискриминатор) пытается определить вероятность того, что входные изображения (как поддельные, так и настоящие) являются поддельными или не поддельными. Выходная вероятность и метка класса (поддельный или ненастоящий) от дискриминатора теперь передаются обратно в генератор, чтобы помочь улучшить качество сгенерированных изображений. Этот процесс обучения будет продолжаться до тех пор, пока генератор не превзойдет дискриминатор, а затем игра не закончится. После этого очень короткого введения в GAN давайте глубже погрузимся в несколько областей, которые, по крайней мере, для меня вызывают некоторые из этических проблем, связанных с использованием GAN. Если вы хотите получить более подробное описание GAN, ознакомьтесь с этой замечательной статьей: Понимание генеративных состязательных сетей (GAN).
Легкость реализации
Если у кого-то есть учетная запись Google, он может реализовать свой собственный GAN. Создав StyleGan2, NVIDIA упростила этот процесс. Благодаря большому количеству предварительно обученных моделей GAN, это расширило возможности человека использовать эту технологию. Чтобы понять, что происходит под капотом, нужно немного научиться, однако, если ваша единственная цель - создать поддельные изображения, вам повезло. Это видео Обучение модели StyleGAN2 на Colab - отличное видео, по которому можно обучить свой собственный GAN. Подобные видео и несколько сообщений в блогах действительно подчеркивают, насколько легко становится использовать такие передовые технологии. Опять же, на создание видео, приведенного выше, у меня ушло меньше дня. С этической точки зрения, вы должны задаться вопросом, должны ли такие технологии быть доступны каждому.
Продуктовое земледелие
В моем главном проекте в General Assembly я использую StyleGan2 для создания фальшивых людей, которые в конечном итоге будут использоваться в качестве влиятельных лиц в социальных сетях. Все знают, сколько могут заработать некоторые из этих влиятельных лиц, поэтому я подумал: Теоретически вы можете создать бесконечное количество этих фальшивых влиятельных лиц, которые могут публиковать бесконечное количество контента с помощью GAN. Очевидно, после такой мысли у меня возникла идея написать это. Это приводит к концепции товарного земледелия. Кто-то может создать GAN для создания современных произведений искусства и создания сотен тысяч изображений, пометить их как свои собственные произведения искусства и начать их продавать. Это правильно? Это не так? Не знаю, но опять же, еще один очень важный вопрос, над которым стоит задуматься. Вот пример именно этой концепции, реализуемой в настоящее время: https://www.noartist.io/. Это очень впечатляет таких людей, как мы, в сфере технологий, но как насчет художников и художников, которые хотят сделать это своей карьерой?
Глубокие подделки
Это восходит к простоте реализации. По мере того, как технологии продолжают совершенствоваться, упрощается доступ. Благодаря таким потрясающим ресурсам, как DeepFaceLab, создание глубоких подделок становится просто смехотворным. С помощью всего нескольких строк кода я смог создать эту глубокую подделку одного из моих сгенерированных лиц, говорящего, как Дональд Трамп.
Это лицо было одним из тех, которые я создал с помощью GAN. Теперь я могу заставить это лицо говорить, моргать и двигать головой, как и любой другой существующий. Найдите минутку и подумайте, как это можно использовать. Политика - очень страшная сфера, где этим можно воспользоваться. С помощью этой технологии теоретически можно заставить любого говорить и говорить все, что угодно. Вы должны начать сомневаться, действительно ли то, что вы смотрите, реально?
Замена работы
Это идет рука об руку с глубокими подделками, но сети GAN потенциально могут использоваться как средство для замены рабочих мест. Метеоролог? Ведущий ток-шоу? Модели? Влиятельные лица? Актеры и актрисы? и т.д. Список можно продолжать и продолжать. Если есть необходимость, чтобы кто-то присутствовал на экране и говорил, этого человека можно заменить.
Вот и нужна потребность в танцорах TikTok:
Если есть технология, чтобы заставить фальшивого человека танцевать, почему они не могут заменить любого человека на экране?
Итак, вот очень упрощенный конвейер, который может произойти. Создайте тысячи людей, сгенерированных компьютером, затем заставьте всех этих людей танцевать тысячи раз, и теперь у вас есть ферма контента для социальных сетей.
Это действительно здорово и интересно для тех, кто занимается технологиями, но для людей, которые хотят сделать карьеру, это ужасно. Очевидно, это никому не причиняет прямого вреда, но каковы будут последствия этого через годы? Будут ли заменены определенные рабочие места из-за GAN? Кто знает. Как я делал в последних нескольких разделах, по-настоящему поразмышляйте о возможностях этой технологии и спросите себя, этично ли это?
Заключение
Мне очень нравятся GAN и действительно потрясающие их реализации, такие как восстановление фотографий, фильтры социальных сетей и т. Д. Когда я делал свой краеугольный камень, меня поразило то, что GAN можно легко использовать, если кто-то захочет.
Изначально моя идея проекта заключалась в том, чтобы создать сгенерированную компьютером инфлюенсера и автоматическую генерацию контента, однако я считаю, что создание человека для единственного человека, приносящего больший доход, было неэтично. Я повернул свой краеугольный камень и теперь хочу привлечь внимание к потенциальным достоинствам и недостаткам сгенерированного контента.
Надеюсь, эта статья заставила вас немного задуматься об этических проблемах GAN. Я считаю, что об этической осведомленности об искусственном интеллекте в целом следует говорить гораздо больше. Я вижу все замечательные статьи о технологиях, в которых демонстрируются эти действительно классные приложения, но мне действительно интересно, если бы кто-то со злым умыслом использовал это, что бы произошло?
Если вы зашли так далеко, я вам очень признателен, и если у вас есть какие-либо предложения, которые я могу добавить в эту статью, я буду рад это сделать!
Не стесняйтесь обращаться ко мне в LinkedIn по адресу: LinkedIn
