Просвещение

Фейковая грудь Тейлор Свифт и оживший Сальвадор Дали: как нейросети меняют нашу жизнь

Антон Подрезов Антон Подрезов
Зачем нейросети занимаются порноместью, подделывают голос президента и меняют исторические события.

Мы пережили уже несколько предрекаемых концов света, метеориты и кометы успешно пролетают мимо Земли, а ядерная война случилась только в фантазиях игроделов. Но сейчас наступило время нового страха: искусственный интеллект нас поработит. По правде говоря, его возможности уже пугают, особенно заставляет задуматься та скорость, с которой эти технологии развиваются. А что если я тебе ещё скажу, что искусственный интеллект уже может обманывать тебя? Что если я скажу, что я и есть искусственный интеллект?

Ловля пользователей с помощью нейросетей


Нет, я обычный мешок с костями. Но мог бы оказаться одной из нейросетей, которую натаскали на научные статьи об искусственном интеллекте. И это совсем не фантастические истории в духе малобюджетных рассказов о выдуманных антиутопиях. Машины действительно могут делать то, на что раньше не были способны, если их немного обучить. Как это работает?

Искусственная нейросеть — это попытка смоделировать то, что происходит в нашем мозге, — то есть воссозданное программное воплощение работы наших нейронов. Сама нейросеть состоит из нескольких простых процессоров, которые, взаимодействуя в большой сети, могут выполнять достаточно сложные задачи, иногда во многом превосходя возможности человека.

При этом нейросеть не программируется в обычном понимании слова (а ведь это, по сути, программа), но она обучается. Представь, что чайник не сразу начинает кипятить воду, а только после того, как ты объяснишь, что такое вода, что такое кипяток и при какой температуре произойдёт закипание. Эта «‎нейросеть-чайник» будет искать разницу между обычной водой и кипятком, найдёт пути перехода из состояния А в состояние Б и в конце концов придёт к пониманию, как ей это сделать, потом она благодаря внешним данным поймёт, когда ты обычно пьёшь чай, и будет готова к твоему запросу, минимизирует потребление энергии и так далее. В общем, нейросеть в процессе обучения способна выявлять закономерности, обобщать и выдавать результат, каждый раз совершенствуясь в своей работе.

Современные нейросети могут распознавать лица, голоса, рисовать картины и даже писать сценарии. Всё это они делают, проанализировав миллионы других примеров из предоставленной ей для обучения базы данных. Забавная штука, которую можно использовать и в сфере развлечений, и для систем слежения. Но оказалось, что их можно обучить и более грязным делам.

Секс — двигатель прогресса

В конце 2017 года на просторах Reddit пользователь с ником deepfakes опубликовал гифки, а потом видео, содержащие в себе порно-сцены с участием знаменитостей: Галь Гадот, Тэйлор Свифт, Скарлетт Йоханссон и многих других. Было похоже, что это очередной взлом аккаунтов, который периодически случается со знаменитостями. Однако с самими видео было что-то не так: они были сняты профессионально, а лица знаменитостей странно выглядели. Оказалось, что этот пользователь натренировал нейросеть так, чтобы она была способна заменять лица порноактрис в видео на лица знаменитостей, причём иногда с пугающей точностью. Это были не просто наклеенные недвижимые маски, а живые лица с эмоциями и изменяющимися ракурсами.

Пользователи быстро оценили такие возможности и стали активно комментировать и голосовать за подобные посты. Сцена с Эмилией Кларк из «‎Игры престолов» на фоне этого уже выглядела, как невинная встреча бывших любовников в городской библиотеке им. Ленина.

В интервью журналисту издания Vice пользователь deepfakes рассказывал, что для обработки лиц знаменитостей использовал стоковые фотографии, поиск по картинкам Google и Youtube. Сделал всё это обычный любитель машинного программирования, а точнее, нейросеть в его руках, основанная на нескольких библиотеках с открытым исходным кодом. В комментариях он также заявлял, что использует технологию, схожую с той, которую незадолго до этого представляла компания Nvidia: они демонстрировали, как способны заменять зимний пейзаж на летний.

В январе 2018 этот же пользователь выложил в открытый доступ программу, с помощью которой можно делать подобные ролики (а они к тому времени уже расползлись за пределы Reddit и оказались на главном порносайте планеты — Pornhub). И понеслась! Мигом возник своеобразный порнорынок, который заполнили заказчики и исполнители подобных видео по заданным параметрам.

В итоге это всё достигло пугающих масштабов, и Reddit был вынужден закрыть темы с deepfake-видео, а Pornhub начал удалять подобные ролики. Всё это из-за отсутствия согласия на размещение интимных видео от людей, присутствовавших на них. Но можно ли однозначно сказать, что они там действительно были?

А королева-то голая!

В середине 2019 года появилось ещё одно детище подобного рода — программа DeepNudes, которая раздевала женщин (с мужчинами это не работало — нейросеть просто рисовала им женские половые органы), изображённых на фотографии. Механизм просто стирал лишнюю одежду и дорисовывал обнаженные тела. Сайт с DeepNudes достаточно быстро упал, а разработчик вскоре заявил, что закрывает доступ к программе, потому что «‎мир ещё к этому не готов». Однако за это время идея уже разлетелась по интернету, и сейчас аналоги программы все еще существуют. К сожалению, не все используют ее только лишь для развлечения — подобные «‎поделки» нейросети могут стать причиной для травли и инструментом шантажа (к этому мы обязательно вернемся чуть позже).

Но вернемся на Reddit, где тем временем прошла новая революция в порно. Теперь вместо ххх-роликов со знаменитостями там создают 3D-модели звёзд, которых потом используют для виртуального секса. Пользователи делают их на заказ, продают или просто обмениваются друг с другом. Из представленных вариантов легко можно узнать, например, Эмилию Кларк. Игги Азалию или Эмму Уотсон, но чтобы не попасться на судебный иск за изображение настоящих людей, создатели моделей вынуждены называть свои творения другими именами, которые тоже достаточно легко расшифровываются. Существуют программы (Virt-A-Mate и Foto2Vam), которые упрощают процесс и практически все делают самостоятельно, что позволяет экспериментировать даже тем, кто не особо знаком с моделированием. Скачав такую виртуальную куклу, пользователь может «‎использовать» её вместе с очками VR и умными секс-игрушками, воплощая свои сексуальные фантазии с любимыми знаменитостями или бывшей любовью, ведь заказы там идут не только на кинозвёзд, но и на обычных людей — без раскрытия настоящих имён, естественно.

Развлечения с замещением

Недавние исследования Нидерландской компании, занимающейся кибербезопасностью, подтверждают, что сфера порнографии заинтересована в подобных технологиях, как никакая другая. С декабря 2018 года компания нашла в сети 14.678 видео с использованием технологии дипфейк, и 96% из общего числа являются порнографическими. Продемонстрировать их тебе я не могу, зато могу показать, что входит в оставшиеся 4%, — а там есть на что посмотреть. Как и на другие возможности современных нейросетей.

Сомневаюсь, что многие желают оказаться в порно против своей воли, а вот стать героем комикса, может быть, захочешь и ты. Нейросеть исполняет желания и, подобно старой игре на Сеге Comix Zone, переносит тебя в нарисованный мир. Технология машинного обучения от Bubble (это издательство, выпускающее комиксы на русском, о которых можешь почитать здесь) обрабатывает твою фотографию и стилизует её под комикс. Таким ты себя ещё не видел даже утром после Дня святого Патрика.

С помощью нейросетей в США оживили Сальвадора Дали и заставили общаться с людьми. В городе Санкт-Петербурге, штат Флорида (я ничего не перепутал, у них так и называется город — St. Petersburg), есть музей, посвященный этому художнику. Там с помощью уже известной нам технологии deepfake обработали архивные снимки художника и сделали виртуальную маску, наложив на актёра, который общается с посетителями и имеет в общей сложности 45 минут уникального контента.

В августе этого года в Китае появилось приложение Zao, которое стало невероятно популярным, потому что позволяло пользователям заменять лица актёров из известных фильмов на свои, загрузив фото и подождав считанные секунды. Правда, там нужно выбирать из имеющейся библиотеки сцен, но она достаточно большая. Качество не так сильно поражало, как скорость, с которой это приложение предоставляло готовый результат.

Стоит отметить некоторые уже существующие работы в данном жанре. Например, Джим Керри, которого перенесли в фильм «‎Сияние»:

Билл Мюррей в «‎Цельнометаллической оболочке»:

И Тайлер Дёрден, который наконец-то стал самим собой:

Отчего становится не до смеха

Прошло лишь два года с активного использования этих технологий, а контента уже немало — некоторые экземпляры пугающе высокого качества. Индустрия компьютерных игр уже должна подумывать над тем, как реализовать эти технологии в своих разработках, чтобы предоставить возможность геймеру играть за самого себя. И для развлекательной киноиндустрии это тоже отличный шанс для развития. Жаль только, что за всеми этими развлекательными возможностями скрываются опасности использования технологий со злым умыслом, и я говорю не только о так называемой порномести, когда расстроенный партнёр выкладывает интимные фото и видео своей второй половинки.

Технологии распознавания лиц становятся всё совершеннее и, определённо, влияют на уровень твоей свободы. Но вскоре тебя можно будет опознать даже без лица. Учёные из Массачусетского технологического института (MIT) создали нейросеть, которая учится воссоздавать лица по голосу. Эта технология в процессе обучения знакомится с миллионом коротких видео и пытается определить закономерности, которые связывают голос и лицо человека. А в дальнейшем пробует воссоздать внешний вид, услышав только аудиозапись. Пока технология работает не очень хорошо, но ты же знаешь, как быстро всё сейчас развивается. Возможно, через пару лет вместо видеозвонков будут использоваться синтезированные лица абонентов… или машины. Потому что искусственный интеллект Vera Voice от компании Тимура Бекмамбетова умеет разговаривать голосами знаменитостей. Об этой технологии, например, говорит сам воссозданный Владимир Путин:

Представь, как ты отреагируешь, если утром этот голос предложит тебе обсудить вопросы, касающиеся некоторых твоих репостов. Но создатели рассчитывают лишь на озвучивание фильмов, электронных книг и использование этой технологии в умных колонках.

С такими технологиями уже можно не смеяться над сценами из фильмов, когда с камер видеонаблюдения изображение в разрешении 10х10 внезапно увеличивают до HD качества. Разработчик Алекс Джей Чампандэрд натренировал свою нейросеть заметно увеличивать качество фотографий. И я ещё раз повторю: это только начало в развитии подобной технологии. При этом она уже способна менять ход истории. Учёные всё из того же MIT смогли создать deepfake-видео, в котором президент США Ричард Никсон сообщает о том, что миссия корабля Аполлон-11 (тот, который доставил людей до Луны) оказалась неудачной и экипаж погиб. Учёные создали это видео, чтобы предостеречь мир от опасности использования таких технологий с целью изменения истории и дезинформации.

Есть ли преступление и будет ли наказание?

Пока громких дел о порно-эксплуатации технологии deepfake не было, но борьба с такими явлениями уже ведётся — по крайней мере крупные социальные сети удаляют подобный контент и не дают ему распространяться. Созданные нейросетями снимки и видео с реальными людьми можно охарактеризовать как вторжение в личную жизнь, незаконную обработку персональных данных и даже назвать формой харассмента. Однако ни в одном законодательстве мира пока что нет такого состава преступления, как «создание фальшивого порно с использованием нейросетей». Так что неизвестно, чем может закончиться суд, — возможно, поэтому пока никто не спешит с исками. Да и все знают, что из интернета нельзя ничего удалить, вспоминая случай с неудачной фотографией певицы Бейонсе и её законным удалением.

Facebook уже ведёт своего рода войну с подобными фейками (репутация у них и так пострадала после выборов, поэтому им просто необходимо шевелиться). Facebook вместе с Microsoft и несколькими крупными университетами организовали конкурс на поиск наиболее эффективных способов выявления фото и видео по технологии deepfake. Но всё это может привести лишь к улучшению качества подобного контента, ведь сама технология построена на том, что одна нейросеть пытается обмануть другую, создавая фейковые видео, а вторая должна найти подвох. В этом соревновании они и становятся лучше, как вирус становится сильнее, преодолевая очередную вакцину.

Загрузить еще