Реферальная программа и сайты-партнеры способствовали популярности сгенерированных искусственным интеллектом «обнаженных» изображений.
Сайт, который генерирует «обнаженные» изображения женщин с помощью искусственного интеллекта, распространяет свои мутные щупальца по всему интернету, создавая похожие сервисы через партнерские программы и привлекая новых пользователей через реферальную систему. Усилия по раскрутке позволили сервису обрести популярность, несмотря на ограничения его платёжной инфраструктуры.
Сайт, который WIRED не называет, чтобы ограничить его распространение, существует с прошлого года. Он в цифровой форме «удаляет» одежду с фотографий без обнаженной натуры, чтобы создать порнографические фейки. Исследователи утверждают, что результат является «гиперреалистичным», и, в отличие от аналогичных платформ, система может генерировать порнографические изображения, даже если человек на исходной фотографии полностью одет. Ранее подобные технологии работали только с частично одетыми на фотографии людьми.
В последние месяцы сайт расширил спектр предоставляемых услуг, позволив своему создателю заработать тысячи долларов. Портал предоставил доступ своим «партнерам» через API; два дочерних сайта были созданы другими людьми. Об оригинальном сайте уже сообщалось ранее, но о масштабах его партнерских программ — нет.
На странице «партнерской программы» сайта говорится, что схема была создана для того, чтобы разработчик системы мог «больше сосредоточиться» на исследованиях ИИ, предоставить клиентам альтернативные способы оплаты и создать локализованные языковые версии сайта. Он утверждает, что децентрализованная модель позволяет ему избежать «внезапной приостановки обслуживания и даже прекращения работы».
Такой подход, похоже, действительно помог сайту избежать бана в сети. По данным платформы цифровой аналитики Similarweb, с января по конец октября этого года сайт посетило более 50 миллионов человек, что делает его крупнейшим в своем роде. За один день загружаются «сотни тысяч» изображений, утверждает создатель сайта. Его аудитория достигла пика в августе с 6,92 миллионами просмотров, согласно данным SimilarWeb.
Примерно в это же время сайт привлек внимание Huffington Post и других изданий, что привело к отключению хостинга и приостановке платежного счета на криптовалютной платформе Coinbase. Эти ограничения сократили количество посетителей вдвое, до 3,14 миллиона человек в октябре; 13,93 процента посетителей пришлось на Соединенные Штаты. Несмотря на уменьшение размеров аудитории сайта, его деловые партнеры выросли, помогая сохранить доступность оскорбительной технологии для миллионов людей. В октябре на одном из дочерних сайтов, согласно данным SimilarWeb, было зарегистрировано около 830 000 посетителей, а на другом — почти 300 000. В предыдущие месяцы оба сайта регистрировали лишь десятки тысяч посетителей. Большую часть этого дополнительного трафика обеспечивает оригинальный сайт.
Создатель одного из этих побочных порталов рассказывает, что они платят около 500 долларов оригинальному сайту за возможность создать 10 000 изображений обнаженной натуры. Счетчик на сайте-партнере утверждает, что было обработано 204 522 изображения от более чем 3 000 платящих клиентов. Хотя на сайте другого партнера утверждается, что набор данных для обучения ИИ включает более 1 миллиона изображений, неясно, откуда взялись эти изображения, поскольку создатель оригинального сайта сообщил в сети, что сервис не хранит изображения и не использует их в целях обучения.
Вербовка партнеров — не единственный способ развития сайта. Сотни ссылок для реферальной программы, в рамках которой люди получают бесплатные жетоны для генерации изображений каждый раз, когда кто-то нажимает на них, также распространяются в Twitter, YouTube, Telegram и на специализированных порнографических форумах дипфейков.
С момента запуска сайта его создатель, личность которого неизвестна и который не ответил на просьбу о комментарии, утверждает, что неоднократно обновлял свой алгоритм. На сайте говорится, что в настоящее время он работает на версии 2.0. Разработчик утверждает, что третья версия, которая, по всей видимости, будет выпущена в начале 2022 года, улучшит «предсказание» на фотографиях, сделанных «сбоку или сзади». Создатель отмечает, что будущие версии позволят людям «манипулировать атрибутами цели, такими как размер груди, волосы на лобке».
Тактика развития сайта, напоминающая стартап, свидетельствует о зрелости оскорбительных «обнажающих» технологий дипфейков, которые в подавляющем большинстве направлены на женщин и причиняют им вред. С тех пор как в конце 2017 года один из участников Reddit создал первое фальшивое порно, сгенерированное искусственным интеллектом, эти системы стали более изощренными. В 2019 году эта технология превратилась в первое приложение, получившее название DeepNude; хотя его создатель удалил приложение, его код по-прежнему доступен в сети. С тех пор подобная технология стала такой же простой в использовании, как выбор фотографии и нажатие кнопки «загрузить». Последние ужасающие разработки также включают в себя простое в использовании видеопроизводство.
С ростом простоты использования сайта объекты преследования переместились с высокопоставленных знаменитостей и влиятельных лиц на представителей общественности. Расширение партнерских отношений еще больше коммодифицирует эти домогательства. «Качество намного выше» — говорит Генри Адждер, консультант по дипфейкам и глава отдела политики и партнерств в медиакомпании Metaphysic. «Люди, стоящие за ним, сделали то, чего не было со времен оригинального инструмента DeepNude… это попытка создать вокруг него сильное сообщество».
Включение партнёрской программы и платежных сервисов на сайте и его партнеров указывает на то, что подобная технология находится на переломном этапе, утверждает Софи Мэддокс, исследователь из Анненбергской школы коммуникаций при Университете Пенсильвании, которая специализируется на изучении гендерного насилия в Интернете. «Этот вред станет частью секс-индустрии и будет приносить прибыль; он станет нормализованным». Общество, технологические компании и правоохранительные органы должны проявлять «нулевую терпимость» к этим подделкам, добавляет она.
Сайты приносят прибыль своим создателям. Все три известных портала берут деньги за обработку изображений — от 10 долларов за 100 фотографий до 260 долларов за 2 000. Они предлагают ограниченное количество бесплатных снимков, называя их пробными версиями технологии, но посетителей склоняют к оплате. В разные периоды своего существования они принимали банковские переводы, PayPal, Patreon и несколько криптовалют. Как и Coinbase, многие из этих провайдеров разорвали связи после сообщений в СМИ. Все три сайта по-прежнему принимают к оплате различные криптовалюты.
Иван Браво, создатель сайта-партнёра, утверждает, что у него более 3 000 платящих клиентов, и по его мнению с моральной точки зрения «неправильно» зарабатывать деньги на услуге, которая вредит людям. Однако он продолжает это делать. «Это приносит хороший доход» — написал он в электронном письме, отвечая на вопрос, почему он работает в этой сфере. Иван отказался сообщить, сколько денег он заработал на продажах, но отметил, что «этого более чем достаточно, чтобы содержать семью в приличном доме здесь, в Мексике».
Анализ, проведенный независимым исследователем, отслеживающим сайты, который не хочет называть своего имени из-за деликатного характера темы, говорит, что на сайте Браво было зарегистрировано 630 платных клиентов за три дня после его запуска в августе. Это могло принести Браво от 7 553 до 57 323 долларов США, говорится в анализе. Браво утверждает, что он действительно заработал сумму в этом диапазоне.
Иван, который ранее создал приложение для настольных компьютеров, с помощью которого можно «раздевать» людей, пытается оправдать свой сайт тем, что он и другие порталы содержат отказ от ответственности, запрещающий использовать их для причинения вреда другим людям. Он также утверждает, что технология может быть разработана для работы с мужчинами и может быть использована индустрией для взрослых для создания пользовательской порнографии. (Создатель другого сайта не ответил на вопросы, присланные по электронной почте). Однако дипфейки использовались для унижения и оскорбления женщин с момента их появления — большинство создаваемых фейков являются порнографическими, и почти все они направлены на женщин. В прошлом году исследователи обнаружили бота для дипфейков в Telegram, который использовался для насилия над более чем 100 000 женщин, включая несовершеннолетних девочек. А в 2020 году на основные сайты для взрослых ежемесячно загружалось более 1000 подобных порнографических видеороликов без согласия жертв.
«Это может иметь реальные и разрушительные последствия» — говорит Сейи Акивово, основатель и исполнительный директор британской благотворительной организации Glitch!, которая работает над тем, чтобы положить конец насилию над женщинами и маргинализированными людьми в Интернете. «Лица, совершающие насилие в семье, будут заходить на подобные сайты и делать невинные фотографии, чтобы обнажить их и попытаться причинить еще больший вред».
«Меня эксплуатируют», — заявила голливудская актриса Кристен Белл в интервью Vox в июне 2020 года после того, как обнаружила, что с использованием ее изображения были сделаны дипфейки. Другие люди, ставшие жертвами поддельных изображений, говорят, что шокированы реалистичностью, не хотели бы, чтобы их дети видели эти изображения, пытаются добиться их удаления из сети. «Это действительно заставляет вас чувствовать себя бессильным, как будто вас ставят на место» — сказала Хелен Морт, поэт и телеведущая, в интервью MIT Tech Review. «Наказание за то, что ты женщина, имеющая хоть какое-то общественное мнение».
По словам экспертов, для того чтобы остановить этот вред, требуется множество подходов, сочетание правовых, технических и социальных мер. «Нам необходимо просвещать молодежь, взрослых, всех и каждого о том, в чем на самом деле заключается вред от использования и последующего распространения этого», — говорит Акивово. Другие считают, что технологические и платежные платформы также должны принять дополнительные меры по смягчению последствий. По словам Микибы Морхеда, консультанта фирмы TNG, занимающейся управлением рисками, который также исследует киберсексуальное насилие, необходимо больше просвещать людей о фейках, но технологии также могут остановить их распространение. «Это может включать использование алгоритмов для выявления, маркировки и сообщения о фальшивых материалах, наем и обучение людей, проверяющих факты, чтобы помочь выявить фальшивки, а также специальные образовательные инициативы для тех, кто работает в СМИ, о том, как выявлять фальшивки, чтобы помочь остановить распространение дезинформации», — говорит она.
Например, Facebook, принадлежащий компании Meta, разрабатывает способы обратного инжиниринга дипфейков, но эта технология еще относительно незрелая. На GitHub, принадлежащем Microsoft, по-прежнему размещаются исходные коды приложений ИИ, генерирующих изображения обнаженной натуры, несмотря на заявление о запрете оригинальной программы DeepNude в 2019 году.
И еще есть роль закона. Несмотря на то, что дипфейки используются для генерации порнографических изображений и видео с 2017 года, законодатели не принимают мер по решению этой проблемы. Хотя во многих штатах США и Великобритании есть законы о порно из мести, они не распространяются на дипфейки. Комиссия по законодательству Великобритании проводит консультации по правовым проблемам фейков с 2019 года и пока не предложила изменений. У жертв мало способов дать эффективный отпор.