Темная сторона генераторов изображений ИИ с открытым исходным кодом

Будь то через хмурое высокое разрешение лицо шимпанзе или психоделический, розово-красный оттенок двойник самого себя, Реувен Коэн использует изображения, созданные искусственным интеллектом, чтобы привлечь внимание людей. «Меня всегда интересовали искусство, дизайн и видео, и мне нравится расширять границы», — говорит он, но консультант из Торонто, который помогает компаниям разрабатывать инструменты искусственного интеллекта, также надеется повысить осведомленность о более темных применениях этой технологии.

«Его также можно специально научить быть довольно ужасным и плохим во многих отношениях», — говорит Коэн. Он поклонник свободных экспериментов, которые начались благодаря технологии генерации изображений с открытым исходным кодом. Но та же самая свобода позволяет создавать откровенные изображения женщин, используемых для преследования.

После несогласованных изображений Тейлор Свифт недавно распространился на XMicrosoft добавила новые элементы управления в свой генератор изображений. Модели с открытым исходным кодом могут быть использованы практически кем угодно и, как правило, не имеют каких-либо ограничений. Эксперты говорят, что, несмотря на усилия некоторых обнадеживающих членов сообщества по предотвращению эксплуататорского использования, свободный для всех открытый исходный код практически невозможно контролировать, говорят эксперты.

«Открытый исходный код способствует злоупотреблению фейковыми изображениями и порнографии без согласия. Это невозможно приукрасить или квалифицировать», — говорит Генри Эйдеркоторый потратил годы на исследование вредного использования генеративного ИИ.

Адждер говорит, что в то время, когда оно становится фаворитом исследователей, творческих людей, таких как Коэн, и ученых, работающих над искусственным интеллектом, программное обеспечение для генерации изображений с открытым исходным кодом стало основой дипфейкового порно. Некоторые инструменты, основанные на алгоритмах с открытым исходным кодом, специально созданы для непристойных или оскорбительных целей, например, для «обнаженных» приложений, которые в цифровом виде удаляют женскую одежду с изображений.

Но многие инструменты могут использоваться как в законных, так и в неприятных случаях. По словам Адждера, одна популярная программа подмены лиц с открытым исходным кодом используется людьми в индустрии развлечений и в качестве «инструмента выбора для плохих актеров», делающих дипфейки без согласия. Утверждается, что генератор изображений высокого разрешения Stable Diffusion, разработанный стартапом Stability AI, более 10 миллионов пользователей и установлены ограждения для предотвращения явного создания изображений и политика, запрещающая злонамеренное использование. Но компания также версия генератора изображений с открытым исходным кодом в 2022 году его можно настраивать, а онлайн-руководства объясняют, как обойти встроенные ограничения.

Между тем, более мелкие модели искусственного интеллекта, известные как LoRA, позволяют легко настроить модель стабильной диффузии для вывода изображений с определенным стилем, концепцией или позой, например изображением знаменитости или определенными половыми актами. Они широко доступны на рынках моделей ИИ, таких как Civitai, сайт сообщества, где пользователи делятся моделями и загружают их. Там один создатель плагина Taylor Swift призвал других не использовать его «для изображений NSFW». Однако после загрузки его использование выходит из-под контроля его создателя. «То, как работает открытый исходный код, означает, что будет довольно сложно удержать кого-то от потенциального взлома», — говорит Адждер.

4chan, сайт-доска объявлений на основе изображений с репутацией хаотичная модерация WIRED обнаружил, что здесь находятся страницы, посвященные дипфейковому порно без согласия, созданному с помощью общедоступных программ и моделей искусственного интеллекта, предназначенных исключительно для сексуальных изображений. Доски объявлений для изображений для взрослых завалены сгенерированными искусственным интеллектом обнаженными обнаженными реальными женщинами, от порноактрис до таких актрис, как Кейт Бланшетт. WIRED также наблюдал, как пользователи 4chan делились обходными путями для изображений NSFW с использованием OpenAI Dall-E 3.

Подобная деятельность вдохновила некоторых пользователей в сообществах, посвященных созданию изображений с помощью ИИ, в том числе на Reddit и Discord, попытаться дать отпор морю порнографических и вредоносных изображений. Создатели также выражают беспокойство по поводу того, что программное обеспечение приобретает репутацию изображения NSFW, поощряя других сообщать об изображениях, изображающих несовершеннолетних, на Reddit и сайтах, где размещаются модели.