Огромная сокровищница обнаженных изображений, слитая в открытую базу данных стартапа AI Image Generator

Изображение ИИ Согласно новому исследованию, рассмотренному WIRED, запуск генератора оставил более 1 миллиона изображений и видео, созданных с помощью его систем, доступными для всех в Интернете. По словам исследователя, обнаружившего массу данных, «подавляющее большинство» изображений включало в себя наготу и представляло собой «содержание для взрослых», причем некоторые из них, по-видимому, изображали детей или лица детей были заменены на сгенерированные ИИ тела обнаженных взрослых.

Несколько веб-сайтов, включая MagicEdit и DreamPal, по-видимому, использовали одну и ту же незащищенную базу данных, говорит исследователь безопасности Джеремайя Фаулер, обнаруживший брешь в безопасности в октябре. В то время, по словам Фаулера, каждый день в базу данных добавлялось около 10 000 новых изображений. Показывая, как люди могли использовать инструменты создания и редактирования изображений, эти изображения включали «неизмененные» фотографии реальных людей, которые, возможно, были без согласия «обнаженный,или их лица менялись на другие, обнаженные тела.

«Настоящая проблема заключается в том, что изображения невиновных людей, особенно несовершеннолетних, используются без их согласия для создания сексуального контента», — говорит Фаулер, активный охотник за раскрытыми базами данных, опубликовавший результаты на сайте Блог ExpressVPN. Фаулер говорит, что это третья ошибка конфигурации База данных для создания AI-изображений в этом году он нашел их доступными в Интернете — и все они, похоже, содержат откровенные изображения, не согласованные с согласия, в том числе изображения молодых людей и детей.

Выводы Фаулера связаны с тем, что инструменты генерации изображений с помощью искусственного интеллекта продолжают использоваться для злонамеренного создания откровенных изображений людей. Огромная экосистема сервисов «обнажения», которые используется миллионами людей и зарабатывать миллионы долларов в годиспользует ИИ, чтобы «раздевать» людей (почти полностью женщин) на фотографиях. Фотографии, украденные из социальных сетей, можно отредактировать всего за пару кликов, что приводит к ужасающим оскорблениям и преследованиям женщин. Тем временем, отчеты преступников, использующих ИИ для создания материалов о сексуальном насилии над детьми, охватывающих подборка непристойных изображений с участием детей, за последний год удвоилось.

«Мы очень серьезно относимся к этим опасениям», — говорит представитель стартапа DreamX, который управляет MagicEdit и DreamPal. Представитель сообщил, что связанная с базой данных фирма по маркетингу влияния под названием SocialBook управляется «отдельным юридическим лицом и не участвует» в работе других сайтов. «Эти компании имеют некоторые исторические связи через основателей и наследственные активы, но они работают независимо, предлагая отдельные линейки продуктов», — говорит представитель.

«SocialBook не подключен к базе данных, на которую вы ссылались, не использует это хранилище и никогда не участвовал в ее работе или управлении», — сообщил WIRED представитель SocialBook. “Упомянутые изображения не были созданы, обработаны или сохранены системами SocialBook. SocialBook работает независимо и не играет никакой роли в описанной инфраструктуре”.