1764969322
2025-12-05 20:19:00
Более 1 миллиона изображений и видео преимущественно порнографического характера, созданных искусственный интеллект Согласно новому исследованию, опубликованному в пятницу, инструменты, некоторые из которых, по-видимому, изображают несовершеннолетних, а некоторые основаны на фотографиях реальных людей, остались в сети.
Исследователь кибербезопасности Джеремайя Фаулер, сделавший открытие в октябре, заявил, что файлы остались на незащищенном сервере, используемом несколькими генераторами изображений искусственного интеллекта, такими как MagicEdit и DreamPal.
Фаулер, который изложил свои выводы по поводу Блог ExpressVPNсказал, что во многих файлах изображены «лица взрослых и молодых людей, помещенные в цифровом виде поверх тел, сгенерированных ИИ». Набор данных также содержал неизмененные изображения реальных людей, которые могли быть загружены в качестве справочных материалов для инструментов ИИ. Неизвестно, дал ли кто-либо из людей на изображениях согласие на использование их изображений ИИ.
«Любой инструмент, который позволяет с помощью искусственного интеллекта менять лица или тела без ведома или согласия человека, создает серьезные этические, конфиденциальные и потенциально юридические проблемы», — сказал Фаулер. «Изображения, созданные искусственным интеллектом или замененные лицами, на которых изображена нагота, обычно называемые «дипфейк-порнографией» или «обнаженными изображениями», могут быть использованы для шантажа, преследования или мести».
По словам Фаулера, после того как компания предупредила MagicEdit о разоблачении, база данных была защищена и больше не доступна для общественности. Он сказал, что MagicEdit сообщил ему, что «проводит полное расследование масштабов воздействия».
На допросе Проводной Что касается откровенного контента на сервере, представитель DreamX, которая управляет как MagicEdit, так и DreamPal, заявил, что «приоритетом компании является безопасность пользователей и общественности, соблюдение всех законодательных требований и полная прозрачность на протяжении всего этого процесса».
«Мы ни при каких обстоятельствах не одобряем, не поддерживаем и не терпим создание или распространение материалов, содержащих материалы о сексуальном насилии над детьми («CSAM»)», — заявил представитель.
По данным Wired, после расследования веб-сайты и мобильные приложения MagicEdit и DreamPal были отключены от сети. Хотя кажется, что за удалением может стоять DreamX, Wired также сообщил, что приложение MagicEdit было удалено из Google Play Store в начале этого года за нарушение политики в отношении «контента откровенно сексуального характера».
MagicEdit заявила, что «не пропагандирует и не поощряет контент откровенно сексуального характера». Однако на их веб-сайте, по данным Wired, «показывалось созданное искусственным интеллектом изображение женщины в платье, которое превращается в бикини», прежде чем оно было отключено.
На веб-сайте DreamPal также упоминались темы для взрослых, такие как «чат с искусственным интеллектом» и «подруги с искусственным интеллектом мечты». Wired также обнаружил на веб-сайте несколько ссылок до его закрытия, которые относились к «секс-чату с искусственным интеллектом» и «грязным разговорам об искусственном интеллекте». В часто задаваемых вопросах даже говорилось: «Мы удалили все фильтры чата с искусственным интеллектом NSFW, которые могли удержать вас от выражения ваших самых сокровенных фантазий».
Помимо ответственного раскрытия разоблачения, Фаулер сказал, что он также сообщил о базе данных в Национальный центр по делам пропавших и эксплуатируемых детей из-за характера некоторых изображений.
Пост Незащищенная база данных содержит 1 миллион порнографических изображений, созданных искусственным интеллектом, и дипфейков впервые появился на Новости прямой стрелки.
Ссылки по теме
#Незащищенная #база #данных #содержит #миллион #порнографических #изображений #созданных #искусственным #интеллектом #дипфейков
Продолжение темы
