Платформа X Илона Маска объявила о мерах по предотвращению того, чтобы ее AI-чат-бот Grok раздевал изображения реальных людей после глобальной негативной реакции по поводу создания сексуализированных изображений женщин и детей.
X заявила, что будет «геоблокировать возможность» всех пользователей Grok и X создавать изображения людей в «бикини, нижнем белье и подобной одежде» в тех юрисдикциях, где такие действия считаются незаконными.
«Мы внедрили технологические меры, чтобы запретить учетной записи Grok редактировать изображения реальных людей в открытой одежде, такой как бикини», — говорится в заявлении команды безопасности X.
«Это ограничение распространяется на всех пользователей, включая платных подписчиков», — добавили они.
Заявление было сделано всего через несколько часов после того, как генеральный прокурор Калифорнии начал расследование в отношении xAI г-на Маска – разработчика Grok – в связи с созданием в последние недели “материалов откровенно сексуального характера без согласия”.
Международное давление на xAI усилилось, чтобы обуздать Грока после того, как функция позволила пользователям создавать сексуализированные дипфейки женщин и детей.
Это произошло после того, как глава Национального бюро по борьбе с киберпреступностью Гарды, главный суперинтендант Барри Уолш, подтвердил, что расследование в отношении Грока продолжается.
Министры правительства должны встретиться на следующей неделе, чтобы решить, как лучше всего бороться с контентом, созданным искусственным интеллектом, и контентом, связанным с сексуальным насилием над детьми.
Этот вопрос обсуждался вчера на встрече между Taoiseach и государственным министром, отвечающим за AI Ниамом Смитом. На следующей неделе состоится круглый стол.
Министр Смит заявил, что Грока следует запретить в Ирландии, если X не будет соблюдать ирландский закон, касающийся создания сексуализированных изображений как детей, так и взрослых.
Выступая в программе Prime Time на канале RTÉ, министр заявил, что существуют законы, касающиеся создания и распространения сексуальных изображений, созданных с помощью искусственного интеллекта, и что необходимо обеспечить их соблюдение.
Ниам Смит заявила, что Грока следует запретить в Ирландии, если Х не будет соблюдать ирландские законы.
Лейбористская партия и председатель комитета по СМИ Oireachtas Алан Келли заявил, что X был приглашен выступить перед комитетом 4 февраля, добавив, что было бы «неприемлемо», если бы они не присутствовали.
«Я ожидаю, что они появятся, я ожидаю, что они займутся этими проблемами. Я думаю, что это будет неприемлемо, если они этого не сделают», – сказал он.
«Коллективно, и это выходит за рамки любой политики внутри Ленстер-хауса, мы, как парламент, это правительство и все остальные, должны создать законодательную основу, чтобы гарантировать, что платформы не смогут ни в какой форме продолжать сексуализировать или обнажать детей».
Выступая в программе Morning Ireland на канале RTÉ, г-н Келли сказал, что в отношении создания искусственного интеллекта откровенно сексуального контента «модерация не работает».
«Этим инструментам искусственного интеллекта нельзя позволять делать это, это так просто, и платформы должны справиться с этим», — сказал он, добавив, что Ирландия должна решить эту проблему, если Европа будет двигаться в этом направлении слишком медленно.
Г-н Келли сказал, что Ирландия должна решить эту проблему, если Европа будет двигаться в этом направлении слишком медленно.
«У нас есть надежные законы… Нам необходимо обеспечить, чтобы эти законы, которые достаточно хорошие и сильные, были полными в отношении того, как мы можем с этим справиться.
«Нам необходимо защитить наших граждан, защитить наших детей. Проблема здесь расширяется до того, как эти инструменты ИИ на самом деле сексуализируют и обнажают не только детей, но и взрослых, и обеспечивают защиту всех на кросс-платформенной основе».
«Х мог предвидеть»
Генеральный директор Irish Internet Hotline Hotline.ie Майкл Моран заявил, что, хотя изменения приветствуются, следует предвидеть потенциальное злоупотребление Grok.
«Нужно приветствовать любые изменения, но я думаю, что то, как это произошло за последний месяц, действительно нужно проанализировать», – сказал он.
«Все это было и могло быть предвидено организацией X. Предполагать, что они сейчас обеспечивают безопасность и что их за это хвалят, просто неприемлемо».
Также, выступая в программе Morning Ireland, г-н Моран сказал, что «функциональность играет ключевую роль» в решении проблемы нерегулируемого использования ИИ.
«Это будет происходить снова, снова и снова по мере появления новых функций. Мы остались в ситуации, когда мы знаем, что ИИ может создавать приложения для обнажения людей, мы знаем, что ИИ может создавать CSAM (материалы о сексуальном насилии над детьми)», — сказал он.
«Что нам останется, так это то, что да, конечно, Гроки, Близнецы и ChatGPT всего мира будут модерировать. Это большие компании, они будут модерировать.
«Но в то же время на заднем плане существует множество механизмов искусственного интеллекта, которые не регулируются и которые никто не делает. Так что функциональность действительно является ключевым моментом в конце дня».
Г-н Моран назвал изменения X «победой регулирующих органов».
«Я думаю, что это победа Коймисиун-на-Меан. Я думаю, что это победа единого фронта, который Коймисиун-на-Меан и все регулирующие органы по всей Европе продемонстрировали в первые дни этого», – сказал он.
Распространение изображений раздетых людей в Ирландии является незаконным, а создание такого контента – нет.
Г-н Моран сказал, что приложения, создающие такие изображения, должны быть запрещены или объявлены незаконными.
«И пока мы этим занимаемся, в первую очередь сделайте незаконным производство CSAM для ИИ», — добавил он.
«Мы видели, насколько успешной была модерация за последние 30 лет. Это не так. Давайте посмотрим, что она действительно исключена как реальная возможность. Это был бы мой вопрос».
Британский медиарегулятор Ofcom заявил, что начинает расследование того, не соблюдал ли X британский закон в отношении сексуальных изображений.
Комиссар Франции по делам детей Сара Эль-Хайри заявила, что передала изображения, созданные Гроком, французской прокуратуре, регулятору СМИ Arcom и Европейскому Союзу.
Индонезия стала первой страной, полностью заблокировавшей доступ к Гроку, за ней последовала соседняя Малайзия.
Индия заявила, что X удалила тысячи публикаций и сотни учетных записей пользователей в ответ на ее жалобы.
2026-01-15 09:33:00
1768476878
#пытается #ограничить #изображения #раздевания #созданные #Гроком
Продолжение темы
