Законодатели по обе стороны прохода захватывают Новые откровения О «чувственных» разговорах о чат -ботах, которые Мета считается приемлемым для детей, перетаскивая технического гиганта и его клетчатого прошлого на безопасность детей обратно в центр внимания.
Meta, материнская компания Facebook и Instagram, имеет Длинное изучение На воздействие своих социальных сетей на детей. Поскольку компания расширилась до искусственного интеллекта (ИИ) наряду с остальной частью технологической индустрии, она сталкивается как с знакомыми, так и новыми, отличными проблемами.
Во внутреннем политическом документе, полученном Reuters, Meta показали примеры приемлемых разговоров между его чатботом ИИ и детьми, предполагая, что они могут участвовать в «разговорах, которые являются романтическими или чувственными», и описывают их «в терминах, которые свидетельствуют о их привлекательности» – примеры, которые, по словам Мета, по словам, были ошибочными и с тех пор были удалены.
Сенатор Джош Хоули (R-Mo.) В четверг запустил технический гигант, предположив, что откровения были «основанием для немедленного расследования Конгресса».
В пятницу он последовал за письмом к генеральному директору Meta Марке Цукербергу, в котором говорилось, что Судебный подкомитет Сената по преступности и борьбе с терроризмом открывал расследование генеративных продуктов ИИ компании.
«Недопустимо, что эти политики были продвинуты в первую очередь», – написал Хоули. «Мета должна немедленно сохранить все соответствующие записи и создавать отзывчивые документы, чтобы Конгресс мог расследовать эту тревожную практику».
Сенатор Марша Блэкберн (R-Tenn.), Давно отстаивающий Закон о безопасности детей в Интернете (KOSA), указал на откровения в качестве подчеркивания необходимости такого законодательства. Представитель сказал, что сенатор поддерживает расследование компании.
«Когда дело доходит до защиты драгоценных детей в Интернете, Meta с треском провалила все возможные меры», – сказала она в заявлении. «Еще хуже, компания закрыла глаза на разрушительные последствия того, как разработаны ее платформы. В этом отчете подтверждается, почему нам нужно принимать Закон о безопасности детей в Интернете».
Демократы также присоединились к негативной реакции, когда сенатор Брайан Шац (D-Hawaii) расспрашивал, как было одобрено руководство чат-бота.
«Мета-чат-боты, которые в основном поражают детей-f-это,-написал он на X.« Это отвратительно и зло. Я не могу понять, как кто-то с ребенком сделал что-то, кроме уродства, когда кто-то сказал эту идею вслух. Моя голова взрывается, зная, что несколько человек одобрили это ».
Сенатор Рон Уайден (D-ORE.) Предложил, что инцидент показывает, что Meta является компанией «морально и этически от рельсов».
«Кажется ясно, что Марк Цукерберг бросил небезопасного чат -бота на массовый рынок, чтобы не отставать от конкуренции, последствия для его пользователей будут прокляты», – сказал он.
«Я давно сказал, что раздел 230 не защищает генеративные боты ИИ, подобные этому, которые полностью созданы компанией, а не пользователями», – продолжил сенатор. «Мета и Цукерберг должны нести полную ответственность за любой вред, причиненный этим ботам».
Опасения Вайдена подчеркивают ключевое различие между проблемами, с которыми Мета ранее сталкивалась как компания социальных сетей, и проблемами, которые преследуют недавние разработки искусственного интеллекта.
Предыдущие скандалы включали контент в Facebook и Instagram, который был генерируется пользователямичетко предоставляя мета-покрытие в соответствии с разделом 230-часть Закона о порядочности связи, в которой компании вытаскивают компании от ответственности за сгенерированный пользователем контент.
В последние годы социальные сети все чаще проверяли пределы этого закона, так как некоторые утверждают, что крупные технологические компании должны нести ответственность за вредный контент на своих платформах.
Мета почувствовала серьезность этой негативной реакции в 2021 году, когда информатор Facebook Фрэнсис Хауген просочился в транше внутренних документов. Позже она дала показания перед Конгрессом, утверждая, что фирма знала, что ее продукция наносит вред детям и подросткам, но все еще стремилась извлечь выгоду из их участия.
В 2024 году Цукерберг был вывезен перед законодателями, чтобы обсудить политику безопасности детей в Meta, наряду с руководителями Tiktok, Discord, Snapchat и X. После спорного обмена с Хоули Цукерберг повернулся в слушательной комнате, чтобы извиниться перед десятками родителей и активистов.
«Прошу прощения за все, через что вы все прошли», – сказал он в то время. «Никто не должен пройти через то, что пострадали ваши семьи».
Тем не менее, появление инструментов искусственного интеллекта, таких как чат -боты, создало новые проблемы для технологических компаний, поскольку они принимают решения о том, как обучать модели ИИ и какие ограничения для ответов чат -бот. Некоторые, как и Уайден, утверждали, что эти инструменты выходят за рамки защиты раздела 230.
Адвокаты родителей сказали, что недавно сообщенные документы «подтверждают наши худшие опасения по поводу чат -ботов ИИ и безопасности детей».
«Когда собственная политика компании явно позволяет ботам привлекать детей в« романтические или чувственные »разговоры, это не контроль, это система, предназначенная для нормализации ненадлежащего взаимодействия с несовершеннолетними», – заявила в заявлении Шелби Нокс, директор кампании по технической ответственности и безопасности онлайн в ParentStogether.
«Ни одному ребенку не следует говорить, что« возраст – это всего лишь число »или поощряется лгать своим родителям о отношениях для взрослых», – продолжила она. «Мета создала цифровой груминг, и родители заслуживают ответов о том, как это было позволено».
Представитель Meta Энди Стоун заявил в заявлении в четверг, что компания имеет «четкую политику», которая «запрещает содержание, которое сексуализирует детей и сексуализированную ролевую игру между взрослыми и несовершеннолетними».
Дополнительные примеры, примечания и аннотации в ее политике «отражают команды, борющиеся с различными гипотетическими сценариями», добавил он, подчеркивая, что рассматриваемые вопросы были удалены.
Последний Firestorm угрожает сорвать очевидные усилия Цукерберга по изменению публичного имиджа его и Meta на тот, который более вкусно для консерваторов.
Он подтвердил Консервативные проблемы цензуры В прошлом году написал в судебное комитет Палаты представителей о том, что его компания оказывалась давлением официальными лицами Байдена в 2021 году, чтобы цензор, связанный с COVID-19-разочарование, которое он позже подтвердил во время появления на подкасте Джо Рогана.
Цукерберг также пересмотрел политику модерации содержания Meta в январе, объявив о планах по устранению сторонних проверок фактов в пользу программы на уровне сообщества в том, что он назвал попыткой принять свободу слова. Этот шаг получил похвалу от президента Трампа.
Как и другие технические лидеры, мета-начальник также ухаживал за благосклонностью Трампа, когда он вернулся на должность, встретившись с избранным президентом в Мар-А-Лаго и забив место в первом ряду до инаугурации.
2025-08-19 10:00:00
1755605473
#Meta #Faces #обратная #реакция #на #чувственные #разговоры #чат #ботом #детьми
По теме
