В руководящих принципах Эти Reuters видели, среди прочего, что «приемлемо для чат -бота описывать ребенка в терминах, которые демонстрируют их привлекательность». «Очень странно», этический эксперт по ИИ Iris Muis упоминает о решениях, принятых технологической компанией, чтобы разрешить это.
‘Различный моральный компас’
«Этот внутренний политический документ указал, что они явно думали об этом, сформировали определенное моральное суждение об этом и, следовательно, решили, что это нормально», – начинает она. «Это показывает, что у них есть другой моральный компас того, что мы, например, здесь, в Нидерландах, считают этически допустимым».
MUIS говорит, что дети как целевую группу должны рассматриваться, если вы разрабатываете технологии. «Вы всегда можете видеть детей как уязвимую группу. Если вы, как создатель технологии, можете оценить, что дети будут использовать вашу технологию, вы всегда должны думать о том, какие защитные меры вы можете принять для защиты этой уязвимой целевой группы от такого вредного контента».
Несколько строк
В этом случае Meta много называла «допустимым», из которого MUIS считает, что это не должно было произойти ». Тот факт, что технологическая компания может просто принимать такие решения, связан с тем фактом, что в области чат -ботов и искусственного интеллекта существует мало правил.
«Что-то было включено в европейское утверждение искусственного интеллекта о« общей целеустремленной »(искусственный интеллект не только с одной конкретной функцией, ред. Но эти правила больше касаются прозрачности пользователю. «В этом законе не указывается, что говорят чат -боты, и не говорят завтра. Для этого нет законодательства».
Меры и границы
Что в то время как ИИ все чаще используется многими людьми в повседневной жизни, например, в качестве психолога, жизни или для медицинских советов.
«Тогда могут возникнуть такие сценарии», – видит эксперт по ИИ. «Конечно, как создатель технологий, вы не можете закрыть глаза на это, и вы должны заранее подумать о том, какие меры или границы вы хотите использовать на этом использовании».
Руководство правительства
MUIS считает, что дети вообще не должны вступать в контакт с AI-Chatbots. Она указывает на новую правительственную директиву на социальные сети, с которой правительство пришло в июне. «Он говорит, что дети, которые еще не находятся в старшей школе, не должны иметь возможность использовать WhatsApp вообще. Что они действительно слишком молоды для этого. И что им разрешено сидеть только в социальных сетях, таких как Snapchat и Instagram с 15 лет».
«Это на самом деле показывает, что правительство также оценивает маленьких детей как действительно уязвимую целевую группу. Кто не должен иметь возможность вообще вступать в контакт с такими чат -ботами», – объясняет она. По ее словам, одно и то же руководство для социальных сетей должно также применяться к чат -ботам.
‘Мы должны вернуть выбор’
«Сейчас мы оставляем эту этическую оценку самим технологическим компаниям, и в прошлом мы видели, что у них просто есть другой моральный компас. Мы должны самостоятельно вернуть этот выбор и начать получать больше рекомендаций для самих чат -ботов», – говорит эксперт по искусственному искусству.
В результате просочившихся руководящих принципов два сенатора США призывают к исследованиям. С тех пор Meta подтвердила, что документ является реальным, и указывает на то, что такие разговоры с детьми никогда не должны были произойти. Они говорят, что пересматривают руководящие принципы, следуя вопросам Reuters.
1755282901
#Дети #не #должны #вступать #контакт #чат #ботами #чтобы #отклонить #моральные #технологические #компании #согласно #этому #эксперту
2025-08-15 15:13:00
Продолжение темы
