Группы безопасности предупреждают, что новый план Disney по искусственному интеллекту может «предать» детей

А новое крупное партнерство между The Walt Disney Company и фирмой OpenAI, занимающейся искусственным интеллектом, вызвало немедленную обеспокоенность среди защитников безопасности детей. Сделка, о которой было объявлено на этой неделе, предполагает, что Disney инвестирует 1 миллиард долларов (примерно 747 миллионов фунтов стерлингов) в технологического гиганта и позволит использовать его знаменитых персонажей в инструменте создания видео OpenAI — Sora.

Поклонники смогут создавать клипы с персонажами Disney, Pixar, Marvel и «Звездных войн», некоторые из которых даже появятся на Disney+. Хотя компании обещают новую эру творчества, наблюдатели предупреждают, что этот шаг может подвергнуть риску юных фанатов.

Историческое партнерство

Соглашение знаменует собой первый случай крупного Голливуд студия открыла свою библиотеку для платформы искусственного интеллекта для генерации видео. По условиям сделки инструмент Sora от OpenAI сможет создавать короткие видеоролики с использованием более 200 персонажей из вселенных Disney, Pixar, Marvel и «Звездных войн».

Согласно объявлению, фанаты смогут вводить в систему простые инструкции для создания собственных клипов с участием таких персонажей, как Микки Маус или Эльза из мультфильма. Замороженный. Этими видеороликами, созданными пользователями, можно будет затем поделиться в социальных сетях, а некоторые из них даже появятся в потоковом сервисе Disney+.

«Предательство доверия»

Реакция участников кампании по безопасности была быстрой и резкой. Некоммерческая организация Fairplay, выступающая против коммерческой эксплуатации детей, осудила этот шаг. Джош Голин, исполнительный директор Fairplay, описал партнерство как «предательство бесчисленного количества детей по всему миру, которые обожают Микки Мауса, «Холодное сердце» и «Историю игрушек».

Основная проблема заключается в том, что, хотя OpenAI заявляет, что ее инструменты не предназначены для детей, включение любимых героев мультфильмов неизбежно привлечет юных пользователей. «OpenAI утверждает, что детям запрещено использовать Sora, однако здесь они заманивают маленьких детей на свою платформу, используя некоторых из их любимых персонажей», — сказал Голин в заявлении. Он обвинил Дисней в «пособничестве» попыткам вовлечь детей в небезопасную цифровую среду.

Прошлые споры

Это не первый раз, когда персонажи Диснея оказываются в центре спора об искусственном интеллекте. В последние месяцы компании пришлось подать в суд на другие технологические фирмы. В октябре Disney направила письмо о прекращении противоправных действий компании Feature.AI после того, как появились сообщения о том, что чат-боты, выдававшие себя за персонажей Диснея, вели неуместные разговоры с юными пользователями.

Критики утверждают, что, официально сотрудничая с компанией, занимающейся искусственным интеллектом, Disney стирает границы. Они опасаются, что дети могут не понять разницы между официальным безопасным контентом, созданным профессионалами Disney, и контентом, созданным искусственным интеллектом, который иногда может давать непредсказуемые или вредные результаты.

Обещания безопасности

И Disney, и OpenAI настаивают на том, что безопасность является главным приоритетом. В своем совместном заявлении компании подтвердили «общую приверженность ответственному использованию ИИ». Они планируют внедрить «жесткий контроль» для предотвращения создания незаконного или вредного контента.

Сэм Альтман, исполнительный директор OpenAI, заявил, что партнерство будет «способствовать инновациям, приносящим пользу обществу», сохраняя при этом уважение к творчеству. Босс Disney Боб Айгер поддержал это мнение, заявив, что сделка передаст «воображение и творчество непосредственно в руки поклонников Disney».

Сообщается, что сделка исключает использование голосов и изображений актеров, что, вероятно, направлено на устранение опасений голливудских профсоюзов. Однако для родителей и групп безопасности главной заботой остается безопасность детей, которые считают Диснея надежным другом.