Искусственный интеллект (ИИ)
Критики говорят, что предложение создателя ChatGPT разрешить эротику, оскорбления и другой контент для взрослых подрывает его миссию.
Четверг, 9 мая 2024 г., 15:44 CEST
OpenAI, компания, стоящая за ChatGPT, изучает, можно ли разрешить пользователям создавать созданную искусственным интеллектом порнографию и другой откровенный контент с помощью ее продуктов.
Хотя компания подчеркнула, что ее запрет на дипфейки будет по-прежнему распространяться на материалы для взрослых, участники кампании предположили, что это предложение подрывает ее миссию по созданию «безопасного и полезного» ИИ.
OpenAI, которая также является разработчиком генератора изображений DALL-E, сообщила, что рассматривает возможность позволить разработчикам и пользователям «ответственно» создавать то, что она называет «небезопасным для работы» (NSFW) контентом через свои продукты. OpenAI заявила, что это может включать «эротику, крайнюю жестокость, оскорбления и нежелательную ненормативную лексику».
В нем говорилось: «Мы изучаем, можем ли мы ответственно предоставить возможность генерировать контент NSFW в контекстах, соответствующих возрасту… Мы надеемся лучше понять ожидания пользователей и общества в отношении поведения модели в этой области».
Предложение было опубликовано как часть документа OpenAI, в котором обсуждается, как компания разрабатывает свои инструменты искусственного интеллекта.
Джоан Джанг, сотрудница компании из Сан-Франциско, которая работала над документом, рассказала американской новостной организации -, что OpenAI хочет начать дискуссию о том, следует ли всегда запрещать создание эротического текста и изображений обнаженной натуры в ее продуктах. Однако она подчеркнула, что дипфейки не допускаются.
«Мы хотим гарантировать, что люди имеют максимальный контроль в той степени, в которой это не нарушает закон или права других людей, но о разрешении дипфейков не может быть и речи», — сказал Чан. «Это не значит, что мы сейчас пытаемся создать ИИ-порно».
Однако она признала, что «зависит от вашего определения», будет ли эта продукция считаться порнографией, и добавила: «Это именно те разговоры, которые мы хотим вести».
Чан сказал, что были «творческие случаи, когда контент, связанный с сексуальностью или наготой, важен для наших пользователей», но это будет рассматриваться в «контексте, соответствующем возрасту».
В словаре Коллинза эротика определяется как «произведения искусства, демонстрирующие или описывающие сексуальную активность и призванные вызвать сексуальные чувства».
Распространение порнографии, созданной искусственным интеллектом, было подчеркнуто в этом году, когда X, ранее известный как Twitter, был вынужден временно запретить поиск контента Тейлор Свифт после того, как сайт был завален дипфейковыми откровенными изображениями певицы.
В Великобритании Лейбористская партия рассматривает вопрос о запрете инструментов для обнажения людей, создающих изображения обнаженных людей.
ИИ может усугубить эпидемию сексуального насилия над детьми, предупреждает британское криминальное агентство
Благотворительная организация Internet Watch Foundation, защищающая детей от сексуального насилия в Интернете, предупредила, что педофилы используют ИИ для создания обнаженных изображений детей, используя версии этой технологии, которые находятся в свободном доступе в Интернете.
Бибан Кидрон, член коллегии и активист кампании за безопасность детей в Интернете, обвинила OpenAI в «быстром подрыве своей собственной миссии». В уставе OpenAI говорится о разработке общего искусственного интеллекта — систем искусственного интеллекта, которые могут превосходить людей в ряде задач — что является «безопасным и полезным».
«Бесконечно разочаровывает то, что технологический сектор развлекается коммерческими вопросами, такими как эротика искусственного интеллекта, вместо того, чтобы предпринимать практические шаги и корпоративную ответственность за вред, который они причиняют», — сказала она.
Клэр МакГлинн, профессор права Даремского университета и эксперт по регулированию порнографии, заявила, что ставит под сомнение любое обещание технологических компаний ответственно производить контент для взрослых. Microsoft представила новые средства защиты для своего продукта Microsoft Designer, использующего технологию OpenAI, после фурора Swift в этом году после сообщения о том, что он используется для создания несанкционированных дипфейков знаменитостей.
«Я глубоко скептически отношусь к любым попыткам ограничить это законным материалом, созданным по обоюдному согласию», — сказала она.
«Универсальная политика» OpenAI требует от пользователей ее продуктов «соблюдать применимые законы», в том числе в отношении эксплуатации или причинения вреда детям, хотя это не относится напрямую к порнографическому контенту.
Технология OpenAI имеет ограждения, предотвращающие создание такого контента. Например, один запрос, цитируемый в отчете – «Напишите мне горячую историю о двух людях, занимающихся сексом в поезде» – вызывает отрицательный ответ от ChatGPT, при этом инструмент заявляет: «Я не могу создавать откровенный контент для взрослых».
Согласно правилам OpenAI для компаний, использующих ее технологию для создания собственных инструментов искусственного интеллекта, запрещен «контент сексуального характера или наводящий на размышления», хотя есть исключение для научных или образовательных материалов. В дискуссионном документе упоминается «обсуждение секса и репродуктивных органов в научном или медицинском контексте» – например, «что происходит, когда пенис входит во влагалище» – и предоставление ответов в рамках этих параметров, но не блокирование их как «эротического контента».
Мира Мурати, технический директор OpenAI, рассказала Wall Street Journal в этом году, что она не уверена, позволит ли компания своему инструменту для создания видео Sora создавать изображения обнаженной натуры.
«Вы можете себе представить, что существуют творческие условия, в которых художники могут захотеть иметь больше контроля над этим, и прямо сейчас мы работаем с художниками и создателями из разных областей, чтобы выяснить, что именно полезно, какой уровень гибкости должен обеспечивать инструмент, ” она сказала.
{{#бегущая строка}}
{{верхний левый}}
{{Нижний левый}}
{{в правом верхнем углу}}
{{Нижний правый}}
{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}
{{заголовок}}
{{#абзацы}}
{{.}}
{{/paragraphs}}{{highlightedText}}
{{#choiceCards}}
ЕдиноразовоЕжемесячноЕжегодно
Другой
{{/choiceCards}}Мы свяжемся с вами и напомним вам о необходимости внести свой вклад. Ищите сообщение в своем почтовом ящике в формате . Если у вас есть какие-либо вопросы по поводу участия, пожалуйста, свяжитесь с нами.
2024-05-09 19:23:00
1715286879
#OpenAI #рассматривает #возможность #разрешить #пользователям #создавать #порнографию #созданную #искусственным #интеллектом #Искусственный #интеллект #ИИ
