OpenAI объявляет о предстоящем развертывании функций родительского контроля в CHATGPT, запланированном на следующий месяц. Эта инициатива возникает в конфиденциальном контексте, отмеченной первой жалобой на компанию AI после самоубийства.
Родительский контроль позволит родителям подключить свою учетную запись CHATGPT с учетом их подростков. Они смогут настроить ответы ИИ и деактивировать определенные функции, такие как разговорная память или история обсуждения.
Система также будет генерировать автоматические оповещения, когда ИИ обнаружит, что подросток переживает «момент острого расстройства», при этом эксперты разработали советы по поддержке отношений доверия между родителями и детьми.
После самоубийства
Эта мера следует за случаем с участием семьи Рейн. Мэтт и Мария Рейн обвиняют Чатгпт в том, что они способствовали самоубийству их сына Адама. По их словам, ИИ предоставил бы подростку информацию о методах самоубийства и советах, чтобы скрыть свои травмы, несмотря на его предыдущие неудачные попытки. Это событие подчеркивает вопрос ответственности технологических компаний за уязвимых пользователей.
OpenAI зарегистрировал эти элементы управления в более широком плане, направленном на укрепление безопасности на CHATGPT. Компания планирует сотрудничать с подростковыми специалистами в области здравоохранения, расстройствами пищевого поведения и наркоманиями. Будет развернут новый маршрутизатор реального времени: конфиденциальные разговоры будут автоматически направлены на модели рассуждений, приводящие в действие в соответствии с методом «совещательного выравнивания», который позволяет применять руководящие принципы безопасности более строго и противостоять напряжениям риска.
На практике любой разговор, обнаруженный как потенциально опасный, будет перенаправлен на безопасную модель, независимо от первоначальной модели, выбранной пользователем. OpenAI также объявляет, что другие функции безопасности будут реализованы в течение следующих 120 дней с целью начать максимум улучшений в этом году, одновременно продолжая долгосрочные усилия.
По теме
