OpenAI привлекла платье недолгого изменения в конфигурации приложения CHATGPT, которое позволило пользователям сделать свои разговоры доступными для поисковых систем после того, как стало очевидно, что некоторые частные или коммерчески конфиденциальные материалы непреднамеренно становятся доступными в Интернете.
Барри Сканнелл, партнер по закону и политике ИИ в Уильяме Фрай и член правительства, назначенного консультативным советом ИИ, сказал, что его «челюсть ударила по полу», когда он увидел некоторые материалы, доступные для обычных поисков в Google в четверг.
Откроется главного сотрудника по информационной безопасности AI, позже сказал, что функция, которая позволила пользователям сделать свои разговоры доступными для индексации поисковыми системами, будет отключена к пятнице, а Дейн Стуки описывает первоначальный ход как «недолговечный эксперимент».
Он сказал, что компания работает над тем, чтобы вся информация, которая была проиндексирована, была полностью удалена.
Г -н Сканнелл сказал, что изначально было широко распространено путаница в отношении того, как информация становилась всеобъемлющей, и были ли повлияли все подсказки для CHATGPT. Похоже, что пользователи нажимали на фиксаторную коробку, которая позволила сделать общие чаты обнаруженными поисковыми системами, не осознавая последствий.
Он сказал, что из большей части информации, которая стала доступной из подсказок пользователя, это было сделано непреднамеренно.
«Основываясь на том, что я видел, некоторые вещи были настолько чувствительными и коммерчески чувствительными, что люди явно не осознавали, что случайный человек может прийти и выполнить простой поиск в Google и иметь возможность найти чаты».
Он сказал, что проблема, по -видимому, не была технической проблемой, а скорее подчеркнул необходимость большей грамотности искусственного интеллекта со стороны пользователей, чтобы лучше понять технологию, которую они используют.
«Люди, кажется, щелкнули коробку, чтобы сделать свои чаты обнаружить в поисковой системе, или сделать их индексацией, очевидно, не понимая, что это значит. Это просто люди делают это, не осознавая этого.
«Я думаю, что это показывает, насколько важно иметь критическое мышление и грамотность ИИ как действительно ключевой компонент любой национальной стратегии, связанной с этим».
Он сказал, что инцидент также должен служить предупреждением для тех рабочих бизнеса о потенциальных рисках, связанных с использованием ИИ, поскольку существует потенциал для выявления коммерчески чувствительных материалов.
Он предложил, что расширение юридической защиты конфиденциальности также может потребоваться.
В Интернете было также значительное обсуждение потенциала для получения глубоко личной информации, включая содержание чатов, в которых люди использовали CHATGPT для целей терапии.
2025-08-01 19:59:00
1754078981
#OpenAI #отключает #эксперимент #CHATGPT #который #позволил #пользователям #делать #обмены #доступными #поисковых #системах #Irish #Times
Ещё по этой теме
