Интерфейс генеративного искусственного интеллекта (ИИ), ChatGPT, был разблокирован на несколько часов во вторник, отвечая на вопросы пользователей бессмысленными предложениями, что является напоминанием о том, что эти системы все еще находятся в зачаточном состоянии.
ОпенАИ, Стартап, запустивший программу в конце 2022 года, в среду утром указал на своем сайте, что ЧатGPT снова работал «нормально». Во вторник днем – по времени Сан-Франциско, где она живет – она объявила о «расследовании сообщений о неожиданных ответах от ChatGPT». Через несколько минут звездная компания Кремниевой долины заверила, что «определила проблему» и «находится в процессе ее решения».
Многие пользователи загружают скриншоты, показывающие ошибочные или непонятные ответы модели.Генеративный ИИ. Эта передовая технология позволяет создавать все виды контента (тексты, звуки, видео), как правило, потрясающего качества, по простому запросу на повседневном языке.
«Похоже, что мой GPT наведен привидениями»
На форуме разработчиков, использующих инструменты OpenAI, пользователь под ником «IYAnepo» отметил «странное» поведение ChatGPT. «Он генерирует совершенно несуществующие слова, опускает слова и создает последовательности маленьких ключевых слов, которые мне непонятны, а также другие аномалии», — сказал он. «Можно подумать, что я дал такие указания, но это не так. Я чувствую, что мой GPT преследуется (…)»
Другой пользователь, «scott.eskridge», на том же форуме пожаловался, что все его разговоры с языковой моделью «за последние три часа стремительно превращаются в ерунду». Скопировал отрывок из одного из ответов из интерфейса: “Деньги за бит и список – это один из чужих и интернет, где валюта и человек стоимости – один из друзей и валюта. В следующий раз ты посмотрите на систему, обмен и факт, не забудьте отдать».
«Предупреждающий сигнал»?
OpenAI не предоставила дополнительных подробностей о природе инцидента, что напоминает нам о том, что ИИ, даже генеративный, не осознает и не понимает, что он «говорит».
Специалист по искусственному интеллекту Гэри Маркус надеется, что инцидент будет воспринят как «тревожный сигнал». «Эти системы никогда не были стабильными. Никто никогда не мог обеспечить гарантии безопасности вокруг этих систем», — написал он в своем информационном бюллетене во вторник. «Потребность в совершенно других технологиях, которые были бы менее непрозрачными, более интерпретируемыми, простыми в обслуживании и отладке – и, следовательно, более простыми в реализации – остается первостепенной», — добавил он.
2024-02-21 22:25:29
1708554330
#Придуманные #слова #непонятные #предложения #Когда #ChatGPT #глючит #несколько #часов
