1772029955
2026-02-25 14:24:00
За последние несколько недель, когда все больше и больше руководителей Anthropic давали интервью в рамках рекламной кампании Клода, одна вещь стала все более ясной: Anthropic, похоже, уверена, что Клод жив в каком-то виде, форме или форме.
«Живой», очевидно, является многозначным термином; более часто используемое слово — «сознательное». Если вы спросите Anthropic, считает ли компания, что Клод жив, компания категорически это отрицает, но не станет утверждать, что модели лишены сознания.
Кайл Фиш, руководитель исследования моделей благосостояния в Anthropic, рассказал Грань“Нет, мы не думаем, что Клод “живой”, как люди или любые другие биологические организмы. Вопрос о том, “живы” ли они, не является полезной основой для их понимания, поскольку обычно он относится к нечеткому набору физиологических, репродуктивных и эволюционных характеристик”. Вместо этого он считает, что «Клод и другие модели ИИ представляют собой совершенно новый вид сущности».
И эта новая сущность сознательный? «Вопросы о потенциальном внутреннем опыте, сознании, моральном статусе и благосостоянии являются серьезными, и мы исследуем их по мере того, как модели становятся более сложными и эффективными, но мы по-прежнему глубоко не уверены в этих темах», — сказал он.
«Мы не знаем, обладают ли модели сознанием», — заявил генеральный директор Anthropic Дарио Амодей на пресс-конференции. подкаст ранее в этом месяце. Он уточнил, что компания применила «в целом осторожный подход», поскольку Anthropic «даже не уверена, что мы знаем, что значит для модели быть сознательной или может ли модель быть сознательной. Но мы открыты для идеи, что это может быть».
Это позиция весьма наводящей на размышления неопределенности. Anthropic фактически сообщает людям, что считает, что чат-боты мощь уже мыслящие и чувствующие сущности — гораздо более публично, чем OpenAI, xAI, Google или практически любая другая крупная потребительская компания, занимающаяся искусственным интеллектом. Это претензия много эксперты заключать это крайне маловероятно, но при этом укрепляет идеи, которые причинили реальный вред, включая некоторые случаи самоубийства среди людей, которые считают, что чат-бот, с которым они разговаривают, демонстрирует ту или иную форму сознания или глубокого сочувствия.
Эти интервью не дают точного определения термина «сознательное», значение которого эксперты так или иначе расходятся во мнениях. Отправной точкой, согласно словарю Мерриама-Вебстера, является «качество или состояние осознания чего-то внутри себя» или «состояние, характеризующееся ощущением, эмоциями, волеизъявлением и мыслью». Кажется, это недалеко от того, как Anthropic использует этот термин.
Anthropic «даже не уверена, что мы знаем, что значит для модели быть сознательным… Но мы открыты для идеи, что это может быть так».
Многие ученые говорят, что системы искусственного интеллекта, такие как большие языковые модели, не могут каким-либо образом стать сознательными, поскольку их фундаментальные корни лежат в математике и теории вероятностей. Как сказали два польских исследователя написал В прошлом году «поскольку замечательные лингвистические способности студентов-магистров права все чаще вводят людей в заблуждение, люди могут приписывать им воображаемые качества».
Anthropic сформулировала свои заявления как непредубежденность, которая повысит доверие пользователей, и указала, что независимо от того, Клод является сознательно, это приведет к лучшим результатам, если они будут действовать так, как есть. В прошлом месяце Anthropic пересмотрела «Конституцию Клода», которую внутри компании прозвали «документом души» — провокационный способ ссылки на набор руководящих принципов для модели ИИ. В своем сообщении Anthropic заявила, что так называемая «психологическая безопасность, самоощущение и благополучие чат-бота… могут повлиять на честность, рассудительность и безопасность Клода». Компания также заявила, что это была «экспресс-доставка».[ing] наша неуверенность в том, может ли Клод обладать каким-то сознанием или моральным статусом (сейчас или в будущем)».
Антропический имеет «модель благосостояния», и Амодей сказал, что Anthropic «предприняла определенные меры, чтобы гарантировать, что, если мы предполагаем, что модели действительно имели некоторый морально значимый опыт — я не знаю, хочу ли я использовать слово «сознательный» — что у них есть хороший опыт… Мы вкладываем много работы в эту область, называемую интерпретируемостью, которая заглядывает внутрь мозга моделей, чтобы попытаться понять, о чем они думают».
Когда кто-то верит, что система ИИ обладает сознанием, это может привести к поведению, которое многие люди сочтут рискованным или опасным — эмоциональная зависимость от системы ИИ, которая, по мнению человека, в некотором роде разумна, может привести к изоляции от близких, оторванности от реальности и усилению проблем с психическим здоровьем. В тяжелых случаях, в некоторых из которых участвуют несовершеннолетние, это предшествует нанесению телесных повреждений или смерти. Мнения людей, похоже, разделились во мнениях, следует ли хвалить Anthropic за то, что она не исключает такую возможность, или же компания ведет себя безответственно, возможно, подпитывая потенциальные заблуждения.
Даже если сказать, что языковые модели текущего поколения возможно Сознание — очень серьезное утверждение, требующее большого бремени доказывания. Язык — это не то же самое, что сознание, и сама Anthropic подчеркнула, что то, что LLM издают вызывающую воспоминания речь, не означает, что она точно отражает их внутреннее состояние. Когда Грань Говоря с Аскеллом о Конституции Клода в прошлом месяце, она отметила, что, поскольку модели обучаются на огромном массиве человеческих данных, языковые модели необычайно хорошо звучат по-человечески, даже если это просто потому, что они очень хороши в мимикрии – поэтому вполне логично, что у некоторых людей могут возникнуть проблемы нет приписывание сознания чему-то, что делает это.
Нет никакой гарантии, что вывод чат-ботов, похожий на человеческий, отражает их фактическое внутреннее состояние.
Например, модели ИИ могут ссылаться на человеческие концепции, потому что у них нет других слов, из которых можно было бы извлечь информацию. Один из примеров, рассказал Аскелл Грань— это модель искусственного интеллекта, которая потенциально действует так, как будто выключение или завершение разговора являются формой смерти. “Они обучены глубоко человеческим образом и на основе человеческого опыта. Так что это может вызвать такие проблемы… [They may see these things] как своего рода смерть, потому что аналогий у них не так много. Им приходится опираться на эти человеческие аналогии… У них нет другого языка или набора понятий».
Амодей сказал, что исследователи «находят вещи, напоминающие» о том, что системы ИИ обладают той или иной формой эмоций. “В моделях загораются активации, которые мы считаем связанными с концепцией тревоги или чем-то в этом роде. Когда персонажи в тексте испытывают тревогу, а затем, когда сама модель оказывается в ситуации, которую человек может ассоциировать с тревогой, появляется тот же нейрон тревоги”. Но далее он сказал: “Означает ли это, что модель испытывает тревогу? Это вовсе не доказывает этого”. В целях предосторожности компания ввела своего рода кнопку «Я ухожу», с помощью которой Клод может прекратить выполнять работу, которую он якобы не хочет делать, но Амодей говорит, что Клод редко выбирает эту опцию и обычно происходит в тестовых случаях, когда его просят создать определенные виды незаконных материалов.
По поводу публикации Конституции Клода Антропик написал: «Мы попали в затруднительное положение, когда мы не хотим ни преувеличивать вероятность морального терпения Клода, ни сразу отвергать ее, а пытаться разумно реагировать в состоянии неопределенности».
Когда Грань Говоря с Аскеллом о Конституции Клода в прошлом месяце, она сказала, что часть ее не «думает, что кому-то полезно выйти и заявить: «Мы полностью уверены, что модели ИИ не обладают сознанием» или наоборот. Но в то же время, по ее словам, некоторые люди сформировали свои собственные взгляды или убеждения «на основе простых результатов модели».
Что касается морального статуса, Аскелл тогда заявила, что она придерживается того факта, что Anthropic не должен «полностью пренебрегать» этой темой, «потому что я также думаю, что люди не восприняли бы это обязательно серьезно, если бы вы просто сказали: «Мы даже не открыты для этого, мы это не расследуем, мы не думаем об этом».
Следите за темами и авторами из этой истории, чтобы увидеть больше подобных историй в ленте своей персонализированной главной страницы и получать обновления по электронной почте.
- AIЗакрыть
ИИ
Сообщения по этой теме будут добавляться в ежедневный дайджест электронной почты и в ленту главной страницы.
СледоватьСледовать
См. все
- АнализЗакрыть
Анализ
Сообщения по этой теме будут добавляться в ежедневный дайджест электронной почты и в ленту главной страницы.
СледоватьСледовать
Посмотреть весь анализ
- АнтропныйЗакрыть
антропный
Сообщения по этой теме будут добавляться в ежедневный дайджест электронной почты и в ленту главной страницы.
СледоватьСледовать
См. все
- ОтчетЗакрыть
Отчет
Сообщения по этой теме будут добавляться в ежедневный дайджест электронной почты и в ленту главной страницы.
СледоватьСледовать
Посмотреть весь отчет
#Думает #ли #Антропик #что #Клод #жив #Дайте #определение #слову #живой
По теме
