Должен ли ИИ получить законные права?

В одна бумага Опубликовано Eleos AI, некоммерческая организация утверждает о оценке сознания ИИ с использованием подхода «вычислительного функционализма». Подобная идея когда -то отстаивала не кто иной, как Патнэм, хотя он критиковал это позже в его карьере. А Теория предполагает что человеческие умы можно рассматривать как конкретные виды вычислительных систем. Оттуда вы можете выяснить, имеют ли другие вычислительные системы, такие как шабо, имеют индикаторы чувства, сходные с показателями человека.

Eleos AI сказал в статье, что «основная проблема при применении» этого подхода «заключается в том, что он включает в себя значительные вызовы суждений, как в формулировании показателей, так и в оценке их присутствия или отсутствия в системах ИИ».

Модельное благополучие, конечно, является зарождающимся и все еще развивающимся полем. У него много критиков, в том числе Мустафа Сулиман, генерального директора Microsoft AI, который недавно опубликовал блог о «кажущемся сознательном ИИ».

«Это как преждевременное, так и откровенно опасно», – написал Сулиман, ссылаясь на область исследований в области благосостояния моделей. «Все это усугубляет бреда, создает еще больше проблем, связанных с зависимостью, добычей на наших психологических уязвимости, внедрит новые аспекты поляризации, усложняет существующую борьбу за права и создает огромную новую ошибку категории для общества».

Сулиман написал, что «сегодня нет никаких доказательств», что существует сознательный ИИ. Он включил ссылку на бумага Это длинное соавтор в 2023 году, которая предложила новую структуру для оценки того, имеет ли система ИИ «свойства индикатора» сознания. (Сулиман не ответил на запрос о комментарии от Wired.)

Я поболтал с Лонг и Кэмпбеллом вскоре после того, как Сулиман опубликовал свой блог. Они сказали мне, что, хотя они согласились с большей частью того, что он сказал, они не верят, что исследования благосостояния модели должны прекратить существовать. Скорее они утверждают, что навстреченный Сулеймана – это точные причины почему Они хотят изучить тему в первую очередь.

«Когда у вас есть большая, запутанная проблема или вопрос, единственный способ гарантировать, что вы не собираетесь решать, что это поднимает руки и быть похожим на« Ого, это слишком сложно », – говорит Кэмпбелл. «Я думаю, что мы должны хотя бы попробовать».

Тестирование сознания

Исследователи благосостояния модели в первую очередь касаются вопросов сознания. Если мы сможем доказать, что вы и я сознательны, они утверждают, то та же логика может быть применена к крупным языковым моделям. Чтобы быть ясным, ни Лонг, ни Кэмпбелл не думают, что ИИ сегодня сознает, и они также не уверены, что когда -либо это будет. Но они хотят разработать тесты, которые позволили бы нам доказать это.

«Благословения от людей, которые обеспокоены фактическим вопросом:« Это ИИ, сознательно? » И иметь научную рамку для размышлений об этом, я думаю, просто очень хорошо », – говорит Лонг.

Но в мире, где исследование ИИ может быть упаковано в сенсационные заголовки и видео в социальных сетях, оплосские философские вопросы и эксперименты по умолчанию могут быть легко истолкованы. Возьмите то, что произошло, когда Антропик опубликовал Отчет о безопасности Это показало, что Claude Opus 4 может предпринять «вредные действия» в экстремальных обстоятельствах, например, шантаж вымышленного инженера, чтобы предотвратить его отключение.