ИИ никогда не будет сознательным

Блейк Лемуан инцидент сегодня помнят как высшую точку ажиотажа вокруг ИИ. Это натолкнуло всю идею сознательный ИИ в общественное внимание на один или два цикла новостей, но это также положило начало разговору как среди ученых-компьютерщиков, так и среди исследователей сознания, который с тех пор только усилился. В то время как технологическое сообщество продолжает публично принижать всю идею (и бедных Лемуан), в частном порядке начал использовать возможность гораздо серьезнее. У сознательного ИИ может отсутствовать четкое коммерческое обоснование (как его монетизировать?) и создавать неприятные моральные дилеммы (как нам следует относиться к машине, способной страдать?). Тем не менее, некоторые инженеры ИИ пришли к выводу, что для достижения Святого Грааля общего искусственного интеллекта — машины, которая не только сверхумна, но и наделена человеческим уровнем понимания, творчества и здравого смысла — может потребоваться нечто вроде сознания. В технологическом сообществе то, что раньше было неформальным табу вокруг сознательного ИИ – как перспективы, которую общественность находила жуткой – внезапно начало рушиться.

Поворотный момент наступил летом 2023 года, когда группа из 19 ведущих ученых-компьютерщиков и философов опубликовала 88-страничный отчет под названием «Сознание в искусственном интеллекте“, неофициально известный как отчет Батлина. Казалось, что через несколько дней его прочитали все в сообществе, занимающемся искусственным интеллектом и наукой о сознании. В аннотации к проекту отчета содержалась захватывающая фраза: “Наш анализ показывает, что ни одна из нынешних систем ИИ не обладает сознанием, но также предполагает, что не существует очевидных препятствий для создания сознательных систем ИИ”.

Авторы признали, что отчасти вдохновением для создания группы и написания отчета послужил «случай Блейка Лемуана». «Если ИИ может создавать впечатление сознания», — сказал А. соавтор рассказал журналу Science«это делает первоочередной задачей ученых и философов высказать свое мнение».

Но всеобщее внимание привлекло единственное утверждение в аннотации препринта: «нет очевидных препятствий для создания сознательных систем ИИ». Когда я впервые прочитал эти слова, у меня возникло ощущение, что был перейден какой-то важный порог, и не только технологический. Нет, это было связано с нашей идентичностью как вида.

Что бы значило для человечества, если бы однажды в не столь отдаленном будущем обнаружилось, что в мир пришла полностью сознательная машина? Я предполагаю, что это будет момент Коперника, который резко вытеснит наше чувство центральной роли и исключительности. Мы, люди, потратили несколько тысяч лет на то, чтобы противопоставить себя «меньшим» животным. Это повлекло за собой отрицание у животных таких якобы уникальных человеческих качеств, как чувства (одна из самых вопиющих ошибок Декарта), язык, разум и сознание. За последние несколько лет большая часть этих различий исчезла, поскольку ученые продемонстрировали, что многие виды разумны и сознательны, обладают чувствами, используют язык и инструменты, бросая вызов многовековой человеческой исключительности. Этот сдвиг, который все еще продолжается, поднял острые вопросы о нашей идентичности, а также о наших моральных обязательствах перед другими видами.

В случае с ИИ угроза нашему возвышенному самовосприятию исходит совершенно с другой стороны. Теперь нам, людям, придется определять себя по отношению к ИИ, а не к другим животным. Поскольку компьютерные алгоритмы превосходят нас по чистому умственному потенциалу — легко побеждая нас в таких играх, как шахматы и го, а также в различных формах «высшего» мышления, таких как математика, — мы можем, по крайней мере, утешиться тем фактом, что мы (и многие другие виды животных) все еще имеем в своем распоряжении благословения и бремя сознания, способности чувствовать и иметь субъективный опыт. В этом смысле ИИ может служить общим противником, сближая людей и других животных: нас против него, живых против машин. Эта новая солидарность станет трогательной историей и может стать хорошей новостью для животных, приглашенных присоединиться к Team Conscious. Но что произойдет, если ИИ начнет бросать вызов человеческой – или, я бы сказал, животному – монополии на сознание? Кем мы будем тогда?