Почему ИИ никогда не должен получать Нобелевскую премию | Технология

С момента выпуска ChatGPT и генеративный искусственный интеллект (ИИ) В конце 2022 года мы живем в лихорадке атрибуции. В СМИ часто говорят о «ИИ открыл», «ИИ создал», «ИИ решил». Но те фразы содержат опасную иллюзию: видеть не только разум, но даже сознание там, где его нет. В результате этой лихорадки каждый октябрь, когда объявляются лауреаты Нобелевской премии, никогда не бывает недостатка в голосах, спрашивающих, когда будет вручен искусственный интеллект?

Идея может показаться провокационной и даже вдохновляющей, но в глубине души она содержит глубокую философскую и моральную ошибку: ИИ — это не человек и не моральный агент. и поэтому не может нести ответственность за свои действия. В науке авторство и признание предоставляются не только за получение результатов, но и за ответственность за них. Подписать статью или получить награду – значит нести ответственность за использованные методы, принятые решения и вытекающие из них последствия. Ученый может объяснить, почему он сделал то, что сделал, исправить свои ошибки, защитить свою интерпретацию или исправить ее в соответствии с научным методом. Искусственный интеллект же не понимает, что он делает. У него нет намерения или сознания. Он не может лгать или говорить правду, а лишь генерирует данные или тексты, которые мы интерпретируем как значимые.

Показателен пример AlphaFold — системы искусственного интеллекта, разработанной DeepMind. Его способность предсказывать трехмерную структуру белков произвела революцию в молекулярной биологии и открыла двери важнейшим достижениям в медицине. Но когда в 2024 году Нобелевский комитет по химии признал этот превосходный результат, награда не досталась AlphaFoldНесмотря на то, что это мощный и важный инструмент, он предназначен только для ученых, которые разработали основы вычислительного дизайна белков и его ключевой вклад в предсказание сворачивания белков.

Члены комитета действовали не только исходя из здравого смысла, но и из морального смысла. Они умели различать инструментальную власть и интеллектуальную ответственность. Машина не может получить Нобелевскую премию по той же причине, по которой ее нельзя судить или оправдать: потому что она не является моральным агентом.

Как сказал Кант и напомнила нам Ханна Арендт, моральный агент определяется не тем, что он делает, а совестью, с которой он действует. И это сознание – эта способность обдумывать, принимать последствия, различать добро и зло – это то, чего у ИИ нет и никогда не будет. Когда ученый совершает мошенничество или манипулирует данными, он несет ответственность перед своими коллегами и обществом. Когда ИИ изобретает данные, он делает это без намерения и раскаяния. Он не лжет: он просто не знает, что говорит. Ваша «ошибка» не моральная, а статистическая.

запутать Операция ИИ с истинным умом — это признак нашего времени: смесь ослепления и усталости. Возможно, нас соблазняет идея, что машины думают, потому что мы устали думать сами, потому что мышление требует больших усилий. Мы делегируем алгоритмам моральные решения, медицинские диагнозы, прием на работу и даже судебные решения не потому, что они мудрее, а потому, что они освобождают нас от груза ответственности.

Награждение ИИ довело бы эту делегацию до крайности, вплоть до отречения от престола. человеческое авторство. Это означало бы превращение интеллекта в автоматическую функцию, отстраненную от суждений, опыта и риска. Наука, в лучшем случае, является противоположностью: упражнение в сомнении, акт интеллектуальной смелости и ответственности. Нобелевские премииза пределами своих ограничений, воплощают именно эти ценности. Они празднуют не только открытия, но и самоотверженный поиск знаний и моральная приверженность истине. Они вознаграждают не тех, кто обрабатывает миллиарды данных на высокой скорости, а тех, кто глубоко их понимает. Заслуга не в оперативности, а в понимании, а понимание предполагает ответственность.

Присуждение Нобелевской премии ИИ привело бы к путанице инструмента с автором, результата с намерением, вычислительной мощности с мыслью. Это был бы не триумф науки, а поражение разума.

Рамон Лопес де Мантарас Он является профессором-исследователем в Научно-исследовательском институте искусственного интеллекта (CSIC).