Папа Франциск призывает к заключению договора о правилах искусственного интеллекта

РИМ –

Папа Франциск в четверг призвал к заключению международного договора, обеспечивающего разработку и этическое использование искусственного интеллекта, утверждая, что риски, связанные с технологиями, лишенными человеческих ценностей сострадания, милосердия, морали и прощения, слишком велики.

Франциск присоединился к растущим призывам к обязательному глобальному регулированию ИИ в своем ежегодном послании по случаю Всемирного дня мира, который Католическая церковь отмечает каждое 1 января. Ватикан опубликовал текст послания в четверг.

Для Фрэнсиса призыв носит несколько личный характер: ранее в этом году созданное искусственным интеллектом изображение его в роскошной белой куртке-пуховике стало вирусным.показывая, насколько быстро реалистичные дипфейковые изображения могут распространяться в Интернете.

Послание Папы было опубликовано всего через несколько дней после того, как переговорщики Европейского Союза добились предварительного одобрения первых в мире всеобъемлющих правил ИИ, которые, как ожидается, будут служить золотым стандартом для правительств, рассматривающих собственное регулирование.

Искусственный интеллект привлек внимание всего мира за последний год благодаря потрясающим достижениям таких передовых систем, как ChatGPT OpenAI, которые поразили пользователей способностью создавать текст, фотографии и песни, похожие на человеческие. Но эта технология также вызвала опасения по поводу рисков, которые быстро развивающаяся технология представляет для рабочих мест, конфиденциальности и защиты авторских прав и даже самой человеческой жизни.

Франциск признал перспективы, которые предлагает ИИ, и похвалил технологические достижения как проявление творческих способностей человеческого интеллекта, повторяя послание Ватикана, озвученное на Генеральной Ассамблее ООН в этом году, где множество мировых лидеров подняли вопросы о перспективах и опасностях технологии.

Но его новое мирное послание пошло дальше и подчеркнуло серьезные экзистенциальные опасения, высказанные специалистами по этике и защитниками прав человека по поводу технологии, которая обещает изменить повседневную жизнь таким образом, что может разрушить все, от демократических выборов до искусства.

«Искусственный интеллект вполне может представлять собой самую рискованную игру нашего будущего», — сказал кардинал Михаэль Черни из офиса развития Ватикана, который представил это послание на пресс-конференции в четверг. «Если получится плохо, виновато человечество».

В документе утверждается, что технологическое развитие и внедрение ИИ должны в первую очередь заботиться о гарантиях фундаментальных прав человека, содействии миру и защите от дезинформации, дискриминации и искажений.

Наибольшую тревогу Франциск выразил по поводу использования искусственного интеллекта в секторе вооружений, который часто был в центре внимания Папы-иезуита, называвшего даже традиционных производителей оружия «торговцами смертью».

Он отметил, что системы дистанционного вооружения уже привели к «дистанцированию от огромной трагедии войны и уменьшению восприятия опустошения, причиняемого этими системами оружия, и бремени ответственности за их применение».

«Уникальная способность морального суждения и принятия этических решений — это нечто большее, чем сложный набор алгоритмов, и эту способность нельзя свести к программированию машины», — написал он.

Он призвал к «адекватному, значимому и последовательному» человеческому надзору за летальными автономными системами вооружения (или LAWS), утверждая, что миру нет необходимости в новых технологиях, которые просто «в конечном итоге способствуют безумию войны».

На более базовом уровне он предупредил о глубоких последствиях для человечества автоматизированных систем, которые ранжируют граждан или классифицируют их. Помимо угроз для рабочих мест во всем мире, которые могут выполнять роботы, Фрэнсис отметил, что такая технология может определить надежность претендента на ипотеку, право мигранта на получение политического убежища или вероятность повторного совершения преступления кем-то ранее осужден за преступление.

«Нельзя допускать, чтобы алгоритмы определяли, как мы понимаем права человека, отбрасывали в сторону основные человеческие ценности сострадания, милосердия и прощения или исключали возможность того, что человек изменится и оставит свое прошлое позади», – написал он.

Для Франциска эта проблема затрагивает некоторые из его приоритетов как Папы: осуждать социальную несправедливость, защищать интересы мигрантов и служить заключенным и тем, кто находится на обочине общества.

В послании Папы не вдавались в подробности возможного обязательного договора, а лишь говорилось, что переговоры по нему должны быть проведены на глобальном уровне, чтобы как продвигать лучшие практики, так и предотвращать вредные. По его словам, нельзя доверять только технологическим компаниям в саморегулировании.

Он переосмыслил аргументы, которые он использовал раньше, чтобы осудить транснациональные корпорации, которые опустошили национальные ресурсы Земли и довели до нищеты коренные народы, которые живут за счет них.

Свобода и мирное сосуществование находятся под угрозой, «всякий раз, когда люди поддаются искушению эгоизма, корысти, стремления к прибыли и жажды власти», писал он.

Барбара Капуто, профессор Центра искусственного интеллекта Туринского политехнического университета, отметила, что уже существует сходство по некоторым фундаментальным этическим вопросам и определениям как в правилах ЕС, так и в исполнительном указе, обнародованном президентом США Джо Байденом в октябре.

«Это немаловажная вещь», — сказала она на брифинге в Ватикане. «Это означает, что кто бы ни хотел производить искусственный интеллект, у него есть общая нормативная база».

——

Кельвин Чан внес свой вклад из Лондона.