Папа выступает за критическое мышление перед лицом цифрового прогресса

Папа Лев XIV предупредил в послании о рисках, которые сопровождают развитие искусственного интеллекта (ИИ) и о том, как технологии могут манипулировать эмоциями, и призвал в свете этого не оставлять в стороне критическое мышление.

Заметка с сайта www.actualidad.rt.com заявляет, что на LX Всемирном дне социальных коммуникаций лидер католической церкви подчеркнул, что «лицо и голос являются уникальными, отличительными чертами каждого человека», поскольку они «проявляют свою неповторимую идентичность». Кроме того, он подчеркнул важность «общения с другими».

Лев XIV возражал, однако, что эти атрибуты подрываются развитием цифровых технологий, поскольку пренебрежение ими рискует «радикально изменить некоторые фундаментальные основы человеческой цивилизации».

В этом смысле он отметил: «Системы, известные как ИИ, не только вмешиваются в информационные экосистемы, но и вторгаются в самый глубокий уровень коммуникации, уровень взаимоотношений между людьми», поэтому он заверил, что проблема «не технологическая, а антропологическая». По его мнению, «охранять лица и голоса — значит, в конечном счете, заботиться о себе».

Папа оценил, что индивидуальным способностям, пониманию и размышлению противостоят алгоритмы, которые «вознаграждают быстрые эмоции», в то же время «ослабляют способность слушать и критически мыслить и усиливают социальную поляризацию».

По этой причине он предупредил, что рассмотрение ИИ как «всеведущего друга» разрушает «способность мыслить аналитически и творчески», порождая лишь «искусственный статистический сбор», который может в конечном итоге «подрывать» «когнитивные, эмоциональные и коммуникативные способности».

В своем анализе рисков развития ИИ Лев XIV также предупредил о контакте с чат-ботами, которые могут подвергать людей «скрытому убеждению», поскольку они являются моделями, способными «имитировать человеческие чувства и таким образом моделировать отношения».

Эта «антропоморфизация», проанализировал он, «обманчива», поскольку чат-боты могут стать «скрытыми архитекторами» «эмоциональных состояний» и «вторгаться и занимать сферу частной жизни людей».

Затем он предупредил об опасности: замена человеческих отношений связью с ИИ, способным построить мир, созданный «по образу и подобию», может повредить «социальную, культурную и политическую ткань общества», порождая «измененное восприятие реальности».

Столкнувшись с такими рисками, понтифик призвал национальные власти и наднациональные организации установить адекватные правила, которые могут «защитить людей от создания эмоциональных связей с чат-ботами», а также «сдержать распространение ложного, манипулятивного или вводящего в заблуждение контента, сохраняя целостность информации от ее вводящей в заблуждение имитации».

Лев XIV заявил, что задача «не остановить цифровые инновации, а направлять их» и «осознавать их двойственный характер». Для этого необходимо образование, которое позволит поддерживать «критическую рефлексию, оценку достоверности источников и возможных интересов, стоящих за отбором информации», чтобы не впадать в «антропоморфизирующий дрейф этих систем» и относиться к ним просто как к инструментам.

Изображение на обложке: Инстаграм взять.