Для многих предупреждения британского физика-теоретика Стивен Хокинг в 2014 году они звучали как научно-фантастические сюжеты: машины, которые совершенствуются, перепроектируют собственное «программное обеспечение» и в мгновение ока превосходят человека по интеллекту, оставляя нас позади. Однако с учетом наблюдаемого нами технологического прогресса эта возможность — ранее далекая — кажется, приобретает все более реальные масштабы.
Эм 2014, Хокинг сказал Би-би-си: «Полное развитие искусственного интеллекта может означать конец человечества». Он подчеркнул, что хотя примитивные формы ИИ уже приносят пользу, это не означает, что риски можно игнорировать.
Если бы искусственный интеллект стал автономным, способным перепроектировать себя и развивать обработку гораздо быстрее, чем человеческий мозг, ограниченный биологической эволюцией, мы столкнулись бы с беспрецедентной и хрупкой ситуацией.
Предупреждение Стивена Хокинга
Суть концерна Хокинг дело не в «злой воле», которую мог предположить ИИ, а в дисбалансе сил, который возник бы в результате его превосходящей компетентности. Тогда он предупредил: развиваясь темпами, за которыми люди не успевают, ИИ может оставить человечество в уязвимом состоянии.
Более того, физик предупредил о социальных и экономических последствиях этого неконтролируемого технологического прогресса. Он предсказал, что массовая автоматизация может привести к массовому сокращению рабочих мест и концентрации власти в руках тех, кто контролирует интеллектуальные системы, что приведет к увеличению неравенства и созданию глубоких разногласий.
С этого момента нам предлагается задуматься: в какой степени это предсказание станет реальностью? В то время, когда Хокинг опубликовал предупреждение, ИИ все еще находился на относительно «невинной» стадии, далекой от той автономии, которая обсуждается сегодня. Но с быстрым развитием инструментов машинного обучения, глубокого обучения и автоматизации разрыв между вымыслом и реальностью сокращается.
Что делает все это еще более актуальным, так это то, что, по мнению экспертов, это не просто «алармистский прогноз», а возможность, которая зависит от сочетания трех факторов: появления ИИ, способного рекурсивно самосовершенствоваться; отсутствие соответствия этих систем человеческим ценностям; и отсутствие механизмов управления, способных гарантировать, что такие машины останутся под наблюдением человека.
Таким образом, «ошибка», к которой Хокинг То есть игнорирование рисков, связанных с искусственным интеллектом, — это не просто пессимизм, а предупреждение, чтобы мы не вступали в «сделанный и необратимый» сценарий. В другом месте он заявил, что «успех в создании ИИ станет величайшим событием в истории цивилизации — или последним, если мы не научимся избегать рисков».
*Под руководством Фабио Превиделли.
2025-11-13 23:56:00
1763081056
#Предсказание #Стивена #Хокинга #которое #может #быть #близко #осуществлению
Ещё по этой теме
