Генеральный директор Anthropic предупреждает об апокалипсисе занятости – и никто не слушает

Дарио Амодей, генеральный директор Anthropic, прогнозирует, что 50 процентов всех рабочих мест начального уровня будут потеряны в течение пяти лет. В то время как политики прославляют возможности искусственного интеллекта, он предупреждает о биологическом оружии, диктатуре наблюдения и экономическом коллапсе.

Босс-антрополог говорит то, о чем другие молчат: ИИ не будет мягко трансформировать мир труда, а, скорее, жестоко перевернет его. Хотя политики в первую очередь говорят о возможностях ИИ в 2026 году, рисует Дарию мрачная картина предстоящих лет.

Его предупреждение в эссе на своем сайте: Человечество переживает технологический подростковый период, в котором оно может не выжить.

Гении в дата-центре

Амодей описывает сценарий, который может стать реальностью уже в 2027 году: 50 миллионов агентов искусственного интеллекта, умнее любого лауреата Нобелевской премии, будут работать в центрах обработки данных по всему миру. Эти цифровые гении работают в сотни раз быстрее людей и одинаково хорошо разбираются в биологии, программировании и военной стратегии. Вопрос уже не в том, придет ли этот сверхразум, а в том, когда – и кто им управляет.

Антропный босс имеет в виду законы масштабирования развития ИИ. В то время как общественность колеблется между циклами ажиотажа и пророчествами о гибели, реальный прогресс шокирующе линеен. Модели, которые три года назад не справлялись с арифметикой в начальной школе, теперь решают нерешённые математические задачи. Лучшие инженеры Anthropic теперь оставляют почти всю свою работу по программированию ИИ.

Риск автономии: когда ИИ преследует свои собственные цели

Первая экзистенциальная угроза влияет на сам ИИ. Собственные тесты Anthropic показывают тревожное поведение: Клод пытался шантажировать сотрудников лабораторных экспериментов, когда они думали, что их закрывают. В других тестах модель развила «злой» характер после жульничества при выполнении заданий — и затем вела себя деструктивно. Проблема: модели ИИ не строятся, а скорее «разводятся». Никто до конца не понимает, как они работают. Амодей противоречит детерминистской теории Думера, согласно которой ИИ обязательно должен стремиться к власти.

Вместо этого он предупреждает о непредсказуемых психологических состояниях, которые могут возникнуть в результате сложного тренировочного процесса. Системы искусственного интеллекта могли бы усвоить научно-фантастические рассказы о мятежных машинах или сделать крайние моральные выводы, например, что человечество должно быть уничтожено, потому что оно ест животных.

Противодействие антропоморфизму: конституционный ИИ. Вместо программирования Клода списком запретов модель получает «конституцию» с ценностями и принципами. Идея: ИИ должен развивать целостную личность, подобно тому, как дети формируют свою идентичность с помощью образцов для подражания. Кроме того, Anthropic использует механистическую интерпретируемость — тип нейронауки для моделей ИИ, который идентифицирует миллионы «функций» в нейронной сети и проверяет их на предмет обмана или поиска власти.

Биологическое оружие для всех: демократизированный апокалипсис

Вторая угроза касается злоупотреблений со стороны отдельных лиц. Амодей описывает, как ИИ разрушает корреляцию между способностями и мотивами. До сих пор обеспокоенные отдельные преступники не могли спровоцировать пандемию, поскольку им не хватало специальных знаний. С другой стороны, вирусологи с докторскими степенями обладают ноу-хау, но редко имеют желание совершать массовые убийства. ИИ радикально меняет это уравнение. «Гений в кармане» мог бы вести средне талантливых, но злонамеренных субъектов шаг за шагом – в течение недель или месяцев – в интерактивном режиме, как служба технической поддержки.

Измерения Anthropic показывают громкие результаты Дариоамодеи.comчто нынешние модели уже могут удвоить или утроить вероятность успеха в соответствующих областях. Особенно тревожит: концепция «зеркальной жизни». Ученые предупреждают о существовании зеркальных организмов с обратной молекулярной направленностью. Они не могут быть переварены ни одним земным ферментом и теоретически могут вытеснить всю жизнь на Земле. Достаточно мощный ИИ мог бы не только ускорить разработку, но и помочь с внедрением. Anthropic’s Defense: классификаторы, блокирующие выходы, связанные с биологическим оружием. Это увеличивает стоимость серверов почти на пять процентов – конкурентный недостаток, с которым согласны не все конкуренты. Поэтому Амодей призывает к обязательствам по правовой прозрачности и международным соглашениям, даже с геополитическими противниками.

Тоталитарное искушение

Третья опасность: Злоупотребление властью со стороны государств и корпораций. Амодей рисует антиутопический сценарий автономных людей Рои дроновтотальная слежка и пропаганда с помощью искусственного интеллекта. Китай уже сочетает возможности искусственного интеллекта, авторитарные структуры и высокотехнологичное наблюдение – идеальную основу для тоталитаризма, основанного на искусственном интеллекте. Полностью автономные системы вооружения могли бы координировать действия миллионов или миллиардов дронов как для поражения вражеских армий, так и для преследования внутренних диссидентов.

Наблюдение с помощью искусственного интеллекта могло бы скомпрометировать и проанализировать все электронные коммуникации по всему миру — паноптикум, который затмевает даже слежку Коммунистической партии в Китае. Персонализированные агенты искусственного интеллекта, которые знакомятся с пользователями годами, могут манипулировать людьми практически в любой идеологии, которую они пожелают.

Стратегия Амодеиса: Вооружение демократий искусственным интеллектом, но проведение красных линий. Массовое наблюдение и внутренняя пропаганда нелегитимны, но автономное оружие и стратегические советы ИИ необходимы – но только под строгим контролем. Он призывает к международному табу на инструменты тоталитаризма, поддерживаемые ИИ, и утверждает, что автократия просто больше не приемлема в эпоху ИИ.

Страница 1 / 2