Берни Сандерс, Илон Маск и Белый дом обращаются ко мне за помощью, говорит «крестный отец ИИ» | Искусственный интеллект (ИИ)

Искусственный интеллект (ИИ)

Доктор Джеффри Хинтон был завален просьбами поговорить после ухода из Google, чтобы предупредить об опасности цифрового интеллекта.

Человек, которого часто называют крестным отцом искусственного интеллекта, будет отвечать на просьбы о помощи от Берни СандерсИлон Маск и Белый дом, говорит он, всего через несколько дней после ухода из Google, чтобы предупредить мир о риске цифрового интеллекта.

75-летний доктор Джеффри Хинтон получил высшую награду в области компьютерных наук, премию Тьюринга, в 2018 году за свою работу по «глубокому обучению» вместе с Яном Лекуном из Meta и Йошуа Бенжио из Университета Монреаля.

Технология, которая теперь лежит в основе революции ИИ, появилась в результате усилий Хинтона понять человеческий мозг — усилий, которые убедили его в том, что цифровой мозг может скоро вытеснить биологический.

Но уроженец Лондона психолог и ученый-компьютерщик может не дать совет, который хотят услышать сильные мира сего.

«Правительство США неизбежно испытывает много опасений по поводу национальной безопасности. И я склонен с ними не соглашаться», — сказал он The Guardian. «Например, я уверен, что министерство обороны считает, что единственными надежными руками для этих вещей является министерство обороны США — единственная группа людей, которая на самом деле использовать ядерное оружие.

«Я социалист, — добавил Хинтон. «Я думаю, что частная собственность на средства массовой информации и «вычислительные средства» — это нехорошо.

«Если посмотреть, что Google делает в контексте капиталистической системы, она ведет себя настолько ответственно, насколько вы могли ожидать. Но это не значит, что он пытается максимизировать полезность для всех людей: по закону он обязан максимизировать полезность для своих акционеров, а это совсем другое».

Хинтон получает новую просьбу о разговоре каждые две минуты с тех пор, как в понедельник высказался о своих опасениях, что прогресс ИИ может привести к концу цивилизации в течение 20 лет.

Но когда дело доходит до конкретных советов, у него не хватает слов. «Я не политик, — говорит он. «Я просто человек, который внезапно осознал, что существует опасность того, что произойдет что-то очень плохое. Я бы хотел, чтобы у меня было хорошее решение, например: «Просто прекратите сжигать углерод, и все будет в порядке». Но я не вижу такого простого решения».

В прошлом году быстрый прогресс в моделях искусственного интеллекта убедил Хинтона серьезно отнестись к угрозе того, что «цифровой интеллект» однажды может заменить человечество.

«Последние 50 лет я пытался создать компьютерные модели, которые могут обучаться чему-то подобно тому, как мозг учится, чтобы лучше понять, как мозг учится. Но совсем недавно я решил, что, возможно, эти большие модели на самом деле намного лучше, чем мозг.

«Нам нужно хорошенько подумать об этом сейчас, и если мы можем что-нибудь сделать. Причина, по которой я не так оптимистичен, заключается в том, что я не знаю примеров, когда более разумные вещи контролируются менее разумными.

«Вам нужно представить себе нечто более разумное, чем мы, в той же степени, в какой мы разумнее лягушки. Очень хорошо сказать: «Ну, не подключайте их к Интернету», но пока они разговаривают с нами, они могут заставить нас что-то делать».

Даже помимо экзистенциального риска, Хинтон беспокоится о быстром росте мощи моделей ИИ, ссылаясь на влияние Сторонник Cambridge Analytica Роберт Мерсер на политические кампании по обе стороны Атлантики.

«Боб Мерсер и Питер Браун, когда они работали в IBM над переводом, поняли силу большого количества данных. Без Боба Мерсера Трамп, возможно, еще не был бы избран.

«И Боб, должно быть, понял силу манипуляции, которую могут дать вам большие данные, и поэтому я думаю, что это уже привело к ужасным последствиям».

По его словам, авторитарные правительства — это самый большой красный флаг, который говорит о том, что человечество не сможет справиться с рисками, связанными с ИИ, пока не стало слишком поздно.

«Этот материал помогает авторитарным правительствам уничтожать правду или манипулировать электоратом. И иметь дело с этими угрозами, в ситуации, когда американцы не могут даже согласиться не давать штурмовые винтовки мальчикам-подросткам, об этом нетрудно подумать.

“В Увальде [the 2022 massacre of 21 people at an elementary school in Texas]там было 200 полицейских, которые не осмелились пройти через дверь, потому что парень с другой стороны был с автоматом и стрелял в детей.

«И все же они не могут решить не запрещать штурмовое оружие. Таким образом, полностью нефункциональная политическая система, подобная этой, просто не подходит для борьбы с этими угрозами».