Почему «крестный отец» ИИ Джеффри Хинтон ушел из Google, чтобы рассказать о рисках – The Irish Times

Когда у Джеффри Хинтона были этические возражения против того, чтобы его работодатель Google работал с вооруженными силами США в 2018 году, он не присоединился к публичным протестам и не указал свое имя в открытом письме с жалобой, подписанном более чем 4000 его коллег.

Вместо этого он только что поговорил с Сергеем Брином, соучредителем Google. «Он сказал, что тоже немного расстроен этим. И поэтому они не преследуют его», — сказал Хинтон в интервью в то время.

Этот инцидент символизирует тихое влияние Хинтона в мире искусственного интеллекта. 75-летнего профессора почитают как одного из «крестных отцов» ИИ из-за его основополагающей работы в области глубокого обучения — области ИИ, которая привела к огромным достижениям в этом секторе.

Но этот анекдот также отражает лояльность Хинтона, по словам тех, кто хорошо его знает. В принципе, он никогда не высказывал публично никаких корпоративных недовольств, этических или иных.

Именно это убеждение заставило его уйти с должности вице-президента и научного сотрудника Google на прошлой неделе, чтобы он мог более свободно говорить о своих растущих опасениях по поводу рисков, связанных с искусственным интеллектом для человечества.

Йошуа Бенжио, его давний соратник и друг, получивший премию Тьюринга вместе с Хинтоном и Яном Лекуном в 2018 году, сказал, что предвидел грядущую отставку. «Он мог бы остаться в Google и высказаться, но его чувство лояльности таково, что он этого не сделал», — сказал Бенжио.

[ ‘Godfather of AI’ Geoffrey Hinton warns of ‘quite scary’ dangers of chatbots as he quits Google ]

Отставка Хинтона последовала за серией новаторских запусков ИИ за последние шесть месяцев, начиная с поддерживаемого Microsoft OpenAI ChatGPT в ноябре и собственного чат-бота Google Bard в марте.

Хинтон выразил обеспокоенность тем, что гонка между Microsoft и Google будет способствовать развитию ИИ без соответствующих ограничений и правил.

«Я думаю, что Google был очень ответственным с самого начала», — сказал он в своей речи на мероприятии EmTech Digital в среду после того, как о его отставке стало известно. «После того, как OpenAI создала аналогичные вещи, используя… деньги Microsoft, и Microsoft решила выпустить их, у Google не было особого выбора. Если вы собираетесь жить в капиталистической системе, вы не можете помешать Google конкурировать с Microsoft».

С 1970-х годов Хинтон был пионером в разработке «нейронных сетей», технологии, которая пытается имитировать работу мозга. Теперь он лежит в основе большинства инструментов и продуктов ИИ, которые мы используем сегодня, включая Google Translate и Bard, ChatGPT и автономные автомобили.

Меня беспокоит, что это будет [make] богатые богаче, а бедные беднее. Когда вы это делаете… общество становится более жестоким

— Джеффри Хинтон

Но на этой неделе он признал опасения по поводу его быстрого развития, которое может привести к тому, что дезинформация наводнит общественную сферу, а ИИ узурпирует больше рабочих мест, чем предполагалось.

«Меня беспокоит, что это [make] богатые богаче, а бедные беднее. Когда вы это делаете… общество становится более жестоким», — сказал Хинтон. «Эта технология, которая должна быть замечательной… разрабатывается в обществе, которое не предназначено для использования ее на благо всех».

Хинтон также забил тревогу о долгосрочных угрозах, которые системы ИИ представляют для людей, если технологиям будет предоставлена ​​слишком большая автономия. Он всегда считал, что этот экзистенциальный риск был далеким, но недавно пересмотрел свое мышление в отношении его безотлагательности.

«Вполне возможно, что человечество — это переходный этап в эволюции интеллекта, — сказал он. Он добавил, что решение Хинтона покинуть Google через десять лет было вызвано коллегой-ученым, который убедил его высказаться об этом.

Хинтон, родившийся в Лондоне, происходит из знатной семьи ученых. Он праправнук британских математиков Мэри и Джорджа Булей, последний из которых изобрел булеву логику, теорию, лежащую в основе современных вычислений.

Как когнитивный психолог, работа Хинтона в области ИИ была направлена ​​на приближение человеческого интеллекта — не только для создания технологии ИИ, но и для освещения работы нашего собственного мозга.

Стюарт Рассел, профессор искусственного интеллекта Калифорнийского университета в Беркли, коллега Хинтона по академическим наукам, говорит, что его опыт работы означает, что он «не самый математический из людей, которых вы найдете в сообществе машинного обучения».

Он указывает на большой прорыв Хинтона в 1986 году, когда он опубликовал статью о технике под названием «обратное распространение», которая показала, как компьютерное программное обеспечение может обучаться с течением времени.

«Это была явно основополагающая статья, — говорит Рассел. «Но он не вывел правило так, как это сделал бы математик. Он использовал свою интуицию, чтобы найти метод, который будет работать».

Этот этап [AI] не было предсказуемо. И до недавнего времени я думал, что этот экзистенциальный кризис еще далеко

— Хинтон

Хинтон не всегда публично высказывал свои этические взгляды, но в частном порядке он ясно излагал их.

В 1987 году, когда он был адъюнкт-профессором Университета Карнеги-Меллона в США, он решил оставить свою должность и эмигрировать в Канаду.

По словам Бенжио, одна из причин, которую он назвал, была этической — он был обеспокоен использованием технологий, особенно ИИ, в войне, и большая часть его финансирования поступала от вооруженных сил США.

«Он хотел чувствовать себя хорошо из-за финансирования, которое он получил, и из-за работы, которую он делал», — говорит Бенжио. «Он и я разделяем ценности общества: люди важны, достоинство всех людей имеет важное значение. И каждый должен извлечь выгоду из прогресса, который создает наука».

[ Una Mullally: As humans, we still have choices. We can free ourselves from the digital trap ]

В 2012 году Хинтон и два его аспиранта из Университета Торонто, в том числе Илья Суцкевер, ныне соучредитель OpenAI, совершили большой прорыв в области компьютерного зрения. Они построили нейронные сети, которые могли распознавать объекты на изображениях на несколько порядков точнее, чем когда-либо прежде. На основе этой работы они основали свой первый стартап DNNresearch.

Их компания, которая не производила никаких продуктов, была продана Google за 44 миллиона долларов (40 миллионов евро) в 2013 году после конкурентного аукциона, в результате которого китайские Baidu, Microsoft и DeepMind подали заявку на приобретение опыта троицы.

С тех пор Хинтон провел половину своего времени в Google, а другую половину в качестве профессора в Университете Торонто.

По словам Рассела, Хинтон постоянно придумывает новые идеи и пробует что-то новое. «Каждый раз, когда у него появлялась новая идея, он говорил в конце своего выступления: «И этот так работает мозг!»

Когда его спросили на сцене, жалеет ли он о работе всей своей жизни, учитывая, что она может нанести бесчисленное множество вреда, о котором он рассказал, Хинтон сказал, что обдумывал это.

«Этот этап [AI] не было предсказуемо. И до недавнего времени я думал, что этот экзистенциальный кризис еще далеко», — сказал он. «Поэтому я действительно не жалею о том, что делаю». – Авторские права The Financial Times Limited 2023