Адриан Флоридо из – беседует с Питером Стоуном, профессором компьютерных наук Техасского университета, по поводу открытого письма, призывающего к временной остановке разработки передового искусственного интеллекта.
АДРИАН ФЛОРИДО, ВЕДУЩИЙ:
Одна из проблем с технологией искусственного интеллекта заключается в том, что она становится очень, очень хорошей — до такой степени, что эксперты по технологиям беспокоятся о серьезных негативных последствиях, которые она может оказать на общество. Сегодня более тысячи технологических лидеров и исследователей, среди которых Илон Маск, подписали открытое письмо с призывом к шестимесячной паузе в разработке самых мощных систем искусственного интеллекта. Питер Стоун является одним из тех, кто подписал это письмо. Он заведующий кафедрой компьютерных наук и директор по робототехнике Техасского университета. Спасибо, что присоединились к нам.
ПИТЕР СТОУН: С удовольствием. Спасибо за приглашение.
ФЛОРИДО: ИИ — это технология — система, которая обучается навыкам, анализируя огромные объемы данных до такой степени, что она может начать выполнять множество задач, которые до сих пор могли выполнять только люди, например вести беседу или писать эссе. . Итак, когда технические специалисты говорят о своем страхе перед продвинутым ИИ, о чем вы говорите?
STONE: С моей точки зрения, очень важно различать разные типы технологий искусственного интеллекта. Тот, что вы описали, — один из самых свежих — генеративные модели искусственного интеллекта на основе нейронных сетей. И я думаю, что я и многие другие специалисты и исследователи ИИ обеспокоены возможным использованием и неправильным использованием этих новых технологий и обеспокоены тем, что прогресс движется быстрее, чем позволяет нам успеть понять истинные последствия до появления следующего поколения. вне.
Некоторые из вещей, с которыми мы пришли к соглашению, связаны с изменением мнений людей в политической сфере и пониманием того, как это может произойти, когда это уместно. Люди все еще пытаются разобраться с последствиями этих генеративных моделей для интеллектуальной собственности. Но я полагаю, что еще есть много сфер и областей, в которых у нас еще не было времени исследовать, на что способны эти модели. И вот что меня больше всего беспокоит, так это то, что, хотя мы все еще это понимаем, разрабатывается следующее поколение. Мне это кажется немного похожим на то, что сразу же после изобретения модели Т прыгнули прямо в национальную систему автомобильных дорог с автомобилями, которые могут двигаться со скоростью 80 миль в час, не имея времени подумать о том, какие правила потребуются на дорогах. способ.
ФЛОРИДО: В письме, которое вы подписали, содержится призыв приостановить разработку некоторых из самых передовых технологий искусственного интеллекта. Почему пауза? Чего бы это добилось?
STONE: Таким образом, пауза, если она будет принудительной, даст время, чтобы осела пыль, на самом деле, о том, каковы эти потенциальные последствия этих моделей. Итак, вы знаете, пауза, во-первых, даст академическому сообществу шанс рассказать широкой публике о том, чего ожидать от этих моделей. Это фантастические инструменты, но людям очень легко и естественно доверять им больше, чем они того заслуживают, — ожидать от них того, на что они не способны. Вы знаете, я думаю, что всем нужно какое-то время, чтобы понять, как их можно регулировать. Это вроде как и содержится в письме – дать возможность правительствам и обществу отреагировать.
ФЛОРИДО: Я должен пояснить, что ваше письмо не адресовано правительственному учреждению. Вы просите эти технологические компании следить за собой — как бы сами нажимают на тормоз. Но эти компании вовлечены в гонку за разработку самых передовых технологий. Какой у них стимул прислушиваться к вашим предупреждениям?
STONE: Так что я думаю, что нет другого стимула, кроме соглашения или – знаете, морального компаса, как упоминается в письме, людей, которые занимаются разработкой. И мы вряд ли увидим эффект, к которому прямо призывает письмо, но я думаю, что оно повысит осведомленность общественности о необходимости, понимаете, понимания и необходимости, если возможно, принять некоторые меры. несколько шагов, чтобы как бы замедлиться и немного более трезво подумать о следующем шаге, прежде чем, вы знаете, участвовать в гонке, как вы сказали, чтобы первым создать следующую большую модель.
ФЛОРИДО: Вы воодушевлены потенциалом технологии искусственного интеллекта?
СТОУН: О, абсолютно. Это фантастическое время для работы в области искусственного интеллекта. Происходят действительно захватывающие вещи, и я бы ни за что не остановил исследования искусственного интеллекта. Я во многом отождествляю себя в письме с заявлением о том, что человечество может наслаждаться процветающим будущим с искусственным интеллектом, но я не думаю, что это произойдет автоматически. Я думаю, нам нужно очень тщательно подумать о том, что мы должны делать, а не только о том, что мы можем сделать, когда дело касается разработки ИИ. Если мы сделаем это правильно, я думаю, что мир станет намного лучше в результате прогресса в области искусственного интеллекта.
ФЛОРИДО: Я разговаривал с Питером Стоуном из Техасского университета в Остине. Спасибо.
СТОУН: С удовольствием. Спасибо.
(ЗВУК МУЗЫКИ)
Авторское право © 2023 -. Все права защищены. Посетите страницы условий использования и разрешений нашего веб-сайта по адресу www.-.org для получения дополнительной информации.
Стенограммы – создаются в сжатые сроки подрядчиком -. Этот текст может быть не в своей окончательной форме и может быть обновлен или пересмотрен в будущем. Точность и доступность могут отличаться. Официальной записью программ – является аудиозапись.
