Получайте бесплатные обновления искусственного интеллекта
Мы отправим вам Ежедневный дайджест myFT электронная почта со свежими новостями Искусственный интеллект новости каждое утро.
Новый британский король ИИ предупредил, что злоумышленники могут использовать искусственный интеллект для взлома Национальной службы здравоохранения, что приведет к сбоям, способным конкурировать с пандемией Covid-19, когда на этой неделе он изложил свои приоритеты для своей целевой группы стоимостью 100 миллионов фунтов стерлингов.
Ян Хогартпредседатель рабочей группы правительства Великобритании «Frontier AI», заявил, что использование этой технологии в качестве оружия для сдерживания Национальной службы здравоохранения или совершения «биологической атаки» было одним из крупнейших рисков ИИ, с которыми его команда пыталась справиться.
По его мнению, системы искусственного интеллекта могут быть использованы для усиления кибератаки на службу здравоохранения Великобритании или для разработки патогенов или токсинов.
Хогарт подчеркнул необходимость глобального сотрудничества со странами всего мира, включая Китай, для решения таких проблем.
«Это принципиально глобальные риски. И точно так же, как мы сотрудничаем с Китаем в вопросах биобезопасности и кибербезопасности, я думаю, что международное сотрудничество в отношении более масштабных рисков имеет реальную ценность», — сказал он.
«Это похоже на пандемии. Это тот случай, когда вы не можете действовать в одиночку, пытаясь сдержать эти угрозы».
По итогам оперативной группы создание В июне Хогарт назначил пионера искусственного интеллекта Йошуа Бенджио и директора GCHQ Энн Кист-Батлер в свой внешний консультативный совет, о чем будет объявлено в четверг.
Группа получила первоначальное финансирование в размере 100 миллионов фунтов стерлингов от правительства для проведения независимых исследований безопасности искусственного интеллекта, которые позволят разработать безопасные и надежные «передовые» модели искусственного интеллекта, лежащие в основе систем искусственного интеллекта, таких как ChatGPT. Хогарт сказал, что это самая большая сумма, которую любое национальное государство выделило на передовую безопасность ИИ.
Хогарт сравнил масштаб угрозы для Национальной службы здравоохранения с пандемией Covid, которая привела к многолетним сбоям в работе службы общественного здравоохранения Великобритании, и с атакой программы-вымогателя WannaCry в 2017 году, которая обошлась Национальной службе здравоохранения примерно в 92 миллиона фунтов стерлингов и привела к отмене программы. 19 000 приемов пациентов.
«То, на что мы уделяем наибольшее внимание, — это повышенные риски национальной безопасности», — сказал Хогарт, бывший технологический предприниматель и венчурный инвесторв интервью Financial Times.
Он добавил: «Огромное количество людей в сфере технологий сейчас пытаются разработать системы искусственного интеллекта, которые сверхчеловечески умеют писать код. . . Эта технология с каждым днем становится все лучше и лучше. И, по сути, это снижает барьеры для совершения каких-либо кибератак или киберпреступлений».
Хогарт сказал, что Великобритании необходимо развивать «способность государства понимать… . . и, надеюсь, смягчить риски, чтобы затем понять, как поставить барьеры вокруг этой технологии и извлечь из нее максимальную пользу».
Он принимал активное участие в планировании первой глобальной конференции Великобритании. Саммит по безопасности ИИ в Блетчли-парке в начале ноября. Целью мероприятия является объединение лидеров государств с технологическими компаниями, учеными и гражданским обществом для обсуждения искусственного интеллекта.
Созданная по образцу целевой группы по вакцине против Covid, команда Хогарта недавно наняла несколько независимых ученых, в том числе Дэвида Крюгера из Кембриджского университета и Ярин Гал из Оксфордского университета.
«Если вы хотите хорошего регулирования – если вы хотите, чтобы государство было активным партнером и понимало риски передовой области, а не просто позволяло компаниям, занимающимся искусственным интеллектом, делать домашнее задание, – тогда вам нужно быстро внедрить этот опыт в правительство. ” он сказал.
