Технологические титаны дадут сенаторам советы по искусственному интеллекту на закрытом форуме

ВАШИНГТОН — Лидер большинства в Сенате Чак Шумер уже несколько месяцев говорит о выполнении потенциально невыполнимой задачи: принятии в течение следующего года двухпартийного закона, который будет способствовать быстрому развитию искусственный интеллект и смягчает самые большие риски. В среду он созывает встречу с некоторыми из наиболее видных руководителей технологических компаний страны, чтобы задать им вопрос, как Конгрессу следует это сделать.

В закрытом форуме на Капитолийском холме примут участие почти два десятка технологических лидеров и защитников, а также некоторые из крупнейших имен отрасли: Марк Цукерберг и X из Meta, Илон Маск из Tesla, а также бывший генеральный директор Microsoft Билл Гейтс. Приглашаются все 100 сенаторов, а общественность — нет.

Шумер, DN.Y., который возглавляет форум вместе с сенатором-республиканцем Майком Раундсом из Южной Дакоты, не обязательно прислушается к советам технических руководителей, поскольку он работает с республиканцами и коллегами-демократами, пытаясь обеспечить некоторый надзор за растущим сектором. Но он надеется, что они дадут сенаторам реалистичное направление, поскольку он пытается сделать то, чего Конгресс не делал уже много лет, — принять значимое регулирование технологической отрасли.

«Это будет интересная группа, потому что у них разные точки зрения», — сказал Шумер в интервью Associated Press перед форумом. «Надеюсь, мы сможем объединить это в некий широкий консенсус».

Раундс, который разговаривал с AP вместе с Шумером во вторник, сказал, что Конгрессу необходимо опередить быстро развивающийся искусственный интеллект, обеспечив его дальнейшее развитие «с положительной стороны», а также позаботившись о потенциальных проблемах, связанных с прозрачностью и конфиденциальностью данных.

«ИИ не исчезнет, ​​и он может сделать что-то действительно хорошее или стать настоящей проблемой», — сказал Раундс.

Шумер говорит, что регулирование искусственного интеллекта будет «одним из самых сложных вопросов, которые мы когда-либо могли решить», и указывает причины, почему: это технически сложно, оно постоянно меняется и «имеет такое широкое, широкое влияние на весь мир». ,” он сказал.

Конгресс имеет тусклую репутацию, когда дело доходит до регулирования технологий. У законодателей есть множество предложений (многие из них двухпартийные), но в большинстве случаев им не удалось прийти к согласию по основному законодательству, регулирующему отрасль, поскольку влиятельные технологические компании сопротивляются.

Многие законодатели указывают на неспособность принять какие-либо законы, касающиеся социальных сетей: в обеих палатах застопорились законопроекты, которые бы лучше защищали детей, регулирули деятельность вокруг социальных сетей. выборыи предписывают, среди прочего, более строгие стандарты конфиденциальности.

«Мы не хотим делать то, что мы сделали с социальными сетями: позвольте техническим специалистам разобраться с этим, а мы исправим это позже», — говорит председатель сенатского комитета по разведке Марк Уорнер, демократ от штата Вирджиния, о продвижении искусственного интеллекта. .

Двухпартийная рабочая группа Шумера, состоящая из Раунда, сенатора-демократа Мартина Генриха от Нью-Мексико и сенатора-республиканца Тодда Янга от Индианы, надеется, что быстрый рост искусственного интеллекта создаст большую актуальность. После выпуска ChatGPT менее года назад компании во многих секторах стали требовать применения новых инструментов генеративного искусственного интеллекта, которые могут составлять человеческие отрывки текста, программировать компьютерный код и создавать новые изображения, аудио и видео. Шумиха вокруг таких инструментов усилила опасения по поводу их потенциального вреда для общества и вызвала призывы к большей прозрачности в том, как собираются и используются данные, лежащие в основе новых продуктов.

«Для создания ограждений необходимо участие правительства», — сказал Шумер. «Если не будет ограждений, кто знает, что может случиться».

Шумер говорит, что форум в среду будет сосредоточен на таких важных идеях, как, например, должно ли правительство вообще участвовать в этом процессе и какие вопросы следует задавать Конгрессу. У каждого участника будет три минуты, чтобы выступить на тему по своему выбору, а Шумер и Раундс будут модерировать открытые дискуссии в группе утром и днем.

Некоторые из наиболее влиятельных гостей Шумера, в том числе Маск и Сэм Альтман, генеральный директор OpenAI, создателя ChatGPT, выразили более серьезную обеспокоенность, напоминая популярную научную фантастику о возможности того, что человечество потеряет контроль над передовыми системами искусственного интеллекта, если не будут приняты необходимые меры защиты.

Но для многих законодателей и людей, которых они представляют, влияние ИИ на занятость и управление потоком дезинформации, создаваемой ИИ, является более непосредственным эффектом.

В недавнем отчете исследовательской группы Forrester прогнозируется, что генеративная технология искусственного интеллекта может заменить 2,4 миллиона рабочих мест в США к 2030 году, многие из которых будут занимать должности «белых воротничков», не затронутые предыдущими волнами автоматизации. Только в этом году число потерянных рабочих мест может составить 90 000, говорится в докладе, хотя гораздо больше рабочих мест будет изменено, чем ликвидировано.

Эксперты по искусственному интеллекту также предупредили о растущем потенциале онлайн-дезинформации, создаваемой искусственным интеллектом, для влияния на выборы, включая предстоящую президентскую гонку 2024 года.

С другой стороны, Раундс говорит, что он хотел бы видеть расширение возможностей новых медицинских технологий, которые могли бы спасти жизни и позволить медицинским работникам получить доступ к большему количеству данных. Эта тема «очень личная для меня», говорит Раундс после того, как его жена умерла от рака два года назад.

Многие члены Конгресса согласны с тем, что законодательство, вероятно, будет необходимо в ответ на быстрое распространение инструментов искусственного интеллекта в правительстве, бизнесе и повседневной жизни. Но нет единого мнения о том, что это должно быть или что может понадобиться. Существует также некоторое разделение: одних членов больше беспокоит чрезмерное регулирование, а других больше беспокоят потенциальные риски неконтролируемой отрасли.

«Я участвую в этом процессе в значительной степени для того, чтобы мы действовали, но мы не действуем более смело или чрезмерно, чем того требуют обстоятельства», — говорит сенатор Янг, один из членов рабочей группы Шумера. «Мы должны скептически относиться к правительству, поэтому я думаю, что важно, чтобы за столом переговоров были республиканцы».

Янг говорит, что Шумер заверил его, что он будет «чрезмерно чувствителен к превышению допустимых значений, поскольку мы устраняем некоторые потенциальные вредные последствия искусственного интеллекта».

Некоторые республиканцы опасаются следовать по пути Европейского Союза, который в июне подписал первый в мире свод всеобъемлющих правил для искусственного интеллекта. Закон ЕС об искусственном интеллекте будет регулировать любой продукт или услугу, в которых используется система искусственного интеллекта, и классифицировать их по четырем уровням риска: от минимального до неприемлемого.

Группа корпораций призвала лидеров ЕС переосмыслить правила, утверждая, что это может затруднить компаниям блока из 27 стран конкуренцию с зарубежными конкурентами в использовании генеративного искусственного интеллекта.

В Соединенных Штатах большинство крупных технологических компаний выразили поддержку правилам ИИ, хотя они не обязательно согласны с тем, что это означает.

«Мы всегда говорили, что считаем, что ИИ должен регулироваться», — сказала Дана Рао, главный юрисконсульт и директор по доверительному управлению компании-разработчика программного обеспечения Adobe. «Мы говорили об этом с Европой последние четыре года, помогая им продумать Закон об искусственном интеллекте, который они собираются принять. Существуют варианты использования искусственного интеллекта с высоким уровнем риска, и мы считаем, что правительство должно сыграть определенную роль, чтобы убедиться, что они безопасны для общества и потребителей».

Adobe, которая создает Photoshop и новый генератор изображений AI Firefly, предлагает свой собственный федеральный закон: законопроект о «противодействии выдаче себя за другое лицо», который защитит художников, а также разработчиков ИИ от злоупотребления генеративными инструментами ИИ для создания производных работ без участия создателя. согласие.

Сенаторы говорят, что они найдут способ регулировать отрасль, несмотря на все трудности.

«Не ошибитесь. Будет регулирование. Единственный вопрос в том, как скоро и что», — сказал сенатор от штата Коннектикут Ричард Блюменталь на слушаниях во вторник по законопроекту, которые он написал вместе с сенатором-республиканцем Джошем Хоули от штата Миссури.

Концепция Блюменталя предусматривает новый «режим лицензирования», который потребует от технологических компаний получать лицензии на системы искусственного интеллекта с высоким уровнем риска. Он также создаст независимый надзорный орган, возглавляемый экспертами, и будет привлекать компании к ответственности, если их продукты нарушают конфиденциальность или гражданские права или ставят под угрозу общество.

«Правила, основанные на рисках, и управление рисками — это то, что нам нужно здесь делать», — сказал Блюменталь.

___

О’Брайен сообщил из Провиденса, Род-Айленд. Авторы Associated Press Али Свенсон из Нью-Йорка и Кельвин Чан из Лондона внесли свой вклад в подготовку этого отчета.