Перспективы и риски ИИ ослепляют и беспокоят в Давосе | Технологии

Удивительная эволюция генеративный искусственный интеллект Это преобразующая сила, имеющая значение и риски, которые невозможно измерить, но у нее есть признаки того, что она становится одним из самых революционных скачков, совершенных человечеством. Несмотря на ужасные войны, которые требуют внимания, политические, деловые лидеры и лидеры общественного мнения уделяют им должное внимание. Форум о Давосе большое внимание к этому вопросу, в его экономическом измерении (с ростом производительности и влиянием на рынок труда), нормативном (о том, делать ли упор на протекционизм или инновации), геополитике (как один из решающих элементов в определении баланса власти) и научное (с открытием ранее немыслимых границ). Территория, полная неопределенности и дилемм, в которой единственной уверенностью является уровень трансцендентальной важности, который был ясно выражен в речах, панельных дискуссиях, коридорах и частных встречах.

Неопределенность относительно пути, по которому пойдет эта технологическая революция, велика, и Сэм Альтман, генеральный директор OpenAI, компании, создавшей ChatGPT, предположил это на публичном заседании. «Эта технология очень мощная, и мы не можем с уверенностью сказать, что произойдет. Это происходит со всеми великими технологическими революциями, но с этой, в частности, легко представить, какое огромное влияние она окажет на мир, и что она может пойти совсем не так. Мы продвигаемся в технологическом направлении, которое, по нашему мнению, является безопасным, но я сочувствую этим опасениям», — сказал Альтман, специалист в этом секторе. Альтман предупредил, что «стресс будет возрастать по мере того, как мы приближаемся к AGI, общему искусственному интеллекту, способному не только выполнять определенные функции, такие как языковые модели, но и обучаться любой интеллектуальной задаче.

Учитывая этот сценарий, дебаты о регулировании являются одними из самых деликатных. В той же панели Альтмана Джереми Хант, министр финансов Великобританиибыл сторонником «легкого» регулирования, тем самым позиционируя себя на полюсе тех, кто считает, что необходимо избегать нормативной базы, которая душит инновации в секторе с огромным потенциалом повышения производительности и создания решающих возможностей в масштабе. геополитической конкуренции.

ИИ, несомненно, является центральным элементом в определении сил будущего. В ходе работы в Давосе проявилась обеспокоенность Европы по поводу того, что она останется позади в этой революции. ЕС – пионер регулированияно она не находится в авангарде среди ведущих компаний отрасли.

Баланс сил, который будет определять ИИ, измеряется с точки зрения экономических выгод для бизнеса, а также способности обеспечить минимально разрушительные изменения на рынке труда. Об этом говорится в отчете МВФ, опубликованном накануне форума. до 60% рабочих мест в странах с развитой экономикой может пострадать появление ИИ, причём половина из них пострадает отрицательно.

Многие рабочие места исчезнут. Другие появятся, но не обязательно в то же время и уж точно не обязательно у тех же людей и в тех же местах. Смягчение пагубных последствий революции станет мерой сплоченности и стабильности будущих обществ.

Перспективы научного прогресса, лежащего в основе революции искусственного интеллекта, также огромны. Альбер Бурла, генеральный директор Pfizer, ясно дал понять это в Давосе. «Эта революция трансформирует органический сектор», — пояснил он. «Мы очень интенсивно используем ИИ. С его помощью мы достигаем лучших и быстрых результатов. Раньше процесс открытия лекарств обычно занимал четыре года. Мы синтезировали бы миллионы молекул. Теперь, благодаря ИИ, мы перешли к разработке лекарств. Мы создаем около 600 молекул, выбранных с помощью огромной вычислительной мощности и которые с наибольшей вероятностью будут работать. Процесс лет превратился в месяцы. «Это то, что спасает жизни», — сказал он.

Что касается опасений, если не доходить до апокалиптических представлений о компьютерных системах сверхчеловеческого интеллекта, которые берут на себя управление, есть гораздо более близкие и более реальные риски. Одним из них является потенциальная возможность того, что эта технология увеличит деятельность по дезинформации, например, в избирательных процессах.

Дезинформация и угроза, которую она представляет для демократий, остаются одним из двух величайших рисков, с которыми сталкивается мир. согласно отчету, опубликованному Всемирным экономическим форумом накануне встречи в Давосе. Генеративный ИИ может нанести вред двумя способами: количественным, позволяя массово создавать контент без участия человека; еще один качественный, с подделками такого исключительного качества, что способность к убеждению абсолютна. В обсуждениях на форуме стала очевидна обеспокоенность, например, по поводу видеоварианта этой опасности.

Страхи настолько велики, что как сообщает газета Файнэншл Таймс неделю назадАмериканские эксперты, в том числе из Open AI, и Китай провели две секретные встречи, чтобы обсудить риски дезинформации и угрозу социальной сплоченности.

Новость приобретает чрезвычайно тревожный вид, если учесть, что США и Китай ведут неустанную конкуренцию в технологических вопросах, и особенно в области искусственного интеллекта, что является источником серьезных трений между ними. Вашингтон возглавляет маневры по ограничению экспорта передовых микрочипов, которые необходимы для продвижения по этому пути и для производства которых у Китая нет автономных мощностей. Вашингтон утверждает, что это оправдано, чтобы не дать Пекину использовать западные технологии для подпитки военных программ и программ безопасности с весьма сомнительными целями.

В Давосе премьер-министр Китая Ли Цян выступил против этих маневров, пытаясь установить связь между ними и общей попыткой США сохранить привилегированное положение и усложнить доступ развивающихся стран к ключевым технологиям. Советник президента США по национальной безопасности Джейк Салливан ответил, что это не общая блокада, а лишь конкретная мера.

Что в разгар напряжения между двумя державами произошел контакт, подобный тому, который описан в ФТ Он очень красноречив.

Еще одна проблема, возникшая в Давосе, — это впечатляющий уровень энергопотребления, которого требуют новые вычислительные системы. По оценкам, опубликованным в прошлом году, к 2027 году серверы искусственного интеллекта смогут ежегодно потреблять столько же энергии, сколько такие страны, как Аргентина или Нидерланды, потребляют за год. Это перегружает спрос и в странах, где нет хорошего уровня производства экологически чистой энергии, приводит к увеличению выбросов CO2.

Революция ИИ коснется практически всех аспектов жизни, в том числе, вероятно, как отмечалось В недавнем интервью этой газете историк Найл Фергюсоннаши когнитивные способности, на которые может повлиять будущее, постоянно обращаются за решениями к машине, а не к нашему собственному мышлению.

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.

_