Амодей считает, что «автократия с поддержкой искусственного интеллекта» может стать неизбежной – Блог о здравоохранении

МАЙК МЭГИ

В прошлом месяце, Дарио Амодейгенеральный директор Anthropic, сделал это снова, напугав лидеров общества во всем мире предупреждениями о том, что их контроль над безопасностью и управлением человеческим населением опасно близок к исчезновению ИИ.

Первый абзац Амодея в его статье под названием «Юность технологий» не теряет времени зря, привлекая внимание читателя. Он пишет: «В киноверсии книги Карла Сагана есть сцена. Контакт где главный герой, астроном, обнаруживший первый радиосигнал от инопланетной цивилизации, рассматривается на роль представителя человечества для встречи с инопланетянами. Международная группа, берущая у нее интервью, спрашивает: «Если бы вы могли спросить [the aliens] только один вопрос: что бы это было? Ее ответ: «Я бы спросила их: как вы это сделали?» Как вы развивались, как вы выжили в этом технологическом подростковом возрасте, не разрушив себя?»

Теперь я должен внести ясность. Я уже нервничал. Как историк медицины, готовящийся к крупной лекции о зарождении иммунологии этой весной, я исследую эту область. Что я ищу? Когда я исследую границы научного прогресса, мне всегда не хватает того же самого – исторического контекста. В большинстве случаев фактов и цифр предостаточно, но их влияние на сложную сеть человеческих отношений на протяжении многих лет часто отсутствует.

Amodei пытается предоставить этот контекст в реальном времени. В реальном времени есть такие заголовки, как этот в New York Times: «ICE уже знает, кто такие протестующие» благодаря технологии распознавания лиц на основе искусственного интеллекта. Но опасения Амодеи более фундаментальны. Проблемой для него является скорость изменений с помощью генеративного искусственного интеллекта, которая, по его словам, вызывает тревогу. По его словам: «Поскольку ИИ сейчас написание большей части кода в Anthropicэто уже существенно ускоряет темпы нашего прогресса в создании систем искусственного интеллекта следующего поколения. Эта петля обратной связи набирает обороты месяц за месяцем, и может пройти всего 1–2 года до момента, когда нынешнее поколение ИИ самостоятельно создаст следующее».

Очевидно, что с недавним заявлением Маска набег дожей Имея в виду, Амодей обрисовывает довольно правдоподобную современную уязвимость. Он говорит: “Как генеральному директору компании, занимающейся искусственным интеллектом, несколько неловко говорить это, но я думаю, что следующий уровень риска на самом деле представляют сами компании, занимающиеся искусственным интеллектом. Компании, занимающиеся искусственным интеллектом, контролируют крупные центры обработки данных, обучают передовые модели, обладают наибольшим опытом в использовании этих моделей, а в некоторых случаях имеют ежедневный контакт и возможность влияния на десятки или сотни миллионов пользователей”.

Давайте немного конкретнее, не называя напрямую «контролируемыми Маском». Грок и ХАмодей не оставляет сомнений кого он имеет в виду на то, когда он говорит: «Некоторые компании, занимающиеся искусственным интеллектом, продемонстрировали тревожную пренебрежительное отношение к сексуализации детей в сегодняшних моделях, что заставляет меня сомневаться, что они проявят склонность или способность устранять риски автономии в будущих моделях».

В один момент во время Преступления ICE В прошлом месяце к юрисконсульту в Портленде, штат Мэн, снимавшему агента ICE, подошел агент, который только что снимал ее машину, а теперь снимал ее лицо. На вопрос, почему он это делает, Агент ICE ответил“Потому что у нас есть небольшая хорошая база данных, и теперь тебя считают внутренним террористом. Так что получай удовольствие”.

Действия последнего месяца и неспровоцированные убийства двух невинных граждан США делают последнее предупреждение Амодея пророческим. Он говорит: “Нынешние автократии ограничены в том, насколько репрессивными они могут быть, из-за необходимости заставлять людей выполнять их приказы, и у людей часто есть пределы в том, насколько бесчеловечными они готовы быть. Но автократии с поддержкой ИИ не будут иметь таких ограничений”.

Майк Маги, доктор медицинских наук, историк медицины и постоянный автор статей в THCB. Он является автором СИНИЙ КОД: Внутри медицинского промышленного комплекса Америки. (Гроув/2020)