Лидер ИИ призывает к регулированию и переосмыслению

Мустафа Сулейман — один из ведущих мировых предпринимателей в области искусственного интеллекта, соучредитель не одного, а два стартапы на переднем крае самых революционных технологий со времен Интернета.

Г-н Сулейман, 39 лет, является генеральным директором Inflection AI, компании, которую он основал в прошлом году вместе с Ридом Хоффманом, соучредителем LinkedIn. В июне компания завершила раунд финансирования на сумму 1,3 миллиарда долларов, в котором участвовали Microsoft и Nvidia, ведущий производитель чипов для искусственного интеллекта, и, как сообщается, компания была оценена примерно в 4 миллиарда долларов. (Его чат-бот Pi создан как личный цифровой компаньон.)

Г-н Сулейман также стал соучредителем DeepMind, пионера в области искусственного интеллекта, которого Google приобрела в 2014 году. В начале прошлого года он покинул Google и присоединился к Greylock Partners, фирме венчурного капитала, партнером которой также является Хоффман.

Теперь он написал книгу «Грядущая волна: технологии, власть и величайшая дилемма XXI века», в которой содержится призыв к срочному изменению нашего подхода к ИИ и его «сдерживанию». мы, люди, находимся в худшем положении: не можем воспользоваться огромными возможностями искусственного интеллекта и рискуем быть поглощенными технологией, которая представляет экзистенциальную угрозу.

Г-н Сулейман хочет, чтобы правительства регулировали ИИ и назначали министров технологий на уровне кабинета министров, и говорит, что Соединенным Штатам следует использовать свое доминирование в области передовых чипов для обеспечения соблюдения глобальных стандартов. Он также призвал к созданию режима управления по образцу Межправительственной группы экспертов по изменению климата, чтобы сделать работу частных компаний в сфере ИИ более прозрачной.

Такие аргументы, возможно, будет трудно достичь в период растущей глобальной напряженности, но они своевременны, поскольку законодатели обнародуют предложения о том, как следует контролировать ИИ. Чак Шумер, лидер Сената, на следующей неделе встретится с высшими руководителями технологических компаний, включая Илона Маска и Сатью Наделлу, генерального директора Microsoft, чтобы обсудить правила.

Г-н Сулейман рассказал DealBook о своей книге, которая вышла на этой неделе. Этот разговор был сокращен и отредактирован для ясности.

Зачем писать книгу (очень аналогичный подход) для изложения своих идей?

Это форма радикальной ответственности. Я хочу иметь возможность оглянуться назад через десять лет и посмотреть, оправдались ли мои прогнозы. И делать это официально, интеллектуально очень честно и полезно, а не делать это в серии твитов, сообщений в блогах и статей.

Почему вы называете эту книгу «любовным письмом» национальному государству?

Это тревожный звонок для политиков, политиков и граждан. Мы изобрели систему некоммерческих сдержек и противовесов, которая обеспечивает подотчетность централизованной власти общественным интересам. Эта система на протяжении многих лет развивалась от монархии, диктатуры и авторитаризма к свободной и открытой либеральной демократии. Это означает, что мы можем применять разумное налогообложение и перераспределение, чтобы предотвратить неравенство. Это лучший инструмент, который у нас есть, поэтому мы должны придерживаться его и продолжать пытаться защитить его.

Вы предложили новый тест Тьюринга Чтобы понять возможности ИИ и какие рабочие места будут заменены: дайте ИИ 100 000 долларов и попросите его заработать 1 миллион долларов на платформе онлайн-торговли. Как это будет работать?

Реальный вопрос на следующее десятилетие заключается в том, что на практике может сделать искусственный интеллект? Я предложил очень простую структуру, которая пытается охватить широкий спектр навыков, которыми может обладать мелкий предприниматель. Можете ли вы придумать идею нового продукта, спроектировать его, начать производство и продвижение, а затем попытаться получить прибыль? Эти навыки — креативность, воображение, планирование переговоров, логистика, расстановка приоритетов, сотрудничество — имеют основополагающее значение для того, что делает нас успешными на рабочем месте. Если ИИ может выполнить 20, 50 или 90 процентов этих задач, это говорит нам нечто весьма важное о том, что мы создаем в мире и какие другие виды работы он может заменить.

Как коллеги отреагировали на ваши идеи?

В Кремниевой долине существует множество различных кластеров. Такие люди, как Сатья, очень дальновидно думают об этих вещах и определенно берут на себя ответственность за то, что компании должны поступать правильно.

Но скептики определенно есть. Марк Андриссен, венчурный инвестор, просто считает, что особых негативных последствий не будет. Все будет хорошо и классно. Я такой же акселерационист, как и Андриссен, но мне просто более широко раскрыты глаза и мне комфортно говорить о потенциальном вреде, и я думаю, что это более интеллектуально честная позиция.

Каким вы видите состояние отношений между демократическими правительствами и Кремниевой долиной?

Мы видим много позитивных сигналов на этом фронте. Технологические компании активно участвуют в этом процессе, а правительства начинают проявлять инициативу. Так было не всегда, поэтому мы уже идем в правильном направлении. Правда в том, что это только начало. Требуется гораздо больше упорной работы, но основы уже начинают проявляться.