ИИ может иметь «невообразимые последствия» для демократических обществ, говорит эксперт. – Блог о здравоохранении

МАЙК МЭГИ

Его биография заявляет: «Он затрагивает философские вопросы о страхах и возможностях новых технологий, а также о том, как мы можем получить возможность формировать наше будущее. Его работа по объединению культур охватывает искусственный интеллект, познание, язык, музыку, творчество, этику, общество и политику».

Он называет себя «междисциплинарным», но его докторская диссертация в Калифорнийский университет в Беркли в 1980 году «был одним из первых, кто стимулировал сдвиг парадигмы в сторону технологий обработки естественного языка, основанных на машинном обучении». Ему приписывают изобретение и создание «первого в мире онлайн-переводчика языков глобального масштаба, который породил Google Translate, Yahoo Translate и Microsoft Bing Translator». явно “коннектор” в мире, который в настоящее время поглощен «разделителями». В 2019 году Google назвал Де Кая «одним из восьми первых членов Совета по этике ИИ».

Всеохватывающая проблема наших дней, по его мнению, связана друг с другом. Как он говорит, «Самый большой страх — это сам страх: то, как ИИ усиливает человеческий страх в геометрической прогрессии… обращая нас против самих себя через социальные сети, управляемые ИИ, порождает дезинформацию, разногласия, поляризацию, ненависть и паранойю». Система ценностей, которую он придерживается, «происходит из точки зрения гуманитарных наук, подчеркивая творчество как в технических, так и в гуманистических измерениях».

Доктор Де Кай в эти дни чувствует себя особенно срочно, что немного не в его характере.

Будучи семилетним ребенком китайских иммигрантов в Сент-Луисе, он плохо говорил по-английски, говоря то, что нужно было сказать, на семейном пианино. Лето проводилось то в Гонконге, то в Штатах. Другие заметили, что он добавлял немного блюза в классические пьесы, из-за чего его дедушка заметил, что синтезированные пьесы казались ему «китайскими». Это заставило начинающего лингвиста и музыковеда позже задуматься: «Это заставило меня задуматься. Я понял, что то, как мы понимаем музыку, действительно зависит от культурной системы взглядов, которую мы принимаем».

Музыка и технологии соединились во время его докторской диссертации в Калифорнийском университете в Беркли и в конечном итоге положили начало четырем десятилетиям исследований в области «обработки естественного языка и вычислительного творчества». Он заслужил право расслабиться, но сейчас чувствует себя совсем не спокойно, и причина его страданий — экзистенциальный искусственный интеллект.

Как он недавно сказал: «Мы находимся на грани нарушения всех наших социальных, культурных и государственных норм… Наши социальные нормы не предназначены для того, чтобы справиться с таким уровнем стресса».

Де Кай превратился в Специалист по этике ИИ. Он находится в личном поиске и хочет обнажить свою душу. Все вопросы, которые не дают ему спать по ночам, касаются того, правильно ли он воспитывает своих «детей-ИИ». «Подаю ли я хороший пример? Являюсь ли я хорошим примером для подражания? Общаюсь ли я с ИИ уважительно и учу ли их уважать разнообразие, или я показываю им, что оскорблять людей в Интернете — это нормально?»

Его внимание сосредоточено исключительно на здесь и сейчас, потому что он не верит, что время на нашей стороне. «Сегодня у нас больше ИИ, которые являются частью нашего общества. Это функционирующие, целостные, активные, подражательные, обучающиеся, влиятельные члены общества, которые более других — вероятно, более влиятельны, чем 90 процентов человеческого общества — в формировании культуры… Несмотря на то, что это действительно слабые ИИ, культура, которую мы формируем совместно с нашими искусственными членами общества, — это та культура, в которой каждое последующее более сильное поколение ИИ будет учиться и распространять свою культуру. Мы уже находимся в этом цикле и не осознаем этого, потому что не смотрим на машины с социологической точки зрения… Это беспрецедентно, учитывая, что способы, которые мы создали для развития и взаимодействия, как хорошие, так и плохие, будут экспоненциально увеличиваться. по ИИ. Таким образом, влияние, которое это окажет на общество и культуру, будет невообразимым».

Создание «сознательных ИИ» в эпоху Трампа — немалый подвиг. Он требует, чтобы дети ИИ были «помня о своей этической ответственности». Осуществить это в развитом мире со все более раздробленной системой образования, которая противопоставляет науку и технологии гуманитарным наукам, будет непростой задачей. По словам Де Кай: «Это худшее время в истории, когда существует система образования, которая калечит людей, лишая их возможности глубоко задуматься, выйдя за эти границы, о том, что такое человечество перед лицом технологий.

Чтобы добиться «соответствия ИИ целям человечества», американцам может потребоваться тщательно изучить свое здоровье и благополучие, что может оказаться крайне некомфортным. Благосостояние населения, философские трактаты и политический компромисс не совсем наши сильные стороны в культуре.

Как мы поступим с этими конкурирующими приоритетами, задается вопросом Де Кай в недавнем интервью Обзорная статья New York Times: «Краткосрочное мгновенное удовлетворение? Долгосрочное счастье? Избежание вымирания? Индивидуальные свободы? Коллективное благо? Границы неравенства? Равные возможности? Степень управления? Свободная речь? Безопасность от вредных высказываний? Допустимая степень манипуляции? Терпимость к разнообразию? Допустимое безрассудство? Права против обязанностей?»

«Культура имеет значение. ИИ теперь являются повседневной частью нашего общества», — говорит Де Кай. Изменение культуры, как известно медицинским работникам, это трудная задача. Речь идет о сострадании, понимании и партнерстве. Речь идет об исцелении, обеспечении здоровья и сохранении целостности отдельных людей, семей и сообществ. И, что наиболее важно, речь идет об управлении страхом, беспокойством и тревогой среди всего населения.

Де Кай намеревается изменить нашу историческую культуру (построенную на корысти, гиперконкуренции и недоверии к хорошему правительству). Это трудная задача, которую в равной степени признают родители, пасторы, политики и врачи. События развиваются, а сложные вещи требуют времени.

Майк Маги, доктор медицинских наук, историк медицины и постоянный автор статей в THCB. Он является автором СИНИЙ КОД: Внутри медико-промышленного комплекса Америки.