ИИ причиняет реальный вред. Давайте сосредоточимся на этом, а не на шумихе о конце человечества

неправомерный арестырасширяющийся брелок для наблюдения, клевета и фейковая порнография — это все реально существующие опасности так называемых инструментов «искусственного интеллекта», представленных в настоящее время на рынке. Именно это, а не воображаемый потенциал уничтожения человечества, является реальным угроза от искусственного интеллекта.

Несмотря на шумиху со стороны многих фирм, занимающихся искусственным интеллектом, их технология уже позволяет проводить рутинную дискриминацию в Корпус, уголовное правосудие и здравоохранениетак же хорошо как распространение языка ненависти и дезинформации на неанглийских языках. Уже, алгоритмическое управление программы подвергают рабочих заурядным воровство заработной платыи эти программы становятся все более распространенными.

Тем не менее, в мае некоммерческий Центр безопасности ИИ опубликовал заявление, подписанное сотнями лидеров отрасли, в том числе генеральным директором OpenAI Сэмом Альтманом, с предупреждением о «риск вымирания из-за ИИ», что, как утверждалось, было сродни ядерной войне и пандемиям. Альтман ранее упоминал о таком риске на слушаниях в Конгрессе. предполагая, что генеративные инструменты ИИ могут пойти «совершенно неправильно». А в июле руководители компаний, занимающихся искусственным интеллектом, встретились с президентом Джо Байденом и сделали несколько беззубых добровольных обязательств сократить «наиболее значительные источники рисков ИИ», намекая на экзистенциальные угрозы, а не на реальные. Корпоративные лаборатории искусственного интеллекта оправдывают это позерство тем, что отчеты о псевдонаучных исследованиях что неправильное внимание регулирующих органов к таким воображаемым сценариям, используя нагнетающую страх терминологию, такую ​​как «экзистенциальный риск».

Широкая общественность и регулирующие органы не должны поддаваться на этот научно-фантастический маневр. Скорее, мы должны смотреть на ученые и активисты которые практикуют экспертную оценку и имеют отодвинутый назад на хайпе ИИ, чтобы понять его пагубные последствия здесь и сейчас.

Поскольку термин «ИИ» неоднозначен, это затрудняет четкие обсуждения. В каком-то смысле это название области компьютерных наук. С другой стороны, это может относиться к вычислительным методам, разработанным в этой области, большинство из которых в настоящее время сосредоточены на сопоставлении шаблонов на основе больших наборов данных и создании новых медиа на основе этих шаблонов. Наконец, в рекламном тексте и презентациях стартапов термин «ИИ» служит волшебной волшебной пыльцой, которая зарядите свой бизнес.

С выпуском OpenAI ЧатGPT (и Включение Microsoft этого инструмента в поиск Bing) в конце прошлого года машины для синтеза текста стали наиболее известными системами искусственного интеллекта. Большие языковые модели, такие как ChatGPT, выдавливают удивительно плавный и связный текст, но не понимают, что означает текст, не говоря уже о способности рассуждать. (Предполагать так — значит приписывать понимание там, где его нет, что-то сделанное чисто на веру с помощью усилителей ИИ.) Вместо этого эти системы являются эквивалентом огромных Magic 8 Balls, с которыми мы можем играть, формулируя подсказки, которые мы отправляем им, как вопросы, чтобы мы могли понять их вывод как ответы.

К сожалению, этот результат может показаться настолько правдоподобным, что без четкого указания на его синтетическое происхождение он становится вредным и коварным загрязнителем нашей информационной экосистемы. Мало того, что мы рискуем ошибочно принять синтетический текст за достоверную информацию, но и то, что неинформация отражает и усиливает предубеждения, закодированные в обучающих данных — в данном случае все виды фанатизма, демонстрируемые в Интернете. Более того, синтетический текст звучит авторитетно, несмотря на отсутствие ссылок на реальные источники. Чем дольше продолжается эта синтетическая текстовая утечка, тем хуже для нас, потому что становится все труднее найти надежные источники и труднее доверять им, когда мы это делаем.

Тем не менее, люди, продающие эту технологию, предполагают, что машины для синтеза текста могут исправить различные дыры в нашей социальной ткани: нехватка учителей в образовании K–12, недоступность медицинской помощи для малообеспеченных и нехватка юридической помощи для людей, которые не могут позволить себе адвокатов, и это лишь некоторые из них.

Помимо того, что на самом деле не помогает нуждающимся, внедрение этой технологии на самом деле вредит работникам: системы опираются на огромные объемы обучающих данных, которые украдено без компенсации от художников и авторов, которые создали его в первую очередь.

Во-вторых, задача маркировки данных для создания «ограждений», предназначенных для предотвращения просачивания наиболее токсичных результатов системы ИИ, повторяется и часто повторяется. травматический труд осуществляется гиг-рабочими и подрядчиками, людьми, запертыми в глобальная гонка на дно по оплате и условиям труда.

Наконец, работодатели стремятся сократить расходы, используя автоматизацию, увольняя людей с ранее стабильных рабочих мест, а затем снова нанимая их. как низкооплачиваемые работники, чтобы исправить выход автоматизированных систем. Наиболее отчетливо это видно в нынешних актерских и писательских взглядах. забастовки в Голливудегде гротескно переплачиваемые магнаты схема купить вечные права на использование ИИ замен актеров по цене рабочего дня и нанимать писателей по частям, чтобы пересмотреть бессвязные сценарии созданный ИИ.

Политика в отношении ИИ должна быть научно обоснованной и основываться на соответствующих исследованиях, но слишком много публикаций по ИИ исходит от корпоративных лабораторий или академических групп, которые получать непропорциональное отраслевое финансирование. Многое является лженаукой — она невоспроизводима, прикрывается коммерческой тайной, полна шумихи и использует методы оценки, которые отсутствие конструктной валидности (свойство, заключающееся в том, что тест измеряет то, что он должен измерять).

Некоторые недавние замечательные примеры включают 155-страничная препринтная бумага под названием «Искры общего искусственного интеллекта: ранние эксперименты с GPT-4» от Microsoft Research, целью которого является поиск «разума» в выводе GPT-4, одной из машин для синтеза текста OpenAI, и собственные технические отчеты на GPT-4 — который требоватьсреди прочего, что системы OpenAI имеют возможность решать новые задачи, которых нет в их обучающих данных.

Однако никто не может проверить эти утверждения, потому что OpenAI отказывается предоставлять доступ к этим данным или даже их описание. Тем временем «обманщики ИИ», пытающиеся привлечь внимание всего мира к фантазиям о всемогущих машинах, которые, возможно, выйдут из-под контроля и уничтожат все человечество, ссылаются на этот мусор, а не на исследования фактического вреда, который компании наносят в реальном мире от имени создания ИИ.

Мы призываем политиков вместо этого опираться на солидные научные данные, изучающие вред и риски, связанные с ИИ, а также вред, причиняемый делегированием полномочий автоматизированным системам, в том числе нерегулируемое накопление данных и вычислительной мощности, климатические издержки обучения моделей и выводов, ущерб государству всеобщего благосостояния и лишение прав бедных, а также усиление полицейской деятельности против черных и коренных семей. Тщательные исследования в этой области, включая социальные науки и построение теории, и продуманная политика, основанная на этих исследованиях, будут держать в центре внимания людей, пострадавших от этой технологии.

Это статья с мнением и анализом, и взгляды, выраженные автором или авторами, не обязательно совпадают с мнениями Научный американец.