Заговор «Мертвого Интернета» становится силой с обведением контента, генерируемого ИИ | Технология

«Я желал этого с пылом, который значительно превысил умеренность, но теперь, когда я достиг этого, красота сна исчезла и отвратительно и ужас ошеломила меня». Это реакция на его создание доктора Франкенштейна в работе Мэри Шелли, опубликованной в 1818 году и известного характером характера ученого или Современный ПрометейПолем Подобный головокружение пострадало от Сэма Альтмана, исполнительного директора Openai. Глава творческой компании одной из самых сложных событий искусственного интеллекта (ИИ) Начните верить в теорию «мертвого Интернета»который защищает, что генерируемый контент автоматически превышает сгенерированные люди, поэтому опасность манипуляции, дезинформации и обусловленности поведения намеренно умножатся.

Краткое сообщение Альтмана вызвало обеспокоенность: «Я никогда не воспринимал мертвую теорию интернета так серьезно, но, похоже, сейчас много аккаунтов в Твиттере [ahora X y propiedad de Elon Musk] Управляется LLM », языковые модели ИИ.

Аарон Харрис, глобальный технологический директор (CTO) в Sage, многонациональный специализирован в приложениях искусственного интеллектаЭто осторожно с точки зрения деноминации явления, хотя он не отрицает процесс: «Я не знаю, назову ли я его« мертвым интернетом », но он, безусловно, быстро меняется. Рост автоматического содержания и взаимодействие, управляемое боты [programas informáticos que imitan el comportamiento humano] делает все труднее разделить подлинный шум. Вопрос в том, позволяем ли мы этот шум перегружать или сосредоточиться на разработке технологий, которая восстанавливает доверие. Теперь важно то, как мы фильтруют, проверяем и показываем информацию, в которой люди могут доверять. ”

Конкретная ссылка на социальную сеть Альтмана не является бесплатной. «Это жизненно важное значение, поскольку социальные сети в настоящее время являются основным источником информации для многих пользователей по всему миру», – пишут Джейк Ренцелла, директор по компьютерным наукам, и Vlada Rozova, автоматический исследователь обучения, в университетах Nueva Gales del Sur (Unsw Sydney) и Мельбурн, соответственно, в статье, опубликованной в статье, опубликованной в статье, опубликованной в статье, опубликованной в статье, опубликованной в статье, опубликованной в статье, опубликованной в статье, опубликованной в РазговорПолем

«По мере того, как эти счета, способствующие ИИ, растут в последователях (многие ложные, некоторые истинные), что большое число узаконивает учетную запись для реальных пользователей. Это означает, что существует армия счетов. Уже есть убедительные доказательства того, что социальные сети управляются этими боты Чтобы влиять на общественное мнение с дезинформацией и происходило в течение многих лет », – сказали австралийские исследователи в соответствии с предупреждением Альтмана. Исследование Из непроницаемой безопасности, опубликованной два года назад, уже рассчитала, что «почти половина всего интернет -трафика была сделана боты”

Уже есть убедительные доказательства того, что социальные сети манипулируют боты [programas informáticos que imitan el comportamiento humano] Чтобы влиять на общественное мнение с дезинформацией и происходило годами “

Исследователи университетов Джейка Ренцелла и Влада Розова, Сиднея и Мельбурна университетов

И те боты Они не только способны создавать единственный контент, но и подражать формуле, чтобы их диффузия была массивной и вирусной. Согласно новому исследованию, опубликованному в Письма о физическом обзоре и режиссер исследователей из Университета Вермонта и Института Санта -Фе: «Что распространяется, будь то убеждение, шутка или вирус, развивается в режиме реального времени и приобретает силу по мере его распределения», следуя математической модели «Каскады самоотровнесения [Self-Reinforcing Cascades]”

Согласно этому исследованию, то, что распространяется по мере его распространения, и это изменение помогает поместить его в модель, похожую на пожары шестого поколения, невозможно отключить с обычными средствами. «Мы вдохновляем себя в лесных пожарах: они могут стать сильнее, когда сжигают густые и слабые леса, когда пересекаются открытые пробелы. Тот же принцип применяется к информации, шуткам или болезням. Они могут быть усилены или ослаблены в зависимости от условий», -объясняет Сид Реднер, физический, профессор Института Санта -Фе и соавтор статьи.

Можжейпер Ловато, Компьютерный ученый Сообщание исследования считает, что работа позволяет нам лучше понять, как генерируется формирование убеждений, дезинформация и социальная инфекция. «Это дает нам теоретическую основу для изучения того, как развиваются и распространяются истории и повествования через сети», – говорит он.

Исследователи предупреждают, что риски вирусализации контента, которые поддерживают манипулирование или дезинформацию, умножаются на инструменты искусственного интеллекта и требуют большей осведомленности об опасностях участников и агентов искусственного интеллекта.

Потому что эти новые инструменты ИИ не только знают, как разработать контент и виризовать его, но и как лично и эффективно влиять на информацию, которую она собирает от взаимодействия с пользователями.

На работе ¿Отличная помощь или отличный брат? Мониторинг аудита, создание профиля и настройка у помощников по генеративнымПредставлено в Симпозиум безопасности USENIX Отмеченные в Сиэтле, уязвимость пользователей анализируется под влиянием.

«Когда дело доходит до восприимчивости к влиянию на социальные сети, это не только то, кем вы являетесь, но и там, где вы находитесь в сети и кого вы подключены», -объясняет Лука Лучери, исследователь из Университета Южной Калифорнии и соавтор работы.

“Парадокс восприимчивости”

В этом смысле исследования отражают явление, называемое «парадокс восприимчивости», который является «шаблоном, для которого пользователи в среднем больше влияют, чем владельцы учетной записи». Согласно работе, это поведение «может объяснить, как популяризируется поведение, тенденции и идеи, и почему некоторые интернет -углы более уязвимы к влиянию, чем другие».

Люди, которые публикуют, потому что другие часто являются частью кругов, очень близких к аналогичному поведению и предполагают, согласно исследованию, что «социальное влияние работает не только посредством прямых обменов между людьми, но также формируется и ограничена структурой сети».

Таким образом, можно предсказать, кто с большей вероятностью поделится контентом, шахтой для автоматической вирусализации из персональных данных, собранных ИИ. «Во многих случаях знание того, как ведут себя друзья пользователя, достаточно, чтобы оценить, как будет вести себя пользователь», – предупреждает исследование.

Решение влияния этого искусственного интеллекта на Интернет, созданный людьми, но который начинает доминировать, является не только нормативным. В соответствии с Этика передовых помощников ИИСложная и исчерпывающая работа Google DeepMind с примерно двадцатью исследователями и университетами, задача должна быть в тетраэдрических отношениях Среди ИИ пользователь, разработчик и общество для разработки «адекватного набора ценностей или инструкций, чтобы они безопасно функционировали в мире и давали результаты, которые широко полезны».

Работа исследователей разрабатывает в качестве законов Асимова для робототехники, серию заповедей, чтобы избежать иностранца моральных принципов, которые можно обобщить следующим образом: она не будет манипулировать пользователю, чтобы предположить интересы ИИ (его разработчиков) или генерировать социальные издержки (такие как дезинформация), он не позволит пользователю, не позволяет пользователю, не позволяет общедоступно, а также ограничивает общество, не поддается негативным стратегиям для общего, а также ограниченные, и не будут ограничены. свобода.

Проблема не обязательно, если содержание поступает от человека или искусственного интеллекта, но если кто -то берет на себя ответственность за это »

Аарон Харрис, технический директор

Аарон Харрис, технический директор De Sega, создает возможный этический интернет, – но это не случайно », – говорит он. «Прозрачность и ответственность должны определить, как разрабатывается и регулируется IA. Компании, которые развивают его онлайн: Ответственное формирование, четкая маркировка и способность подвергать сомнению результаты могут привести к тому, что ИИ стать частью более этического и надежного Интернета. ”

Харрис защищает защиту «человеческого интернета», особенно теперь, когда все больше и больше контента созданы боты», Но не за счет дозирования с достижениями достигнутых достижений». Я не верю, что решение состоит в том, чтобы вернуться в мир перед ИИ и попытаться полностью ограничить или устранить контент, который он сгенерировал. Это уже часть нашего образа жизни и работы, и может обеспечить реальную ценность при использовании ответственным образом. Проблема в том, отвечает ли кто -то за содержание. Это принцип, которым должны следовать все компании: ИИ должен улучшить человеческую способность, а не заменить его. Это все еще возможен более человеческий интернет, но только если мы поддержим потребности людей в центре и несем ответственность быть неудовлетворимыми. ”