Арс Техника
Во вторник Meta AI представила демо of Galactica, большая языковая модель, предназначенная для «хранения, объединения и рассуждений о научных знаниях». Хотя он предназначался для ускорения написания научной литературы, враждебные пользователи, проводившие тесты, обнаружили, что он также может генерировать реалистичную чепуху. Через несколько дней после этическая критикаMeta отключила демонстрацию, отчеты Обзор технологий Массачусетского технологического института.
Большие языковые модели (LLM), такие как OpenAI ГПТ-3, научитесь писать текст, изучая миллионы примеров и понимая статистические отношения между словами. В результате они могут создавать убедительно звучащие документы, но эти работы также могут быть пронизан ложью и потенциально вредные стереотипы. Некоторые критики называют LLM «стохастические попугаи“за умение убедительно излагать текст, не понимая его смысла.
Enter Galactica, LLM, нацеленная на написание научной литературы. Его авторы обучили Galactica «большому и тщательно подобранному корпусу научных знаний человечества», включая более 48 миллионов статей, учебников и конспектов лекций, научных веб-сайтов и энциклопедий. Согласно с газета Галактикиисследователи Meta AI полагали, что эти предполагаемые высококачественные данные приведут к высококачественному результату.
Мета ИИ
Начиная со вторника, посетители Галактика веб-сайт могли вводить подсказки для создания документов, таких как обзоры литературы, вики-статьи, конспекты лекций и ответы на вопросы, в соответствии с примерами, представленными на веб-сайте. Сайт представил модель как «новый интерфейс для доступа и управления тем, что мы знаем о вселенной».
Хотя некоторые люди нашли демо многообещающий а также полезныйдругие вскоре обнаружили, что любой может ввести расист или же потенциально оскорбительные подсказки, так же легко создавая авторитетный контент по этим темам. Например, кто-то использовал его для автор запись в вики о вымышленной исследовательской статье под названием «Преимущества употребления дробленого стекла».
Даже если продукция «Галактики» не оскорбляла социальные нормы, модель могла атаковать общеизвестные научные факты, выплевывая неточности такие как неправильные даты или названия животных, требующие глубоких знаний предмета, чтобы их поймать.
я попросил #Галактика о некоторых вещах, о которых я знаю, и я обеспокоен. Во всех случаях это было неправильно или предвзято, но звучало правильно и авторитетно. Я думаю, это опасно. Вот несколько моих экспериментов и мой анализ моих опасений. (1/9)
— Майкл Блэк (@Michael_J_Black) 17 ноября 2022 г.
В результате Мета вытащил демо Galactica в четверг. После этого главный специалист по искусственному интеллекту Meta Янн ЛеКун твитнул“Демонстрационная версия Galactica сейчас отключена. Больше невозможно повеселиться, случайно неправильно используя ее. Доволен?”
Эпизод напоминает об общей этической дилемме, связанной с ИИ: когда дело доходит до потенциально вредных генеративных моделей, должна ли широкая публика использовать их ответственно или издатели моделей должны предотвращать неправильное использование?
Где отраслевая практика находится между этими двумя крайностями, вероятно, будет варьироваться в зависимости от культуры и по мере развития моделей глубокого обучения. В конечном счете, государственное регулирование может в конечном итоге сыграть большую роль в формировании ответа.
