1765481507
2025-12-11 18:30:00
Системы искусственного интеллекта поглощают значения из своих обучающих данных. Проблема в том, что ценности различаются в разных культурах. Таким образом, система искусственного интеллекта, обученная на данных со всего Интернета, не будет одинаково хорошо работать для людей из разных культур.
Но новое исследование Вашингтонского университета предполагает, что ИИ может изучать культурные ценности, наблюдая за поведением человека. Исследователи попросили системы искусственного интеллекта наблюдать за людьми из двух культурных групп, играющими в видеоигру. В среднем участники одной группы вели себя более альтруистично. ИИ, закрепленный за каждой группой, изучил степень альтруизма этой группы и смог применить это значение к новому сценарию, выходящему за рамки того, которому они обучались.
Команда опубликовал свои выводы 9 декабря в PLOS One.
«Мы не должны жестко запрограммировать универсальный набор ценностей в системах искусственного интеллекта, потому что многие культуры имеют свои собственные ценности», — сказал старший автор. Раджеш Раопрофессор Университета Вашингтона в Школе компьютерных наук и инженерии Пола Дж. Аллена и содиректор Центра нейротехнологий. «Поэтому мы хотели выяснить, может ли система ИИ усваивать ценности так же, как это делают дети, наблюдая за людьми в их культуре и усваивая их ценности».
В исследовании ИИ команда набрала 190 взрослых, идентифицировавших себя как белых, и 110, идентифицировавших себя как латиноамериканцев. Каждой группе было присвоено агент ИИсистема, которая может функционировать автономно.
Эти агенты были обучены с помощью метода, называемого обратным обучением с подкреплением или IRL. В более распространенном методе обучения ИИ, обучении с подкреплением или RL, система получает цель и получает вознаграждение в зависимости от того, насколько хорошо она работает для достижения этой цели. В реальной жизни система ИИ наблюдает за поведением человека или другого агента ИИ и делает вывод о цели и лежащих в ее основе вознаграждениях. Таким образом, робот, обученный играть в теннис с помощью RL, будет вознагражден, когда он наберет очки, в то время как робот, обученный с помощью IRL, будет наблюдать за профессионалами, играющими в теннис, и учиться подражать им, определяя цели, например, набирать очки.
Этот подход IRL более тесно связан с тем, как развивается человек.
“Родители не просто обучают детей выполнять определенную задачу снова и снова. Скорее, они моделируют или действуют так, как они хотят, чтобы поступали их дети. Например, они моделируют умение делиться и заботиться о других”, – сказал соавтор. Эндрю Мельцовпрофессор психологии Университета Вашингтона и содиректор Института обучения и наук о мозге (I-LABS). “Дети учатся практически путем осмоса, как люди действуют в сообществе или культуре. Человеческие ценности, которые они изучают, скорее “уловляются”, чем “учатся”.
В ходе исследования агентам ИИ были предоставлены данные участников, играющих в модифицированную версию видеоигры Overcooked, в которой игроки готовят и доставляют как можно больше лукового супа. Игроки могли заглянуть на другую кухню, где второму игроку приходилось идти дальше, чтобы выполнить те же задачи, что ставило их в явно невыгодное положение. Участники не знали, что второй игрок был ботом, запрограммированным обращаться за помощью к игрокам-людям. Участники могли пожертвовать луком, чтобы помочь боту, но ценой доставки меньшего количества супа.
Исследователи обнаружили, что в целом люди из латиноамериканской группы предпочитали помогать больше, чем люди из белой группы, а агенты ИИ усвоили альтруистические ценности группы, на которой они обучались. Во время игры агент, обученный на данных латиноамериканцев, отдал больше лука, чем другой агент.
Чтобы проверить, усвоили ли агенты ИИ общий набор ценностей альтруизма, команда провела второй эксперимент. В другом сценарии агентам нужно было решить, стоит ли пожертвовать часть своих денег нуждающемуся. Опять же, агенты, обученные на латиноамериканских данных из Overcooked, были более альтруистическими.
“Мы думаем, что наши демонстрации концепции будут масштабироваться по мере увеличения количества и разнообразия данных, специфичных для конкретной культуры, которые вы передаете агенту ИИ. Используя такой подход, компания, занимающаяся искусственным интеллектом, потенциально может точно настроить свою модель для изучения ценностей конкретной культуры, прежде чем развертывать свою систему ИИ в этой культуре”, – сказал Рао.
Необходимы дополнительные исследования, чтобы узнать, как этот тип обучения IRL будет работать в реальных сценариях, с большим количеством культурных групп, конкурирующими наборами ценностей и более сложными проблемами.
«Создание ИИ, учитывающего культурные особенности, является важным вопросом для общества», — сказал Мельцов. «Как нам создать системы, которые смогут учитывать точку зрения других и стать гражданскими?»
Нигини Оливейрапостдокторант UW в Школе Аллена, и Жасмин Лиинженер-программист Microsoft, который завершил это исследование, будучи студентом Университета Вашингтона, был одним из ведущих авторов. Другие соавторы включают Куша Халватиученый из Института Аллена, который завершил это исследование в качестве аспиранта Университета Вашингтона; Родольфо Кортес Баррагандоцент Государственного университета Сан-Диего, который завершил это исследование в качестве постдокторанта в Университете Вашингтона; и Катарина Райнекепрофессор школы Аллена и директор Центр глобально полезного искусственного интеллекта в УВ.
Для получения дополнительной информации свяжитесь с Рао по адресу: [email protected].
#ИИ #может #перенимать #культурные #ценности #подражая #тому #как #учатся #дети
Читайте также
