Скрытые предположения при захвате движения могут иметь серьезные последствия

По мнению исследователей, когда дизайнеры используют неточные изображения человеческого тела, использование искусственного интеллекта в некоторых приложениях может быть не столь безопасным для тех, кто не соответствует этому типу телосложения. новое исследование опубликовано в arXiv сервер препринтов.

Эти ошибочные предположения определяют то, что считается нормой для человеческого тела, и проникли в ИИ благодаря захвату движения, сказала соавтор исследования Эбигейл Джейкобс, доцент Школы информации и Центра изучения сложных систем UM.

Исследование показывает, какую важную роль ИИ играет в проектировании, разработке и внедрении систем захвата движения, которые определяют движение людей, животных и объектов в пространстве.

Используя датчики и/или камеры, эти системы собирают данные, которые затем можно моделировать на компьютере для создания «цифровых скелетов», которые можно использовать для анимации видеоигр, диагностики состояние здоровья или смоделировать эргономику рабочего места.

«Эти системы используются в самых разных приложениях: от проектирования безопасных производственных помещений до дополненной реальности и автономных транспортных средств», — сказал Джейкобс. «Они зависят, например, от стилизованных и ошибочных предположений о том, чьи человеческие тела являются «стандартными» или «репрезентативными»».

В том же исследовании Джейкобс и его коллеги также углубились в исторические практики, восходящие к 1930-м годам, выявив тревожную тенденцию: чрезмерная зависимость от здоровых взрослых мужчин для представления «типичных» тел и движений. Другие исходные данные по-прежнему являются частью современных, новейших систем, основанных на телах умерших мужчин, где имитация движения замороженных трупов заменяет живое движение. По словам исследователей, это приводит к искаженным представлениям и предположениям.

Со временем эти предположения внедряются в современное программное обеспечение, нанося потенциальный ущерб тому, как системы захвата движения представляют тела. Это аналогично тому, как цветная фотография была разработана для съемки только светлых тонов кожи, но с вредом в том, как современные камеры изображают тела с более темной кожей.

«Вспомните историческую практику использования манекенов для краш-тестов на основе нормативных мужских тел, что приводит к более высокому уровню травматизма среди женщин и детей», — сказал Джейкобс. «Учитывая спектр применения захвата движения систем, потенциально вредно, когда предполагается, что тела движутся и выглядят, например, как спортивные молодые люди или замороженные трупы».

В исследовании изложен аналитическая основа которые можно применить к другим технологиям, обратив внимание на то, как предположения встроены в аппаратное обеспечение и ИИ, как тела представлены в системах ИИ и насколько скрыты предположенияПо словам Джейкобса, зачастую старые, необоснованные технологии формируют современные технологии.