ИИ почти исключительно разрабатывается мужчинами – вот как это исправить

Это второй день Женщины и будущее науки конференции в Королевском обществе в Лондоне, но мне становится все труднее сосредоточиться на выступающих, потому что мой ИИ Программное обеспечение для транскрипции, которое должно облегчить мою жизнь, продолжает настаивать на том, чтобы допустить ошибку при вводе чьего-то имени. При каждом упоминании Джулии он печатает Джулиана. Я не упустил иронию: это сеанс об искусственном интеллекте и, в частности, о том, как женщины вытесняются из новейших технологий искусственного интеллекта.

Это гораздо больше, чем теперь знакомая идея о том, что Алгоритмы ИИ несут в себе предвзятость наборов данных, на которых они обучаются.включая гендерные предубеждения.

Вместо этого в центре внимания сессии конференции под председательством ученого-компьютерщика Венди Холлстремится решить более фундаментальную проблему: тот факт, что новые технологии искусственного интеллекта, которые окажут преобразующее воздействие на все общество, разрабатываются почти исключительно мужчинами.

Технологии всегда были преимущественно мужским сектором. В Великобритании, только 25 процентов изучающих информатику — женщины. Но в последние годы – и в то время как генеративный искусственный интеллект процветал – Кремниевая долина становится все более враждебной по отношению к женщинам.

«За последние два года произошел регресс», — говорит Дэвид Лесликоторый отвечает за исследования в области этики и ответственных инноваций в Институте Алана Тьюринга. “Вопрос о том, нанесла ли администрация Трампа ущерб женщинам в науке из поколения в поколение, бесспорен. Мы живем в эпоху ретроспективного мышления”.

В прошлом году президент США Дональд Трамп издал указ, направленный на так называемый пробудившийся ИИ, и рекомендовал Национальному институту стандартов и технологий США пересмотреть свою систему управления рисками в области ИИ, чтобы «Устранить ссылки на дезинформацию, разнообразие, равенство и инклюзивность, а также изменение климата».

Один участник дискуссии, Румман Чоудхуриспециалист по данным и бывший посланник науки США по искусственному интеллекту, до Илона Маска отвечал за этику и подотчетность в Twitter. взяла на себя управление и уволила свою команду. Она отмечает, что концепция пробудившегося ИИ родилась из женоненавистнических настроений в Кремниевой долине еще до приказа Трампа.

На просьбу Холла описать ИИ без женщин несколько участников дискуссии заявили, что мы уже достигли цели. «Я нахожусь в мире передового ИИ, и это мир ИИ без женщин», — говорит Чоудхури. Это чувство, отраженное Рэйчел Колдикатткоторый исследует социальные последствия новых и развивающихся технологий. “Если мы подумаем о том, как выглядит мир без женщин в ИИ, я думаю, что это то, что мы имеем на данный момент. Это вовсе не фантастика”.

Само собой разумеется: это важно. Существует долгая история разработки технологий для мужского тела и потребностей: от манекенов для краш-тестов до офисных кондиционеров. скафандры космонавтов и подавляющее большинство медицинских исследований. Это известно как пробел в гендерных данных, и последствия могут варьироваться от раздражающих до опасных для жизни.

ИИ повлияет на все: от работы, которую мы выполняем, до образования наших детей и болезней, которые мы можем лечить. Но в настоящее время только 2 процента финансирования венчурного капитала достается женщинам, отмечает Чоудхури. Тем временем, менее 1 процента исследований и инноваций в области здравоохранения направляется на улучшение здоровья женщин. «Нам нужно заставить технологии работать на 8 миллиардов человек, а не на восемь миллиардеров», — говорит Колдикатт.

Что делать? Учитывая сотни лет предвзятых данных, заложенных в текущие модели ИИ, Колдикатт не верит, что их можно будет исправить. «Нам нужны альтернативные модели», — говорит она. Это также шанс сместить фокус того, что делают эти модели. «Речь идет о развитии моделей… которые отдают приоритет заботе о людях и планете».

Чоудхури, который является соучредителем некоммерческой организации Humane Intelligence, которая помогает компаниям сделать системы ИИ более подотчетными и справедливыми, считает, что отчасти проблема заключается в том, что многие из нынешних разработок ИИ основаны на ложном чувстве срочности с акцентом на экзистенциальный риск, который ИИ представляет для рабочих мест и даже для человечества. Если повествование состоит в том, что ваш дом горит, «вы не спросите: «Что случилось с драгоценностями моей матери?», — говорит она. По ее словам, если люди чувствуют, что у них нет времени, они откажутся от всего, что кажется им посторонним, включая разнообразие.

Что касается следующего поколения, нам необходимо заняться экономической и политической основой, посредством которой развивается ИИ, если мы хотим побудить молодых людей развивать ИИ на благо общества, говорит Лесли: «Нам нужно начать с основ, начать с преобразования стимулов».

В конечном итоге нам, возможно, придется переосмыслить само определение интеллекта в контексте ИИ, включив в него более широкие и разнообразные способы мышления. Большая часть первоначальных представлений об ИИ, в том числе о том, как его определить, возникла в влиятельная встреча в 1950-х годах в Дартмутском колледже в Нью-Гэмпшире. «Это определение интеллекта взято из Дартмутской конференции», — говорит Холл. «Который, кстати, был всеми мужчинами».