Паула Гордализа, математик: «Алгоритмы не работают в одиночку. Кто их использует, тот знает, что они делают и почему принимаются такие решения» | Технологии

Паула Гордализа (Вальядолид, 29 лет) использует математику, чтобы попытаться сделать общество немного более справедливым. Молодой исследователь награжден премией Vicent Caselles, ежегодно присуждаемой Королевским математическим обществом Испании. (RSME) и Фонд BBVA разработали систему для исправления предвзятости алгоритмов искусственного интеллекта (ИИ), способную делать более точные прогнозы, чем эксперт. «Проблема в том, что эти решения не всегда социально ответственны», — объясняет Гордализа в видеозвонке. Научный сотрудник Баскского центра прикладной математики в Бильбао и адъюнкт-профессор Государственного университета Наварры, она начала изучать способ устранения погрешностей алгоритмов во время работы над диссертацией в Университете Тулузы, когда ИИ еще не находился под увеличительным стеклом регуляторов. и общественное мнение. «За последние пять лет все изменилось очень быстро. Сейчас как никогда важно работать над влиянием искусственного интеллекта на жизнь людей», — говорит исследователь.

Просить. Вы часто используете искусственный интеллект в своей работе?

Отвечать. Мне нравится помнить, что я, прежде всего, математик, и то, чем я занимаюсь, — это исследования в области математики. Моя работа состоит из фундамента теоретических основ, которые нужны для разработки любой технологии, в частности искусственного интеллекта. Поэтому я больше занимаюсь изучением математических проблем и тем, как, когда эти вопросы решены с теоретической точки зрения, их можно применить к реальным задачам. В моем случае речь идет о машинном обучении и алгоритмической справедливости, которые входят в область искусственного интеллекта.

П. Как связаны математика и искусственный интеллект?

Р. Математика стоит за всеми научными и технологическими достижениями, и в последние годы ИИ стал самой модной формой продвижения. Что делает математика, так это устанавливает теоретические основы для решения проблем, с которыми мы сталкиваемся, которые в случае моего исследования были бы алгоритмическими предубеждениями искусственного интеллекта.

П. Что такое алгоритмический уклон?

Р. Это несколько сложно объяснить, потому что это слова, которые использовались так часто, что им придавалось множество значений в зависимости от контекста. В статистике что-то предвзятое — это то, что ведет себя не так, как ожидалось. В то время как, если мы перейдем к области искусственного интеллекта, где это слово используется часто, оно больше относится к склонностям или предубеждениям в пользу или против группы или отдельного человека на основе определенных характеристик, таких как пол или цвет кожи. Возможно, именно это способствует тому, что алгоритмы вызывают у людей страх и недоверие.

П. Для чего это?

Р. Мы наблюдаем широкое использование систем искусственного интеллекта, в частности алгоритмов, и это проявляется в аспектах, непосредственно влияющих на жизнь людей. Предоставление кредитов при подборе персонала для работы или в клинической сфере, чтобы решить, к кому применить лечение или поставить диагноз. Примеров еще много, но эти, пожалуй, самые распространенные. И, конечно же, тот факт, что алгоритмы могут решать эти вопросы, порождает страх и беспокойство у населения. Это будет происходить до тех пор, пока они не получат гарантии, что эти алгоритмы справедливы, надежны и интерпретируемы.

П. Что можно сделать, чтобы этот страх исчез?

Р. Именно здесь можно увидеть важность математики, поскольку она помогает нам понять, как работают алгоритмы, и является инструментом для открытия черного ящика искусственного интеллекта. Важно донести мысль о том, что алгоритмы не работают сами по себе, что те, кто их использует, знают, что они делают и почему принимаются эти решения. Это значительно уменьшит недоверие людей к вам.

Р. Вы говорили о предрассудках и дискриминации. Являются ли алгоритмы расистскими?

П. Алгоритмы не являются расистскими или сексистскими. Алгоритмы учатся на данных. Машинное обучение — это форма искусственного интеллекта, которая способна делать прогнозы и устанавливать соединения с огромными базами данных, которыми она способна управлять на высокой скорости. Проблема возникает, когда эти данные некачественные. По этой причине очень важно иметь качественные базы данных, которые не предвзяты в отношении переменных, которые могут содержать конфиденциальную информацию, такую ​​как раса, пол, инвалидность, сексуальная ориентация или любую другую информацию, которая может быть подвержена дискриминации. .

П. Этому посвящено ваше исследование.

Р. Идея состояла в том, чтобы попытаться создать две подгруппы населения, например, мужчин и женщин, максимально схожих по остальным характеристикам. Таким образом, я попытался удалить информацию о поле, чтобы алгоритмы не могли узнать пол людей и сохранить информацию, предоставленную остальной частью базы данных.

П. Общество улучшилось, когда дело доходит до дискриминации. Почему до сих пор существует так много предубеждений?

Р. Это не проблема общества. В конце концов, используется инструмент, который учится на исторических данных, и они предвзяты, так алгоритм учится. Что нужно сделать, чтобы двигаться вперед, так это поощрять исследования, потому что это вопрос знаний, а границы знаний становятся все более сложными. Если мы хотим стать лучше, нам нужны междисциплинарные команды, состоящие из математиков, статистиков, компьютерщиков и других специалистов, которые вносят свой вклад в общее дело. Нужны все точки зрения, а не только математическая перспектива, которую тоже нужно значительно улучшить.

П. Как?

Р. Конечно, следует продвигать академическую и исследовательскую карьеру, чтобы качественные исследования были сосредоточены исключительно на искусственном интеллекте, но с очень прочной математической базой, которая гарантирует, что то, что делается с помощью алгоритмов, является надежным, безопасным и справедливым. Для этого у молодых людей должна быть мотивация, привлекающая к этой карьере, что в наше время довольно сложно. Важно улучшить условия этой профессии, особенно на ранних этапах. Раньше, в 30 лет, вы уже были штатным профессором, а сейчас, в 29 лет, я все еще собираюсь стать ассистентом.

П. Когда вы говорите о мотивации, вы имеете в виду финансовые ресурсы?

Р. Отчасти, но есть и другие факторы, которые следует учитывать. Например, ощущение, что вы продвигаетесь по карьерной лестнице и получаете все более и более подходящие должности. Чтобы остаться в Испании и продолжать пробовать, важно чувствовать, что тебя ценят.

П. Вы защитили докторскую диссертацию во Франции. Как вы думаете, есть ли больше возможностей за границей?

Р. Есть много возможностей, но и в Испании. Математика, которая делается здесь, и исследования, которые там проводятся, имеют высокое качество.. Я уже прошел через этот опыт жизни за границей, и я уверен, что на протяжении всей моей карьеры у меня также будут другие возможности для обучения за рубежом, что, несомненно, повышает ценность вашей карьеры и дает много перспектив. Но моя конечная цель — остаться в Испании, где исследования, по крайней мере, в моей области, сильно продвигаются вперед, и значение, которое приобретает искусственный интеллект, даст нам много работы.

Вы можете следить СТРАНА Технологии в Фейсбук у Твиттер или зарегистрируйтесь здесь, чтобы получать наши информационный бюллетень.