Неточные алгоритмы благосостояния и бесплатное обучение ИИ

Новости: Алгоритм, финансируемый Всемирным банком для определения того, какие семьи должны получать финансовую помощь в Иордании, вероятно, исключает людей, которые должны соответствовать требованиям, как показало расследование Humans Rights Watch.

Почему это важно: Организация выявила несколько фундаментальных проблем с алгоритмической системой, которые привели к предвзятости и неточностям. Он ранжирует семьи, обращающиеся за помощью, от наименее бедных до самых бедных, используя секретный расчет, который присваивает веса 57 социально-экономическим показателям. Заявители говорят, что расчеты не отражают реальности и чрезмерно упрощают экономическое положение людей.

Большая картина: Исследователи этики ИИ призывают к более тщательному изучению растущего использования алгоритмов в системах социального обеспечения. Один из авторов отчета говорит, что его выводы указывают на необходимость большей прозрачности государственных программ, использующих алгоритмическое принятие решений. Прочитать всю историю.

— Тейт Райан-Мосли

Мы все свободные работники данных ИИ

Причудливые модели искусственного интеллекта, на которых работают наши любимые чат-боты, требуют большого человеческого труда. Даже самым впечатляющим чат-ботам требуются тысячи человеко-часов, чтобы вести себя так, как того хотят их создатели, и даже в этом случае они делают это ненадежно.

Аннотаторы человеческих данных дают моделям ИИ важный контекст, необходимый им для принятия масштабных решений и кажутся сложными, часто работая в невероятно быстром темпе для достижения высоких целей и сжатых сроков. Но некоторые исследователи утверждают, что мы все являемся бесплатными работниками по работе с данными в крупных технологических компаниях, знаем мы об этом или нет. Прочитать всю историю.