Судебное дело Покорни все еще продолжается. В декабре Голландский институт прав человека издал временное постановление, в котором говорилось, что он подозревает, что программное обеспечение, используемое VU Amsterdam, носило дискриминационный характер, и давал университету 10 недель на то, чтобы подать свою защиту. Эта защита еще не обнародована, но VU Amsterdam ранее утверждал, что данные журнала Покорни, показывающие, сколько времени ей потребовалось, чтобы войти в свой экзамен и сколько раз ей пришлось перезапускать программное обеспечение, подразумевают, что ее проблемы были вызваны нестабильным интернетом. подключение, в отличие от проблем с технологией распознавания лиц. Решение ожидается позже в этом году.
Пандемия подстегнула производителей программного обеспечения для борьбы с мошенничеством, таких как Proctorio, поскольку экзаменационные залы были заменены собственными домами студентов. Цифровой мониторинг должен был помочь школам и университетам вести дела в обычном режиме во время карантина, не создавая возможности для неконтролируемых студентов списывать. Но пандемия закончилась, и программное обеспечение все еще используется, даже несмотря на то, что студенты по всему миру возвращаются к очному обучению. «Мы не верим, что это исчезнет», — сказал Джейсон Келли, который занимается слежкой за студентами в американской организации Electronic Frontier Foundation, в декабрьском обзоре состояния конфиденциальности студентов за 2022 год.
В США Амайя Росс говорит, что ее колледж в Огайо до сих пор использует программное обеспечение для борьбы с мошенничеством. Но каждый раз, когда она входит в систему, она беспокоится, что ее опыт во время пандемии повторится. Чернокожая Росс также говорит, что не могла получить доступ к своему тесту, когда впервые столкнулась с программным обеспечением в 2021 году. «Оно продолжало говорить: мы не можем распознать ваше лицо», — говорит Росс, которой в то время было 20 лет. Получив это сообщение три или четыре раза, она начала играть с ближайшими лампами и жалюзи. Она даже пыталась пройти тест стоя, прямо под потолочным светильником.
В конце концов она обнаружила, что если сбалансировать светодиодный фонарик на полке возле своего стола и направить его прямо себе в лицо, то сможет сдать экзамен по естествознанию, хотя свет почти ослеплял. Она сравнивает этот опыт с вождением ночью, когда машина приближается с другого направления с включенными фарами дальнего света. «Нужно было просто терпеть, пока все не было готово», — говорит она.
Росс отказывается назвать компанию, которая создала программное обеспечение, которое она использует до сих пор (Proctorio подала в суд по крайней мере на одного из своих критиков). Но после того, как ее мать, Дженис Уайатт-Росс, опубликовано О том, что произошло в Твиттере, Росс говорит, что представитель бизнеса связался с ней, посоветовав ей прекратить сдавать анализы перед белыми стенами. Сейчас она проходит тесты с разноцветной висящей за спиной стеной, которая пока вроде работает. Когда Росс спросила некоторых своих чернокожих или темнокожих друзей о программном обеспечении, многие из них столкнулись с похожими проблемами. «Но потом я спросила своих белых друзей, и они сказали: «Я сдаю тесты в темноте», — говорит она.
Как правило, технология распознавания и обнаружения лиц не распознает людей с более темной кожей, когда компании используют модели, не обученные на различных наборах данных, говорит Дебора Раджи, сотрудник Mozilla Foundation. В 2019 году Раджи совместно опубликовал аудит коммерческих продуктов для распознавания лиц, который показал, что некоторые из них на 30 процентов хуже распознают темнокожих женщин, чем белых мужчин. «Многие наборы данных, которые раньше широко использовались в области распознавания лиц, [2019] содержал более 90 процентов субъектов с более светлой кожей, 70 с лишним процентов мужчин», — говорит она, добавляя, что с тех пор был достигнут прогресс, но это не проблема, которая была «решена».
