Нью-Йорк пытается регулировать использование ИИ при приеме на работу

Европейские законодатели заканчивают работу над законом об искусственном интеллекте. У администрации Байдена и лидеров Конгресса есть свои планы по обузданию искусственного интеллекта. Сэм Альтман, исполнительный директор OpenAI, создатель сенсации ChatGPT, рекомендовал создать федеральное агентство с надзорными и лицензирующими полномочиями в показаниях Сената на прошлой неделе. И эта тема всплыла на саммите «Большой семерки» в Японии.

На фоне обширных планов и обещаний Нью-Йорк стал скромным пионером в области регулирования ИИ.

В 2021 году городское правительство приняло закон, а в прошлом месяце приняло конкретные правила для одного из важнейших применений технологии: решений о найме и продвижении по службе. Исполнение начинается в июле.

Закон города требует, чтобы компании, использующие программное обеспечение ИИ при приеме на работу, уведомляли кандидатов об использовании автоматизированной системы. Это также требует от компаний, чтобы независимые аудиторы ежегодно проверяли технологию на предвзятость. Кандидаты могут запрашивать и получать информацию о том, какие данные собираются и анализируются. Компании будут оштрафованы за нарушения.

Целенаправленный подход города Нью-Йорка представляет собой важный фронт в регулировании ИИ. Эксперты говорят, что в какой-то момент общие принципы, разработанные правительствами и международными организациями, должны быть переведены в детали и определения. Кого затрагивает технология? В чем польза и вред? Кто может вмешаться и как?

«Без конкретного варианта использования вы не сможете ответить на эти вопросы», — сказала Юлия Стоянович, доцент Нью-Йоркского университета и директор его Центра ответственного ИИ.

Но еще до того, как он вступил в силу, закон Нью-Йорка стал магнитом для критики. Защитники общественных интересов говорят, что этого недостаточно, в то время как бизнес-группы говорят, что это непрактично.

Жалобы обоих лагерей указывают на проблему регулирования ИИ, которая развивается бурными темпами с неизвестными последствиями, вызывая энтузиазм и тревогу.

Непростые компромиссы неизбежны.

Г-жа Стоянович обеспокоена тем, что в городском законе есть лазейки, которые могут его ослабить. «Но это намного лучше, чем отсутствие закона, — сказала она. «И пока вы не попытаетесь регулировать, вы не научитесь».

Закон распространяется на компании с работниками в Нью-Йорке, но эксперты по трудовым вопросам ожидают, что он повлияет на практику на национальном уровне. По крайней мере, четыре штата — Калифорния, Нью-Джерси, Нью-Йорк и Вермонт — и округ Колумбия также работают над законами, регулирующими использование ИИ при приеме на работу. А Иллинойс и Мэриленд приняли законы, ограничивающие использование конкретных технологий искусственного интеллекта, часто для наблюдения за рабочим местом и проверки кандидатов на работу.

Закон Нью-Йорка возник в результате столкновения резко противоречащих друг другу точек зрения. Городской совет принял его в последние дни правления мэра Билла де Блазио. Раунды слушаний и публичных комментариев, более 100 000 слов, были проведены позже — под контролем городского Департамента по защите прав потребителей и работников, нормотворческого агентства.

Результат, по мнению некоторых критиков, чрезмерно соответствует интересам бизнеса.

«То, что могло бы стать знаковым законом, было смягчено, чтобы потерять эффективность», — сказала Александра Гивенс, президент Центра демократии и технологий, организации, занимающейся политикой и гражданскими правами.

Это потому, что закон определяет «автоматизированный инструмент принятия решений о приеме на работу» как технологию, используемую «для существенной помощи или замены дискреционного принятия решений», сказала она. По словам г-жи Гивенс, правила, принятые городскими властями, интерпретируют эту формулировку узко, так что программное обеспечение ИИ потребует аудита только в том случае, если оно является единственным или основным фактором при принятии решения о найме или используется для отмены действий человека.

По ее словам, при этом не учитывается основной способ использования автоматизированного программного обеспечения, и окончательный выбор всегда остается за менеджером по найму. По ее словам, потенциал дискриминации с помощью ИИ обычно заключается в проверке сотен или тысяч кандидатов до горстки или в целевом онлайн-рекрутинге для создания пула кандидатов.

Г-жа Гивенс также подвергла критике закон за ограничение видов групп, оцениваемых за несправедливое обращение. Он охватывает предвзятость по признаку пола, расы и этнической принадлежности, но не дискриминацию в отношении пожилых работников или инвалидов.

«Меня больше всего беспокоит то, что это становится шаблоном на национальном уровне, тогда как мы должны спрашивать гораздо больше наших политиков», — сказала г-жа Гивенс.

По словам городских властей, закон был сужен, чтобы уточнить его и обеспечить его целенаправленность и применимость. Совет и агентство по защите рабочих услышали множество голосов, в том числе общественных активистов и компаний-разработчиков программного обеспечения. По словам официальных лиц, его цель состояла в том, чтобы взвесить компромиссы между инновациями и потенциальным вредом.

«Это значительный регуляторный успех в обеспечении этичного и ответственного использования технологии ИИ», — сказал Роберт Холден, который был председателем комитета Совета по технологиям на момент принятия закона и остается членом комитета.

Нью-Йорк пытается рассмотреть новые технологии в контексте федеральных законов о рабочих местах с рекомендациями по найму, датируемыми 1970-ми годами. Основное правило Комиссии по обеспечению равных возможностей при трудоустройстве гласит, что никакая практика или метод отбора, используемые работодателями, не должны иметь «несопоставимого воздействия» на такую ​​охраняемую законом группу, как женщины или меньшинства.

Бизнес раскритиковал закон. В этом году Software Alliance, торговая группа, в которую входят Microsoft, SAP и Workday, заявила, что требование о проведении независимого аудита ИИ «неосуществимо», поскольку «среда аудита только зарождается», в ней отсутствуют стандарты и профессиональные надзорные органы.

Но зарождающееся поле — это рыночная возможность. Эксперты говорят, что бизнес аудита ИИ будет только расти. Он уже привлекает юридические фирмы, консультантов и стартапы.

Компании, которые продают программное обеспечение ИИ для помощи в принятии решений о найме и продвижении по службе, обычно принимают регулирование. Некоторые из них уже прошли внешний аудит. Они рассматривают это требование как потенциальное конкурентное преимущество, доказывая, что их технология расширяет круг кандидатов на работу в компаниях и расширяет возможности для работников.

«Мы считаем, что можем соблюсти закон и показать, как выглядит хороший ИИ», — сказал Рой Ван, генеральный юрисконсульт Eightfold AI, стартапа из Силиконовой долины, который производит программное обеспечение, используемое для помощи менеджерам по найму.

Закон Нью-Йорка также использует подход к регулированию ИИ, который может стать нормой. Ключевым показателем закона является «коэффициент воздействия» или расчет влияния использования программного обеспечения на защищенную группу кандидатов на работу. Он не вникает в то, как алгоритм принимает решения, понятие, известное как «объяснимость».

Критики говорят, что в жизненно важных приложениях, таких как найм, люди имеют право на объяснение того, как было принято решение. Но ИИ, подобный программному обеспечению в стиле ChatGPT, становится все более сложным, возможно, делая цель объяснимого ИИ недостижимой, считают некоторые эксперты.

«В центре внимания находятся результаты работы алгоритма, а не работа алгоритма», — сказала Эшли Касован, исполнительный директор Института ответственного ИИ, который разрабатывает сертификаты для безопасного использования приложений ИИ на рабочем месте, в здравоохранении и финансах.