3 вещи, которые необходимо знать предприятиям, поскольку Нью-Йорк начинает применять закон о найме ИИ

В июле Нью-Йорк официально начался расправляется с компаниями, которые нарушают первый в стране закон (Закон Нью-Йорка 144), регулирующие использование искусственный интеллект в решениях о приеме на работу.

Даже компании, которые не базируются в Нью-Йорке, но имеют там филиалы и сотрудников, особенно глобальные предприятия, должны соблюдать это новое правило. Закон прямо не запрещает ИИ, но дает рекомендации о том, как следует использовать эту технологию при принятии решений о найме.

Это важное различие. Организации в разных отраслях (здравоохранение, производство, розничная торговля и многие другие) уже используют интеллектуальные технологии множеством способов. Примеры включают в себя онкологи, использующие ИИ для диагностики рака с высокой степенью точности, производство и розничную торговлю, прогнозирующие модели покупок для улучшения логистики и потребительского опыта, и почти вся музыка, записанная сегодня, использует автонастройку для исправления или улучшения голоса певца.

Когда дело доходит до кадровых вопросов, компании в настоящее время используют искусственный интеллект, чтобы подобрать подходящих кандидатов на подходящие вакансии — и это является основной задачей NYC 144. После многочисленных задержек новый закон заставил многие компании немного нервничать в то время, когда открываются вакансии. оставаться повышенным и безработица близка исторические минимумы.

Регулировать, да

Названия технических специалистов, выделенные жирным шрифтом, такие как президент Microsoft, Брэд Смити генеральный директор Google Сундар Пичаи одобрили нормативную базу. Прозрачность – это всегда хорошо. «Я все еще считаю, что ИИ слишком важен, чтобы его не регулировать, и слишком важен, чтобы не регулировать его должным образом», — написал Пичаи в своей статье. Файнэншл Таймс.

И наоборот, если не сделать это правильно, регулирование может негативно повлиять на соискателей работы и менеджеров по найму, ограничивая полезную информацию и индивидуальный опыт, которые составляют суть положительного процесса трудоустройства.

Тридцать лет назад рекрутеры просматривали стопки резюме, лежащие на их столах. Кандидаты часто отбирались на основе противоречивых критериев, включая образование Лиги Плюща, место в стопке и немного удачи, основанную на том, насколько высоко в стопке было расположено их резюме, над которым они не имели никакого контроля. Бессознательные предубеждения людей добавляют еще один неотслеживаемый фильтр, когда не задействованы технологии.

ИИ обеспечил масштабируемость и точность, помогая уравнять правила игры, подбирая людей с необходимыми навыками и опытом на нужные должности, независимо от того, какое место они занимают в пресловутой куче резюме. ИИ также помогает рекрутерам увидеть человека в целом и его навыки, которые человек, возможно, даже не подумал выделить в своем резюме. ИИ не может помешать рекрутеру или менеджеру по найму использовать короткие пути. Но это может сделать их менее необходимыми, поскольку появятся соответствующие резюме, которые в противном случае могли бы затеряться в куче.

Сочетание человеческого контроля и поддержки ИИ является хорошим противодействием предвзятости по двум причинам. Во-первых, одна из причин предвзятости в принятии решений заключается в том, что люди часто ищут кратчайшие пути решения проблем, например, сосредотачиваясь только на кандидатах из школ Лиги плюща, вместо того, чтобы тратить время и усилия на поиск и оценку кандидатов с нетрадиционным прошлым.

Во-вторых, выявление предвзятости с помощью отчетности о неблагоприятных последствиях может выявить такую ​​предвзятость в режиме реального времени, позволяя организации принять меры, чтобы остановить такие предвзятые решения.

Есть потенциальные законы обсуждается в Европе и может ограничить использование любой персонализация в жизненном цикле привлечения талантов. Это может ухудшить перспективы трудоустройства не только для внешних кандидатов, но и для сотрудников, уже работающих в компании, которые хотят перейти на новую должность.

Если резко отпустить бразды правления этими технологиями, на самом деле это может привести к более предвзятость, потому что несовершенный человек тогда будет единолично отвечать за процесс принятия решений. Это может привести к штрафу в соответствии с законодательством штата Нью-Йорк и дополнительным федеральным штрафам, поскольку Комиссия по равным возможностям трудоустройства предупредил компании что они находятся на крючке любой дискриминации при найме, увольнении или продвижении по службе — даже если это было непреднамеренно и независимо от того, было ли это с помощью ИИ.

Глядя сквозь страх

Ни один закон не идеален, и новое законодательство Нью-Йорка не является исключением. Одним из требований является уведомление кандидатов об использовании ИИ — например, уведомления о файлах cookie на веб-сайтах или лицензионные соглашения с конечными пользователями (EULA), на которые большинство людей нажимают, не читая и не понимая их по-настоящему.

Слова имеют значение. Читая уведомления об использовании ИИ, люди могут легко представить в воображении образы конца света, показанные в фильмах о технологиях, захватывающих человечество. Существует бесчисленное множество примеров того, как новые технологии вызывают страх. Электричество считалось небезопасным в 1800-х годах, и когда велосипеды были впервые введены, они воспринимались как безрассудные, неприглядные и небезопасные.

Объясняемость является ключевым требованием этого регламента, а также просто хорошей практикой. Есть способы минимизировать страх и улучшить уведомления: сделайте их ясными и краткими и сведите к минимуму юридический жаргон, чтобы целевая аудитория могла воспринимать и понимать используемый ИИ.

Соблюдайте требования регулирования ИИ прямо сейчас

Никто намеренно не хочет нарушать закон Нью-Йорка. Итак, вот три рекомендации для бизнес-лидеров при работе со своим юрисконсультом:

1. Изучите содержимое уведомлений и пользовательский опыт. Насколько хорошо вы простым языком объясняете соискателям работу использование этих технологий? Эйнштейн сказал: «Если вы не можете объяснить это просто, значит, вы недостаточно хорошо это понимаете». Сообщите людям, что вы используете алгоритм на сайте вакансий. Примеры включают: «Вот что мы собираем, вот как мы собираемся это использовать (и как нет) и вот как вы можете контролировать их использование».
2. Участвуйте в процессе регулирования и принимайте участие немедленно. Единственный способ опередить регулирование и обеспечить его соблюдение — это знать, что будет дальше. Это было проблемой с Общим регламентом защиты данных (GDPR) в Европе. период соответствия GDPR начался в мае 2018 года. Большинство предприятий были не готов. Штрафы были довольно значительный. Примените полученные уроки к законодательству штата Нью-Йорк, взаимодействуя с организациями-единомышленниками и государственными органами на уровне руководства и исполнительной власти. Это не только открывает вашу организацию для обсуждения, но и позволяет внести свой вклад и согласовать политику, процедуры и практику.
3. Будьте готовы к аудиту. Посмотрите на весь свой процесс, поработайте с поставщиками технологий, чтобы определить, где эти инструменты дают рекомендации, и обеспечить соблюдение справедливости и ответственности. Нью-Йорк требует от компаний иметь независимые аудиторы ИИ. Аудит уже давно стал частью бизнес-среды, например, в сфере бухгалтерского учета, ИТ-безопасности и конфиденциальности федеральной медицинской информации. Следующий вопрос: кто проверяет аудиторов? Все сводится к тому, должен ли существовать орган, состоящий не только из правительства, но также из частных и государственных организаций, обладающих опытом в этих областях, чтобы устанавливать разумные руководящие принципы.

Итак, изучите свой процесс, подготовьте внутренний аудит и обучите своих сотрудников всему этому.

Одна страна, один закон

Мое последнее слово предостережения бизнес-лидерам: следите за законодателями своих штатов, которые могут последовать примеру Нью-Йорка и ввести собственные правила. У нас не может быть 50 различных версий законодательства по борьбе с предвзятостью в области ИИ. Федеральному правительству необходимо вмешаться и объединить штаты. уже есть различия между Нью-Йорком и Калифорнией. Что произойдет в Неваде, Колорадо и других штатах? Если законодатели штатов создадут лоскутное одеяло из законов, предприятиям будет трудно не только соблюдать их, но и работать.

Законодателям и регулирующим органам штатов было бы разумно связаться с коллегами из приграничных штатов и спросить, как они справляются с искусственным интеллектом в сфере управления персоналом. Потому что, если государства имеют общую границу, им лучше быть согласованными друг с другом, потому что у них одни и те же люди, ищущие работу.

Законодатели Капитолийского холма дали сигнал интерес работает над законом об искусственном интеллекте, хотя на данный момент неизвестно, как он будет выглядеть и будет ли он включать положения о занятости.

Прорывные технологии развиваются молниеносно по сравнению с законодательным процессом. Вызывает обеспокоенность то, что к тому времени, когда Палата представителей и Сенат примут решение, технология далеко превзойдет требования любого принятого законопроекта. Тогда это становится хомячьим колесом законодательства. «Это очень сложная проблема, искусственный интеллект, потому что она развивается так быстро», — сказал сенатор от Нью-Йорка. Чак Шумер. Он совершенно прав. Это еще одна причина, по которой федеральным законодателям необходимо опередить штаты.

Процесс найма и продвижения по службе улучшится только в том случае, если будет больше, а не меньше данных и пользовательских данных для систем искусственного интеллекта. Зачем нам возвращаться?

Клифф Юркевич — вице-президент по глобальной стратегии компании Феномен.