Приготовьтесь к усилению контроля: Федеральная торговая комиссия расширяет следственные полномочия в отношении искусственного интеллекта

На этой неделе Федеральная торговая комиссия (FTC) утвердил сводную резолюцию, расширяющую его полномочия по расследованию продуктов и услуг, связанных с искусственным интеллектом (ИИ). Хотя возможности искусственного интеллекта огромны, его растущая роль в различных отраслях также побудила регулирующие органы обратить на него более пристальное внимание.

Это действие означает, что практика искусственного интеллекта в будущем будет более тщательно проверяться, а Федеральная торговая комиссия будет использовать оптимизированные инструменты для сбора информации с помощью запросов гражданских расследований (CID). согласно релизу в понедельник.

Примечательно, что ФТК ранее пользовался CID в технологическом секторе, чтобы бороться с незаконными звонками от роботов. В 2022 году компания получила постановления федерального суда против провайдеров VoIP XCast Labs и Deltracon за несоблюдение всех требований CID.

Как подчеркнул Сэмюэл Левин из Федеральной торговой комиссии, директор бюро по защите прав потребителей, CID имеют силу закона – несоблюдение может привести к обвинениям в неуважении к суду. Действия подтвердили эту точку зрения, показав пример компаний, которые не предоставляют своевременно всю необходимую документацию и данные.

Учитывая, что расширенная резолюция Федеральной торговой комиссии по искусственному интеллекту отражает ее авторитет в других отраслях, технологическим компаниям было бы разумно принять это к сведению. Упреждающая организация внутренних записей, касающихся претензий ИИ, методов разработки продуктов, стороннего надзора и т. д., готовит предприятия к быстрому реагированию в случае возникновения проверок.

Подтверждение претензий доказательствами

В своем заявлении FTC подчеркнула, что резолюция направлена ​​на «ускоренный сбор фактов» об использовании ИИ, затрагивающем защиту потребителей и честную конкуренцию. Одной из областей интересов, несомненно, будут маркетинговые претензии. Если организация продвигает возможности решения искусственного интеллекта, она должна иметь веские доказательства, подтверждающие характеристики производительности, представленные клиентам и партнерам.

Записи данных обучения модели, проверочные исследования, тематические исследования, демонстрирующие реальное влияние, и отчеты о постоянном мониторинге — это примеры информации, которая может помочь подтвердить раскрытие информации о решениях ИИ. Экспертные оценки, надзор за сторонними источниками данных и документирование усилий по выявлению и снижению рисков также могут повысить доверие.

Без таких материалов расплывчатые или необоснованные заявления о функциях системы ИИ могут привести к подозрению со стороны регулирующих органов или к правоприменению, если окажется, что они обманчивы.

Решение проблемы справедливости, предвзятости и соблюдения требований посредством замысла

Алгоритмическая справедливость и смягчение непреднамеренных предубеждений останутся главными проблемами, поскольку все больше ИИ интегрируется в процесс принятия решений. Федеральная торговая комиссия хочет, чтобы компании, занимающиеся гарантиями, активно решали подобные проблемы на протяжении всего жизненного цикла разработки продукта.

Документирование процессов проектирования, оценок воздействия, механизмов регистрации рисков, программ надзора и протоколов реагирования может служить доказательством того, что была проявлена ​​осмотрительность.

Для организаций, уже использующих ИИ в работе, программы соответствия должны демонстрировать постоянный мониторинг и приверженность решению возникающих проблем. Хотя технические проблемы могут возникнуть, несмотря на все усилия, оперативное исправление ситуации и прозрачность, как правило, вызывают доброжелательность со стороны регулирующих органов. Проактивная, а не реактивная позиция является хорошим предзнаменованием, когда контроль усиливается.

Управление отношениями со сторонними организациями

Сотрудничество является неотъемлемой частью прогресса, однако новая резолюция Федеральной торговой комиссии указывает, что обязанности по надзору теперь выходят за рамки внутренних команд. Если организация полагается на третьи стороны в вопросах источников данных, обучения моделей, усовершенствований или других аспектов решений искусственного интеллекта, ожидается доступ к информации об этих системах и действиях.

Решающее значение имеет надежная договорная защита, требующая прозрачности, проверки претензий и контроля. Регулярные проверки и документация сторонней комплексной проверки защищают организацию и конечных пользователей. Это означает осознание того, что подотчетность регулирующих органов расширила границы, поскольку технологическое партнерство становится нормой. Аутсорсинг технических элементов не освобождает от обязательств по соблюдению требований.

Федеральная торговая комиссия принимает активное участие в регулировании ИИ

Помимо установления своих полномочий по проведению расследований, Федеральная торговая комиссия (ФТК) объявил о планах ранее в ноябре, чтобы запустить конкурс по клонированию голоса. Эта инициатива направлена ​​на стимулирование разработки технических и политических решений, которые защищают пользователей от финансового мошенничества или нарушений конфиденциальности, связанных с использованием искусственных голосов.

Агентство признает, что новые методы должны сопровождаться мерами безопасности, поскольку подражание чужому голосу может привести к мошенничеству. Задача предполагает сотрудничество многих заинтересованных сторон, чтобы пресечь такое злоупотребление применением новых возможностей.

Кроме того, в ходе исследования последствий генеративного ИИ, проведенного Бюро авторских прав США, Федеральная торговая комиссия (FTC) отправленные комментарии в октябре, подчеркнув свою юрисдикцию в отношении соответствующих вопросов защиты потребителей и конкуренции.

Хотя вопросы авторского права затрагивают другие вопросы, Федеральная торговая комиссия утверждает, что определенные виды использования контента, созданного искусственным интеллектом, могут способствовать обману или недобросовестным действиям в нарушение ее устава. Эта точка зрения вызвала критику со стороны некоторых, утверждающих, что это злоупотребление устоявшимися правовыми доктринами, такими как добросовестное использование.

Тем не менее, поскольку новые технологии продолжают бросать вызов старым парадигмам регулирования, следует ожидать поддержки мандата FTC. В целом агентство стремится сбалансировать инновации с ответственным надзором посредством сочетания консультативных инициатив и традиционных инструментов правоприменения.