Почему игнорировать ответственный ИИ больше нельзя

Ваша команда разработчиков только что представила революционную функцию, разработанную в рекордно короткие сроки. Они с гордостью описывают, как использовали модель искусственного интеллекта для ускорения исследований и проектирования. Все празднуют победу.

Между тем, за кулисами та же самая модель могла быть обучена на собственных данных, которыми не владеет ваша компания. Что еще хуже, команда может не знать, какие данные использует модель, а даже если и знает, они могут не полностью понимать или не знать условий, регулирующих ее использование.

Эта неясность может быстро обернуться юридическим разоблачением. То, что казалось инновацией, теперь может спровоцировать иск об интеллектуальной собственности, который может стоить компании больших денег и доверия клиентов.

Этот сценарий не является надуманным. Учитывая быстрое распространение ИИ в бизнесе и правительстве, это предостерегающая история о растущей важности ответственного ИИ.

Многие предприятия осознают необходимость ответственного ИИ. Но многие относятся к этому как к второстепенной мысли или как к отдельному рабочему потоку, которым юридическая группа или отдел соблюдения нормативных требований займутся после создания системы.

Однако ответственный ИИ — это гораздо больше, чем побочный проект или сноска в политике управления. Это передовая защита от серьезных юридических, финансовых и репутационных рисков, особенно когда речь идет о понимании и объяснении происхождения данных ИИ.

Большинство широко используемых больших языковых моделей, как коммерчески доступных, так и с открытым исходным кодом, обучаются на большом количестве данных, включая данные, которые являются собственностью или ограничены конкретным использованием. Данные могли быть получены с корпоративного веб-сайта, академического журнала, хранилища с открытым исходным кодом и ограничительной лицензией, правительственного набора данных или платформы социальных сетей, содержащей персональные данные.

Тот факт, что эти модели так широко доступны от крупных поставщиков, заставляет многие компании предполагать, что их использование не несет в себе никаких юридических рисков. Они редко задумываются о том, откуда берутся данные внутри моделей и разрешено ли им по закону использовать их так, как они намереваются.

Однако, хотя использование ИИ разрешено, данные, на которых он обучается, очень часто не являются законными. Когда компании используют эти данные для разработки нового продукта, создания маркетингового контента или приложения, ориентированного на клиента, они могут неосознанно подвергнуть себя судебным искам, даже спустя долгое время после того, как их инновации на основе искусственного интеллекта будут развернуты.

Это не значит, что поставщики моделей не включают в себя оговорки об отказе от ответственности; многие так и делают, и даже лицензии с открытым исходным кодом часто включают положения и условия надлежащего использования их данных и моделей. Проблема в том, что компании часто не знают об этих заявлениях об отказе от ответственности или могут недооценивать последствия, если не воспримут их всерьез.

Тот факт, что такие раскрытия существуют, возлагает ответственность исключительно на компании, использующие модели. Любой ученый-юрист скажет вам, что незнание закона не освобождает от ответственности. К сожалению, их мало кто читает.

Я почти не сомневаюсь, что юридические фирмы по всему миру уже работают с экспертами по ИИ, чтобы выявить слабые места в использовании данных ИИ. Эти слабости затем можно было бы использовать в судебных или групповых исках. Любая организация, которая не может четко объяснить происхождение своих данных или продемонстрировать ответственное использование своих данных, может оказаться уязвимой.

Как только будет подан первый иск, это станет началом неудержимой тенденции. Теперь, когда ИИ настолько широко используется, возможности для судебных исков безграничны.

Это также лишь вопрос времени, когда мы увидим, как правительства взимают штрафы и пени для обеспечения законного использования данных. Уже, У МЕНЯ ЕСТЬ действие и Система управления рисками НИСТ в области искусственного интеллекта требуют объяснимости, происхождения данных и этического использования. Сегодня аудит устойчивого развития является стандартной практикой, а завтра мы увидим, что аудит ответственного ИИ станет само собой разумеющимся.

Но есть способы избежать этих дорогостоящих ошибок. Идеальный сценарий — с самого начала внедрить надежные методы работы с данными и управление основными данными. Любая структура ИИ должна строиться на прочной основе ответственного ИИ, который учитывает право собственности на интеллектуальную собственность, происхождение данных и происхождение не только данных, но и самих моделей ИИ. Когда эти принципы рассматриваются как основные требования к проектированию, а не как второстепенная мысль, организации могут уверенно внедрять инновации, минимизируя при этом юридические и финансовые риски.

Во многих случаях предприятиям придется ретроактивно оценивать данные, используемые в их системах искусственного интеллекта. Именно здесь мы увидим появление новых ролей по снижению риска. Например, инженеры по обработке данных станут специалистами по обрезке данных — людьми, специально обученными выявлять и удалять из моделей несанкционированные данные или данные с высоким уровнем риска. Мы также увидим модернизацию системы обеспечения качества, способную проверять результаты работы ИИ, обеспечивая соответствие ответственным стандартам ИИ и модернизируя модели в соответствии с юридическими и функциональными требованиями.

После удаления несоответствующих или несанкционированных данных многие компании обратятся к синтетическим данным как к более безопасной альтернативе, позволяющей им переобучать модели без ущерба для целостности интеллектуальной собственности или соответствия нормативным требованиям.

В конечном итоге мы можем стать свидетелями перехода компаний от моделей общего назначения к специализированным системам искусственного интеллекта, построенным на чистых собственных данных. Этот переход значительно уменьшит зависимость от универсальных моделей. Инвестируя в собственные модели, организации получат больший контроль, прозрачность и юридическую уверенность в том, как работает их ИИ.

По мере развития ИИ уважение к происхождению данных и интеллектуальной собственности станет критически важным для того, чтобы доказать, что вы являетесь поборником ответственного ИИ. Но помимо того, чтобы быть хорошим корпоративным гражданином, предприятиям также необходимо будет думать об ответственном ИИ как о брандмауэре между инновациями и дорогостоящими юридическими и финансовыми рисками.

Организации, которые с самого начала строят свою деятельность на основе принципов ответственного ИИ, не только останутся защищенными; они будут готовы двигаться вперед с уверенностью в раскрытии долгосрочной ценности.