Должен ли ИТ-директор нести единоличную ответственность за контроль над ИИ? Инфо-технологии взвешивают

На недавнем вебинаре директор по исследованиям Info-Tech Research Group Брайан Джексон объяснил, почему, по его мнению, удивительно, что ИТ-специалисты считают, что ИТ-директор должен нести единоличную ответственность за ИИ.

Следующим по популярности ответом после этого, добавил он, был «ну, никто».

Для своего отчета «Технические тенденции на 2024 год» исследовательская компания опросила 894 респондентов, которые либо работают в сфере ИТ, либо руководят ИТ.

«Для многих организаций, которые внедряют ИИ, это только начало, и, вероятно, именно поэтому мы видим такие реакции. Но возлагать исключительную ответственность на ИТ-директора — это, скорее всего, не то, чего вы хотите», — сказал Джексон. «Если ИИ используется для достижения бизнес-результатов, вам необходимо привлечь к участию бизнес-лидеров».

Компания Info-Tech также изучила, как организации, которые уже инвестировали в ИИ или планируют инвестировать в ИИ, которых она называет «приверженцами ИИ», сравниваются с организациями, которые либо не планируют инвестировать в ИИ, либо не планируют инвестировать до тех пор, пока после 2024 года их называют «скептиками ИИ».

Лишь каждый шестой сторонник ИИ собирается создать комитет, который будет подотчетен, а каждый десятый разделяет ответственность между двумя или более руководителями.

Джексон советует организациям подумать о трех ключевых концепциях при внедрении модели ответственного ИИ:

1. Надежный ИИ. Понимают ли люди, как он работает, как генерирует результаты или какие данные используются для его обучения?
2. Объяснимый ИИ – способность объяснить, как модель ИИ делает свои прогнозы, ее ожидаемое влияние и ее потенциальные отклонения.
3. Прозрачный ИИ. Можем ли мы сообщать о влиянии решений, принимаемых в отношении ИИ, можем ли мы отслеживать результаты и сообщать о них, показывать людям негативные аспекты и соответствующим образом корректировать их.

По мнению Info-Tech, наличие ограждений будет еще более важным, поскольку ИИ начнет напрямую создавать ценность для клиентов.

ИИ больше не будет просто дополнять основную ценность бизнеса электронной коммерции или развлекательного бизнеса, например, когда Netflix предсказывает, что вы собираетесь смотреть дальше, объяснил Джексон.

«Мы видим, как создаются бизнес-модели, в которых ИИ представляет собой ценность, которую клиент получает от услуги», — подтвердил он.

OpenAI — прекрасный тому пример, но мы также видим такие компании, как Intuit, которые переоборудуют всю свою платформу вокруг генеративного ИИ. В частности, она выпустила специально обученную финансовую модель большого языка, которую она назвала GenOS, которая находится в центре операционной системы компании и решает проблемы налогообложения, бухгалтерского учета, маркетинга, управления денежными потоками и многие другие проблемы личных финансов.

Однако, насколько справедливо привлечение руководителей к ответственности за регулирование ИИ, безопасность по замыслу будет столь же важна, объяснил Джексон.

Каждый год организации вкладывают больше средств в кибербезопасность, но продолжают сталкиваться с большим количеством атак, чем когда-либо прежде.

«Каким-то образом мы создали индустрию, в которой поставщики программного обеспечения создают риски, а клиенты несут расходы по их снижению», — отметил Джексон.

Он добавил: «Это становится работой каждого. Могу поспорить, что вы прошли какое-то обучение фишингу, тестированию электронной почты или обучению кибербезопасности в своей организации, независимо от вашей должности. Так как же нам выйти из порочного круга постоянных расходов на кибербезопасность? Как нам начать перекладывать ответственность за безопасность с пользователей на строителей?»

В 2024 году, отметил он, мы увидим, как Белый дом и новая Национальная стратегия кибербезопасности возложат на производителей технологий обязанность расставлять приоритеты в области безопасности или обязать, например, внутреннее и внешнее тестирование систем искусственного интеллекта перед выпуском.

«Суть в том, что если вы создаете новые модели ИИ, у вас нет выбора», — сказал Джексон. «Мы не можем позволить себе строить быстро и дешево сегодня, а потом расплачиваться за уязвимость. Нам необходимо строить с безопасностью уже сейчас. А если вы находитесь на другой стороне — вы являетесь клиентом этих поставщиков ИИ, у вас больше рычагов влияния».

По словам Джексона, еще одна ключевая тенденция, о которой должны подумать организации, стремящиеся снизить риски ИИ, — это их цифровой суверенитет.

Например, организации могут обновить свой файл robots.txt, если они не хотят, чтобы данные их веб-сайта использовались для обучения модели ИИ.

Однако, добавил он, вам понадобится гораздо больше, чтобы обеспечить безопасность ваших данных, поскольку люди будут использовать данные для обучения моделей с открытым исходным кодом. Художники особенно пострадали от широко распространенной мимикрии со стороны ИИ.

Многие художники и организации уже пытались защитить свою интеллектуальную собственность с помощью таких инструментов, как Glaze от Чикагского университета, который пропускает изображения через фильтр, призванный защитить стиль от интерпретации алгоритмом искусственного интеллекта.

Университет также разрабатывает еще один проект под названием Nightshade, который «отравляет» данные обучения, делая результаты бесполезными: собаки становятся кошками, автомобили — коровами и так далее.

«Пока мы ждем, пока суды вынесут решения, возможно, законодатели подтянутся и примут новые законы, которые переопределят авторское право в эпоху ИИ», — сказал Джексон. «Но на данный момент, похоже, наступил сезон сбора ваших данных и имитации вашей интеллектуальной собственности. Поэтому, чтобы защитить наш цифровой суверенитет, мы должны использовать технологии против технологий».