Закон об искусственном интеллекте открывает разрыв между крупными подготовленными компаниями и теми, кто прибегает к открытому исходному коду | Технологии

Искусственный интеллект (ИИ) больше не является территорией беззакония. Утверждение Европейская норма (Закон об искусственном интеллекте) В течение следующих двух лет он будет постепенно применяться к любой системе, используемой в ЕС или затрагивающей его граждан, и станет обязательным для поставщиков, исполнителей или импортеров. В этом смысле закон открывает разрыв между крупными компаниями, которые уже предусмотрели ограничения на свои разработки, и более мелкими организациями, которые хотят развернуть свои собственные модели на основе растущих приложений с открытым исходным кодом (Открытый исходный код). Последние, если у них нет возможности проверять свои системы, будут иметь нормативную тестовую среду (песочницы) развивать и обучать день IA инновационным еще до его выхода на рынок. Но его доступность вызывает вопросы о возможности контролировать его использование, широко распространенное при создании без согласия порнографии и кампаниях по мошенничеству.

«Мы гарантируем, что технология искусственного интеллекта, которую мы создаем, с самого начала создается ответственно и этично. IBM работает с государственными учреждениями по всему миру для продвижения умных и эффективных правил, а также для создания барьеров безопасности для общества», — говорит Кристина Монтгомери, вице-президент и директор по конфиденциальности и доверию в транснациональной корпорации.

Пилар Манчон, директор по стратегии исследований искусственного интеллекта в Google и советник консультативного комитета правительства Испании, согласна с этой оценкой во время встречи в Севильском университете. «Нам необходимо регулирование, потому что ИИ слишком важен, чтобы его не было. Искусственный интеллект необходимо развивать, но делать это нужно хорошо». Исследователь синтезирует помещения, включенные в Принципы искусственного интеллекта: «Очень легко подвести итог: не делайте плохих вещей, делайте хорошие вещи, и если вы собираетесь что-то делать, убедитесь, что это окажет положительное влияние на сообщество, на общество, на научное сообщество. И если потенциально он может сделать что-то, для чего вы его использовали или для чего его проектировали, обязательно примите все необходимые меры предосторожности и снизьте риски. Делайте добро, внедряйте инновации, будьте смелыми, но ответственными».

Сотрудник Google подтверждает, что другие транснациональные корпорации согласны с этим видением. В этом смысле президент Microsoft Брэд Смит заявил в недавнем выпуске интервью в Эль-Паисе: «Нам нужен такой уровень регулирования, который гарантирует безопасность». Брэд утверждает, что европейское законодательство делает это путем «исследования стандартов безопасности и создания основы для этих моделей».

Жан-Марк Леклерк, глава отдела правительства и регулирования ЕС IBM, думает так же, который поддерживает европейский закон, призывает к его продлению и подчеркивает создание официальных органов, которые обеспечат этическое внедрение систем, как это предусмотрено. регулирование. Но он предупреждает: «Многие организации, на которые может распространяться закон об искусственном интеллекте, не установили управление в своих инфраструктурах для поддержки соответствия стандарту в своих процессах».

Осторожность IBM является реакцией на распространение инструментов с открытым исходным кодом, более дешевых, если не бесплатных, но при этом эффективных. Несмотря на ограниченность в обучении, они начинают приближаться к разработкам крупных компаний и свободно предлагать себя. В мае прошлого года написано инженером Google которое эта компания считает не официальным, а скорее частным мнением исследователя, предупредил, что ИИ ускользает от контроля крупных компаний.

Год назад стартап Hugging Face запустил альтернативу ChatGPT, популярному диалоговому приложению OpenAI, с открытым исходным кодом. «Мы никогда не откажемся от борьбы за ИИ с открытым исходным кодом», — написал в Твиттере Жюльен Шомон, соучредитель этой компании. В то же время Stability AI запустила собственную модель и даже Стэнфордский университет присоединился к своей системе Альпака.

«Это попытка глобального сообщества донести до каждого возможности диалогового искусственного интеллекта, чтобы вывести его из рук нескольких крупных корпораций», — говорит исследователь искусственного интеллекта и ютубер Янник Килчер в презентационном видео Open Assistant, одной из этих платформ.

Джоэль Пино, директор Meta AI и профессор Университета Макгилла, защищает Обзор MITсистемы с открытым исходным кодом: «Это во многом подход свободного рынка, типа двигаться быстро, строить вещи. «Это действительно диверсифицирует число людей, которые могут внести свой вклад в развитие технологий, а это означает, что не только исследователи или предприниматели могут получить доступ к этим моделям».

Но сама Пино признает, что эти системы, если они не соответствуют этическим и нормативным критериям, установленным законом, способствуют дезинформации, предрассудкам и разжиганию ненависти или служат созданию вредоносных программ. «Мы должны найти баланс между прозрачностью и безопасностью», — размышляет Пино.

«Я не евангелист открытого кода», — говорит тому же изданию Маргарет Митчелл, ученый по этике из Hugging Face. «Я вижу причины, по которым закрытие имеет большой смысл». Митчелл указывает на порнографию без согласия («Это одно из основных применений ИИ для создания изображений», — признает она) как на пример обратной стороны широкого доступа к мощным моделям.

Относительно использования этих систем киберзлоумышленниками предупреждает в ходе встречи Бобби Форд, руководитель службы безопасности Hewlett Packard Enterprise. CPX состоялся в Вене: «Когда речь идет о генеративном искусственном интеллекте, меня больше всего беспокоит то, что внедрение этой технологии противником будет происходить более быстрыми темпами, чем мы. У противника есть достаточно времени, чтобы воспользоваться преимуществами искусственного интеллекта. Если мы не сделаем то же самое, чтобы защитить себя от его атак, война станет асимметричной. Хакером может стать любой, у кого есть доступ в Интернет и клавиатура. [pirata informático]».

Майя Горовиц, вице-президент по исследованиям компании Check Point, занимающейся кибербезопасностью, настроена более оптимистично: «Защитники используют искусственный интеллект лучше, чем субъекты угроз. У нас есть десятки механизмов безопасности на базе искусственного интеллекта, а злоумышленники все еще экспериментируют, пытаясь понять, как они могут их использовать. Есть некоторые вещи. Самое популярное — писать электронные письма. фишинг [engaño mediante suplantación]. Они также экспериментируют с фальшивыми голосовыми вызовами. Но они пока не создают вредоносный код с помощью этой технологии. Вы по-прежнему не можете попросить ИИ написать код, чтобы просто его использовать. Должен быть программист, который знает, что делает. «Я думаю, что на этот раз наша сторона победит».

Вы можете следить Технология Эль-Паис в Фейсбук й Икс или зарегистрируйтесь здесь, чтобы получать наши Семанал информационного бюллетеня.

_