Создатель Signal помогает шифровать Meta AI

Мокси Марлинспайк, защитник конфиденциальности, создавший приложение для безопасной связи Сигнал и его широко используемый протокол шифрования с открытым исходным кодом, сказал на этой неделе его платформа искусственного интеллекта, ориентированная на конфиденциальность, Конференцияначнет внедрять свою технологию в системы искусственного интеллекта Meta.

Каждый день миллиарды сообщений чата, отправляемые через Signal, WhatsApp от Meta и сообщения Apple, защищены сквозное шифрование. Эта функция, которая делает невозможным отслеживание ваших сообщений технологическими компаниями и кем-либо, кроме отправителя и получателя, за последнее десятилетие стала основной. Однако по мере роста популярности генеративных платформ искусственного интеллекта люди теперь также обмениваются миллиардами сообщений в день с чат-ботами искусственного интеллекта, которые не обеспечивают защиту сквозного шифрования, что облегчает компаниям, занимающимся искусственным интеллектом, доступ к тому, о чем вы говорите.

Это сделано специально, учитывая, что платформы часто хотят обучать свои модели ИИ на как можно большем объеме пользовательских данных и добились этого. трудно отказаться использование вашей информации в качестве обучающих данных. Но поскольку чат-боты и ИИ-агенты стали более способными, некоторые технологи и компании стремятся создавать более ограниченные и ориентированные на конфиденциальность системы.

«Поскольку LLM по-прежнему могут делать больше, мы должны ожидать, что в них будет поступать еще больше данных», — написал Марлинспайк в своей статье. короткая запись в блоге о его сотрудничестве с Meta опубликовано во вторник. “На данный момент ни одна из этих данных не является конфиденциальной. Они передаются компаниям, занимающимся искусственным интеллектом, их сотрудникам, хакерам, повесткам в суд и правительствам. Как всегда бывает с незашифрованными данными, они неизбежно попадут в чужие руки”.

Марлинспайк написал, что он «будет работать над интеграцией технологии конфиденциальности Confer, чтобы она легла в основу Meta AI». Он также подчеркнул, что Конференция, которая дебютировал в начале этого года продолжит работать независимо от Meta. Цель проекта, добавил Марлинспайк, — предложить технологию, которая «позволит каждому получить всю мощь искусственного интеллекта наряду с полной конфиденциальностью зашифрованного разговора».

В 2016 году Марлинспайк работал с WhatsApp, принадлежащим Meta, над внедрением сквозного шифрования на более чем миллиард аккаунтов одновременно. За последний год WhatsApp внедрил в свое приложение чат-бота Meta AI, которого пока нет. защищен от компании точно так же, как и отдельные чаты.

«Люди используют ИИ глубоко личными способами, требующими доступа к конфиденциальной информации», — глава WhatsApp Уилл Кэткарт. написал в среду в социальной сети X о сотрудничестве с Confer. «Важно, чтобы мы создавали эту технологию таким образом, чтобы люди могли делать это в частном порядке».

Внедрение зашифрованного ИИ все еще находится на стадии формирования. Криптографические схемы, используемые в сквозном шифровании для традиционной цифровой связи, нелегко или напрямую преобразовать в средства защиты данных для генеративного ИИ. Со своей стороны, Confer по-прежнему является новым проектом, и в сообщении в блоге Марлинспайка не содержится конкретных подробностей о том, как именно будет работать сотрудничество с Meta или каковы конкретные цели интеграции.

Ни Марлинспайк, ни Мета не предоставили WIRED дополнительных комментариев перед публикацией.

Мэллори Кнодел, исследователь криптографии из Нью-Йоркского университета, говорит, что «было бы здорово, если бы люди, использующие чат-боты, использующие Meta AI, имели конфиденциальность и конфиденциальность в рамках этого обмена». Важно отметить, что это означает, что Meta не сможет получить доступ к данным чата ИИ для обучения, говорит Кнодел, который вместе с коллегами недавно опубликовал исследование сквозного шифрования и искусственного интеллекта. «Я очень надеюсь, что больше чат-ботов с искусственным интеллектом примут этот подход».

Предварительные, первоначальные оценки Кноделя Confer указывать что платформа не идеальна, но является важным примером того, как создать частного чат-бота с искусственным интеллектом.