ИИ яркий, но может быть и темным

ОТ КИМ БЕЛЛАРД

Если вы в последнее время следите за искусственным интеллектом (ИИ) — а вы должны это делать — возможно, вы начали задумываться о том, как он изменит мир. По потенциальному влиянию на общество его сравнивают с появлением Интернета, изобретением печатного станка и даже с первым использованием колеса. Может быть, вы играли с этим, может быть, вы знаете достаточно, чтобы беспокоиться о что это может означать для вашей работыно одну вещь вы не должны игнорировать: как и любую технологию, ее можно использовать как во благо, так и во вред.

Если вы думали, что кибератаки/киберпреступления — это плохо, когда они совершаются людьми или простыми ботами, просто подождите, чтобы увидеть, на что способен ИИ. И, как Райан Здоровье написал в Аксиос«ИИ также может использовать современную медицину в качестве оружия против тех же людей, которых она намеревается вылечить».

Нам может понадобиться DarkBERT и Dark Web, чтобы защитить нас.

А новое исследование показал, как ИИ может создавать гораздо более эффективные и дешевые кампании целевого фишинга, и автор отмечает, что в кампаниях также могут использоваться «убедительные голосовые клоны отдельных лиц». Он отмечает: «Участвуя в диалоге на естественном языке с целями, агенты ИИ могут убаюкивать жертв в ложном чувстве доверия и знакомства до начала атак».

Это еще хуже. Недавняя статья в Вашингтон пост предупрежден:

Это только начало, опасаются эксперты, руководители и правительственные чиновники, поскольку злоумышленники используют искусственный интеллект для написания программного обеспечения, которое может проникнуть в корпоративные сети новыми способами, изменить внешний вид и функциональность, чтобы обойти обнаружение, и переправить данные обратно через процессы, которые кажутся нормальными. .

Устаревшая архитектура основных интернет-протоколов, непрерывное наслоение ошибочных программ друг на друга и десятилетия экономических и нормативных сбоев толкают армии преступников, которым нечего бояться, против компаний, которые даже не знают, сколько у них машин, пусть только те, на которых запущены устаревшие программы.

Здравоохранение тоже должно быть обеспокоено. Всемирная организация здравоохранения (ВОЗ) только что звонил за осторожность при использовании ИИ в здравоохранении, отметив, что, среди прочего, ИИ может «генерировать ответы, которые могут показаться конечному пользователю авторитетными и правдоподобными; однако эти ответы могут быть совершенно неверными или содержать серьезные ошибки… генерировать и распространять весьма убедительную дезинформацию в виде текста, аудио- или видеоконтента, которую общественности трудно отличить от достоверного контента о здоровье».

Прежде чем станет лучше, станет еще хуже; в ВаПо Статья предупреждает: «В обозримом будущем искусственный интеллект даст злоумышленникам гораздо больше возможностей». Здесь могут помочь такие решения, как DarkBERT.

Я мало что знаю о Даркнете. Я смутно знаю, что он существует и что люди часто (но не исключительно) используют его для плохих целей. Я никогда не использовал Tor, программное обеспечение, которое часто используется для обеспечения анонимности действий в даркнете. Но некоторые умные исследователи в Южной Корее решили создать Большую языковую модель (LLM), обученную на данных из даркнета — так сказать, бить огонь огнём. Это то, что они позвони в даркберт.

Исследователи пошли по этому пути, потому что: «Недавние исследования показали, что
явные различия в языке, используемом в Dark Web, по сравнению с языком Surface Web». LLM, обученные на данных из Surface Web, пропустят или не поймут большую часть того, что происходит в Dark Web, на что надеются некоторые пользователи Dark Web.

Я не буду пытаться объяснить, как они получили данные или обучили DarkBERT; важен их вывод: «Наши оценки показывают, что DarkBERT превосходит текущие языковые модели и может служить ценным ресурсом для будущих исследований Даркнета».

Они продемонстрировали эффективность DarkBERT против трех потенциальных проблем Dark Web:

• Обнаружение сайта утечки программ-вымогателей: идентификация «продажи или публикации частных, конфиденциальных данных организаций, утекших группами вымогателей».
• Примечательное обнаружение потока: «автоматизация обнаружения потенциально вредоносных
  потоки.”
• Вывод ключевого слова угрозы: получение «набора ключевых слов, которые семантически связаны с угрозами и продажей наркотиков в даркнете».

В каждой задаче DarkBERT оказался более эффективным, чем модели сравнения.

Исследователи еще не публикуют DarkBERT в более широком масштабе, и статья еще не прошла рецензирование. Они знают, что им еще многое предстоит сделать: «В будущем мы также планируем улучшить производительность предварительно обученных языковых моделей для предметной области Dark Web с использованием более современных архитектур и сканировать дополнительные данные, чтобы обеспечить создание многоязычного языкового режима».

Все еще, то, что они продемонстрировали, было впечатляющим. Компьютерщики для компьютерщиков бредил:

DarkBERT становится маяком надежды в неустанной борьбе со злонамеренностью в сети. Используя возможности обработки естественного языка и погружаясь в загадочный мир даркнета, эта внушительная модель ИИ предлагает беспрецедентную информацию, позволяющую специалистам по кибербезопасности противодействовать киберпреступлениям с большей эффективностью.

Это не может прийти достаточно скоро. Нью-Йорк Таймс отчеты уже существует волна предпринимателей, предлагающих решения, позволяющие идентифицировать созданный ИИ контент — текст, аудио, изображения или видео — которые могут быть использованы для дипфейков или других гнусных целей. Но в статье отмечается, что это как антивирусная защита; по мере того, как защита ИИ становится лучше, ИИ, генерирующий контент, тоже становится лучше. «Подлинность контента станет серьезной проблемой для общества в целом», — признал один из таких предпринимателей.

Когда даже Сэм Альтман и другие лидеры ИИ призывают к надзору ИИ, вы знаете, это то, о чем мы все должны беспокоиться. Как предупредила ВОЗ, «есть опасения, что осторожность, которая обычно проявлялась бы в отношении любой новой технологии, не соблюдается последовательно с LLM». Наш энтузиазм в отношении потенциала ИИ превосходит нашу способность проявлять мудрость в их использовании.

Некоторые эксперты недавно призывали межправительственная группа по информационным технологиям, включая, помимо прочего, ИИ, для «консолидации и обобщения уровня знаний о потенциальном социальном воздействии цифровых коммуникационных технологий», но это кажется необходимым, но вряд ли достаточным шагом.

Точно так же ВОЗ предложила собственное руководство по Этика и управление искусственным интеллектом для здоровья. Какие бы надзорные органы, законодательные требования или другие меры безопасности мы ни планировали внедрить, они уже опаздывают.

В любом случае ИИ из Даркнета, вероятно, будет игнорировать и пытаться обойти любые законы, правила или этические принципы, с которыми общество могло бы согласиться, когда бы это ни было. Поэтому я приветствую такие решения, как DarkBERT, которые могут бороться с любым ИИ, который оттуда появляется.

Ким — бывший директор по электронному маркетингу крупного плана Blues, редактор последнего и оплакиваемого Настойка.ioа теперь постоянный участник THCB