ОТ КИМ БЕЛЛАРД
Если вы в последнее время следите за искусственным интеллектом (ИИ) — а вы должны это делать — возможно, вы начали задумываться о том, как он изменит мир. По потенциальному влиянию на общество его сравнивают с появлением Интернета, изобретением печатного станка и даже с первым использованием колеса. Может быть, вы играли с этим, может быть, вы знаете достаточно, чтобы беспокоиться о что это может означать для вашей работыно одну вещь вы не должны игнорировать: как и любую технологию, ее можно использовать как во благо, так и во вред.
Если вы думали, что кибератаки/киберпреступления — это плохо, когда они совершаются людьми или простыми ботами, просто подождите, чтобы увидеть, на что способен ИИ. И, как Райан Здоровье написал в Аксиос«ИИ также может использовать современную медицину в качестве оружия против тех же людей, которых она намеревается вылечить».
Нам может понадобиться DarkBERT и Dark Web, чтобы защитить нас.
А новое исследование показал, как ИИ может создавать гораздо более эффективные и дешевые кампании целевого фишинга, и автор отмечает, что в кампаниях также могут использоваться «убедительные голосовые клоны отдельных лиц». Он отмечает: «Участвуя в диалоге на естественном языке с целями, агенты ИИ могут убаюкивать жертв в ложном чувстве доверия и знакомства до начала атак».
Это еще хуже. Недавняя статья в Вашингтон пост предупрежден:
Это только начало, опасаются эксперты, руководители и правительственные чиновники, поскольку злоумышленники используют искусственный интеллект для написания программного обеспечения, которое может проникнуть в корпоративные сети новыми способами, изменить внешний вид и функциональность, чтобы обойти обнаружение, и переправить данные обратно через процессы, которые кажутся нормальными. .
Устаревшая архитектура основных интернет-протоколов, непрерывное наслоение ошибочных программ друг на друга и десятилетия экономических и нормативных сбоев толкают армии преступников, которым нечего бояться, против компаний, которые даже не знают, сколько у них машин, пусть только те, на которых запущены устаревшие программы.
Здравоохранение тоже должно быть обеспокоено. Всемирная организация здравоохранения (ВОЗ) только что звонил за осторожность при использовании ИИ в здравоохранении, отметив, что, среди прочего, ИИ может «генерировать ответы, которые могут показаться конечному пользователю авторитетными и правдоподобными; однако эти ответы могут быть совершенно неверными или содержать серьезные ошибки… генерировать и распространять весьма убедительную дезинформацию в виде текста, аудио- или видеоконтента, которую общественности трудно отличить от достоверного контента о здоровье».
Прежде чем станет лучше, станет еще хуже; в ВаПо Статья предупреждает: «В обозримом будущем искусственный интеллект даст злоумышленникам гораздо больше возможностей». Здесь могут помочь такие решения, как DarkBERT.
Я мало что знаю о Даркнете. Я смутно знаю, что он существует и что люди часто (но не исключительно) используют его для плохих целей. Я никогда не использовал Tor, программное обеспечение, которое часто используется для обеспечения анонимности действий в даркнете. Но некоторые умные исследователи в Южной Корее решили создать Большую языковую модель (LLM), обученную на данных из даркнета — так сказать, бить огонь огнём. Это то, что они позвони в даркберт.
Исследователи пошли по этому пути, потому что: «Недавние исследования показали, что
явные различия в языке, используемом в Dark Web, по сравнению с языком Surface Web». LLM, обученные на данных из Surface Web, пропустят или не поймут большую часть того, что происходит в Dark Web, на что надеются некоторые пользователи Dark Web.
Я не буду пытаться объяснить, как они получили данные или обучили DarkBERT; важен их вывод: «Наши оценки показывают, что DarkBERT превосходит текущие языковые модели и может служить ценным ресурсом для будущих исследований Даркнета».
Они продемонстрировали эффективность DarkBERT против трех потенциальных проблем Dark Web:
- Обнаружение сайта утечки программ-вымогателей: идентификация «продажи или публикации частных, конфиденциальных данных организаций, утекших группами вымогателей».
- Примечательное обнаружение потока: «автоматизация обнаружения потенциально вредоносных
потоки.” - Вывод ключевого слова угрозы: получение «набора ключевых слов, которые семантически связаны с угрозами и продажей наркотиков в даркнете».
В каждой задаче DarkBERT оказался более эффективным, чем модели сравнения.
Исследователи еще не публикуют DarkBERT в более широком масштабе, и статья еще не прошла рецензирование. Они знают, что им еще многое предстоит сделать: «В будущем мы также планируем улучшить производительность предварительно обученных языковых моделей для предметной области Dark Web с использованием более современных архитектур и сканировать дополнительные данные, чтобы обеспечить создание многоязычного языкового режима».
Все еще, то, что они продемонстрировали, было впечатляющим. Компьютерщики для компьютерщиков бредил:
DarkBERT становится маяком надежды в неустанной борьбе со злонамеренностью в сети. Используя возможности обработки естественного языка и погружаясь в загадочный мир даркнета, эта внушительная модель ИИ предлагает беспрецедентную информацию, позволяющую специалистам по кибербезопасности противодействовать киберпреступлениям с большей эффективностью.
Это не может прийти достаточно скоро. Нью-Йорк Таймс отчеты уже существует волна предпринимателей, предлагающих решения, позволяющие идентифицировать созданный ИИ контент — текст, аудио, изображения или видео — которые могут быть использованы для дипфейков или других гнусных целей. Но в статье отмечается, что это как антивирусная защита; по мере того, как защита ИИ становится лучше, ИИ, генерирующий контент, тоже становится лучше. «Подлинность контента станет серьезной проблемой для общества в целом», — признал один из таких предпринимателей.
Когда даже Сэм Альтман и другие лидеры ИИ призывают к надзору ИИ, вы знаете, это то, о чем мы все должны беспокоиться. Как предупредила ВОЗ, «есть опасения, что осторожность, которая обычно проявлялась бы в отношении любой новой технологии, не соблюдается последовательно с LLM». Наш энтузиазм в отношении потенциала ИИ превосходит нашу способность проявлять мудрость в их использовании.
Некоторые эксперты недавно призывали межправительственная группа по информационным технологиям, включая, помимо прочего, ИИ, для «консолидации и обобщения уровня знаний о потенциальном социальном воздействии цифровых коммуникационных технологий», но это кажется необходимым, но вряд ли достаточным шагом.
Точно так же ВОЗ предложила собственное руководство по Этика и управление искусственным интеллектом для здоровья. Какие бы надзорные органы, законодательные требования или другие меры безопасности мы ни планировали внедрить, они уже опаздывают.
В любом случае ИИ из Даркнета, вероятно, будет игнорировать и пытаться обойти любые законы, правила или этические принципы, с которыми общество могло бы согласиться, когда бы это ни было. Поэтому я приветствую такие решения, как DarkBERT, которые могут бороться с любым ИИ, который оттуда появляется.
Ким — бывший директор по электронному маркетингу крупного плана Blues, редактор последнего и оплакиваемого Настойка.ioа теперь постоянный участник THCB
2023-05-23 12:02:57
1684850741
#ИИ #яркий #но #может #быть #темным