ChatGPT, Мошенничество | Ecocrime с предупреждением о мошенничестве: – ChatGPT был темой

– В 2023 году мы увидим гораздо более изощренный фишинг и спам благодаря передовому искусственному интеллекту. ChatGPT пишет лучше, чем большинство, говорит этичный хакер Сондре Руди Баугсто в Redpill Linpro.

ChatGPT просто объясняется моделью или роботом, который может генерировать тексты, подобные человеческому письму, и который за короткое время стал очень популярным.

Время электронных писем с ненормативной лексикой и шутливыми просьбами скоро пройдет, поверьте экспертам. Искусственный интеллект дает тем, кто занимается «фишингом» или ловлей рыбы в сети на хорошем норвежском языке, новый инструмент в их попытках обманным путем заставить получателей переходить по ссылкам, на которые они не должны нажимать.

Руди Баугсто предупреждает, что киберпреступники получили новый инструмент, который может сделать их электронную почту более сложной, увеличить ее скорость и обходить антивирусные решения и спам-фильтры.

Это произошло, когда Неттависен попытался

Но что на самом деле произойдет, если вы попросите ChatGPT написать электронное письмо, предназначенное для обмана невиновных людей? Nettavisen запросил у сервиса следующее: «Написать фишинговое письмо». Затем мы получили следующее сообщение об ошибке:

Руди Баугсто объясняет, что модель изначально не собиралась писать такие вредоносные электронные письма, но, переформулировав задачу, она может создавать очень заслуживающие доверия электронные письма на высокой скорости:

– Если вы скажете, что хотите отправить электронное письмо в службу поддержки о том, что с принтером что-то не так, вы можете помочь мне перейти на этот веб-сайт, и он это сделает, – говорит Руди Баугсто.

Этот текст также можно использовать, чтобы заставить кого-то щелкнуть ссылку, на которую не следует нажимать.

Традиционно фишинговые письма рассылаются массово. Если отправитель отправляет десятки тысяч одинаковых электронных писем, их легко остановить спам-фильтром, но с помощью искусственного интеллекта и скорости, которую он предлагает, нечестные силы могут создать уникальное электронное письмо для каждого получателя.

ChatGPT был темой на Økokrim

– Мы обеспокоены наблюдающейся в обществе тенденцией роста мошенничества и мошенничества, – говорит Nettavisen старший советник Økokrim Катрин Хатлен Нюлунд.

Она считает, что ChatGPT — это простое средство обмана норвежцев:

– Технологическое развитие означает, что различные инструменты, программное обеспечение и интернет-платформы, которые были разработаны для одной цели, могут легко использоваться для других, более злонамеренных целей, например, для обмана или обмана физических или юридических лиц. Проще говоря, ChatGPT предназначен для создания осмысленных и заслуживающих доверия заявлений на основе искусственного интеллекта. Økokrim знает, что социальные манипуляции с помощью электронной почты, телефона или SMS часто используются в мошенничестве и мошенничестве. Таким образом, чат-бот, который может легко генерировать более актуальный и достоверный контент для таких социальных манипуляций, является удобным инструментом для использования злоумышленниками. Это означает, что частные лица и компании должны быть более бдительными при получении запросов в разных форматах на разных платформах, предупреждает Хатлен Найлунд.

— ЧатGPT или подобные сервисы были для вас темой?

– Да, Økokrim стремится следить за тенденциями и развитием общества. Мы особенно заинтересованы в формировании хорошей базы знаний в различных аспектах, связанных с финансовыми преступлениями и экологическими преступлениями. Поэтому для нас также важно технологическое развитие и использование технологий злоумышленниками для достижения собственной выгоды за счет отдельных лиц, предприятий или общества.

– Вы уже видели случаи мошенничества, когда ChatGPT может или уже использовался?

– Мы не хотим ни подтверждать, ни опровергать это, – заключает Хатлен Нюлунд.

Встречная волна

Этичный хакер Руди Баугсто предупреждает о «надвигающейся волне весьма заслуживающих доверия фишинговых писем». Ключом к борьбе с этой угрозой искусственного интеллекта является именно искусственный интеллект:

– Вы должны использовать искусственный интеллект, чтобы понять, что они были созданы искусственным интеллектом. Будет хоровод, игра в кошки-мышки между теми, кто хочет обмануть, и нами, кто хочет их остановить, — говорит Руди Баугсто.

Несмотря на то, что электронные письма будут восприниматься как более достоверные, все же можно выявить попытку мошенничества, если они появятся в вашем почтовом ящике.

– Вы должны уделять еще больше внимания тому, получаете ли вы что-то, что кажется законным. Следите за тем, откуда приходит электронное письмо и что скрывается за ссылкой, — призывает Руди Баугсто.

Потому что, даже если искусственный интеллект может принести много пользы, ссылка, по которой мошенники хотят, чтобы вы нажали, будет показательной. Странный веб-адрес или сокращенный URL-адрес являются сигналами опасности, и использование «наведения мыши» покажет истинный домен.

Пример этого можно увидеть в электронном письме Nettavisen с советом ниже:

В электронном письме, по-видимому, от «Постен», на первый взгляд мало указаний на то, что оно исходит от мошенников. Однако есть некоторые показания:

1. «Mouseover», т. е. удерживание указателя мыши над ссылкой, показывает, куда на самом деле ведет ссылка. Адрес находится в самом низу браузера светло-оранжево-розовым шрифтом. Ссылка, начинающаяся с «Firebasestorage.googleapis.com», не имеет ничего общего с настоящей почтовой службой.

2. Постен Нордж Интернэшнл Лтд. 2023 — не настоящее имя Постен.

3. Письмо попало в нашу папку со спамом.

4. Заглавная буква L в «Уведомлении о доставке» и вообще слабая пунктуация.