Кримінальний ШІ. Шахрайство в Інтернеті може перетворитися на битву між штучними інтелектами

Гарвардські вчені з’ясували, що фішингові листи від штучного інтелекту справляються зі своїм завданням так само ефективно, як і складені людьми. Щобільше, великі мовні моделі можуть автоматизувати весь процес фішингу і скоротити витрати на 95%.

Шахрайство в інтернеті стає все більш поширеною проблемою, а з розвитком штучного інтелекту його може бути набагато складніше уникнути, зазначає BusinessInsider.

Згідно з дослідженням Гарвардської школи бізнесу, за допомогою фішингових листів, створених штучним інтелектом, вдалося обдурити 60% учасників — приблизно той самий показник і листів, як і складених людьми.

У фішинговому листі шахрай зазвичай видає себе за компанію або приватну особу та запитує у користувача дані кредитної картки, паролі та іншу конфіденційну інформацію.

Фішингове шахрайство майже таке ж старе, як і інтернет, але, як кажуть науковці, штучний інтелект підвищує «його серйозність». У ході дослідження з’ясувалося, що великі мовні моделі можуть автоматизувати весь процес фішингу — створення листів, визначення цілей і збір інформації. Це може знизити вартість атак на 95%.

«З цієї причини ми очікуємо, що найближчими роками якість фішингових листів покращиться, і їх побільшає», — пишуть автори.

Основні ознаки фішингових листів

Тривожна тема. Кіберзлочинці використовують соціальну інженерію – це цілеспрямована маніпуляція з метою переконати людину чи організацію розкрити конфіденційну інформацію. Популярний спосіб – тривожна тема листа.

Слід насторожитися, якщо у темі є такі висловлювання, як «терміново», «попередження системи безпеки», «потрібна дія» та «обліковий запис під загрозою». Хакери сподіваються, що побачивши ці слова, людина впаде в паніку. В результаті він діятиме імпульсивно і, не замислюючись, надасть конфіденційну інформацію, перейде за посиланням або завантажить вкладення.

Майте на увазі, що звичайні компанії також використовують ці теми, щоб повідомити співробітників та клієнтів про реальну надзвичайну ситуацію. Тому не поспішайте надсилати такий лист до кошика.

Підозріле доменне ім’я. Кіберзлочинці також можуть використовувати назву відомої компанії, її логотип та дизайн листів. Але якщо придивитися до домену електронної пошти, можна помітити один із наступних тривожних сигналів.

Використовується загальнодоступна адреса, наприклад, назва_компанії@gmail.com.
У доменному імені назва реальної організації написана з помилкою або в трохи зміненому варіанті.
Домен містить кілька піддоменів.
Домен верхнього рівня відрізняється від того, що зазвичай використовують компанії (наприклад, .ua, .com, .net чи .org).

Якщо домен виглядає підозрілим, зв’яжіться з компанією безпосередньо. Правильна email-адреса також можна знайти на сайті організації. А ще краще, якщо ви вже спілкувалися з її представниками, просто порівняйте реальний домен з підозрілим.

Загальне чи надто особисте привітання. Деякі фішингові листи починаються із загального вітання, наприклад «шановний клієнт». Якщо ж хакери знають, як вас звуть, то можуть надмірно персоналізувати вітання, щоб завоювати довіру. Вони можуть додавати надто особисту або специфічну інформацію: повне ім’я, номер телефону та адресу.

Законний бізнес використовуватиме більш збалансований підхід і не включатиме інформацію про одержувача, яку він і так знає.

Граматичні та орфографічні помилки. Звичайні компанії стежать за граматикою та орфографією у своїх повідомленнях. Водночас листи фішингу можуть містити очевидні помилки.

Підозрілі посилання та вкладення. Іноді фішингові листи містять посилання на шкідливі сайти. На цих сайтах може бути форма для введення особистої інформації, яка виглядає, так само як і на реальному відомому сайті. Однак як тільки користувач введе свої дані, наприклад ім’я та пароль, кіберзлочинець їх побачить, а потім скористається ними для злому облікового запису.

Крім посилань, у фішингових листах можуть бути вкладення – зазвичай це файл, що виконується (exe) або стислий архів (zip, rar або tar.gz). Якщо його завантажити та відкрити, пристрій заразиться шкідливим програмним забезпеченням або програмою-вимагачем.

Запит конфіденційної інформації. Жодна законна організація не вимагатиме особисті дані поштою. Не варто відповідати, якщо вас просять повідомити пароль, дані банківської картки, баланс рахунку, адресу, номер телефону та аналогічні подробиці.

Крім того, не слід відповідати, якщо в листі запитується загальна інформація, наприклад, дівоче прізвище матері, улюблений колір або ім’я домашньої тварини. Ця інформація допоможе хакерам обійти питання безпеки під час злому акаунтів.

Хибне почуття терміновості. Кіберзлочинці можуть попросити якнайшвидше виконати певну дію, щоб уникнути негативних наслідків. Наприклад, перейти за посиланням або надати запитану інформацію, щоб обліковий запис не видалили. Так одержувач почне панікувати, і він не матиме часу на те, щоб підтвердити цю інформацію.

Нереалістична пропозиція. Якщо ви раптово виграли лотерею, в якій ніколи не брали участь, або родич, про який ви ніколи не чули, залишив вам величезну спадщину, це може бути лист фішингу. Кіберзлочинці можуть попросити вас надати певну інформацію або сплатити комісію за обробку платежу, перш ніж надіслати виграні чи успадковані гроші.

Штучний інтелект на сторожі фішингу

Технологія штучного інтелекту може працювати й на благо, допомагаючи визначати листи від шахраїв. Можливо, онлайн-шахрайство скоро перетвориться на битву між штучним інтелектом: одна нейромережа запускатиме атаки, а інша — захищатиметься від них.

Деякі моделі справляються з цим краще за інших. Як пишуть дослідники, Claude від Anthropic правильно визначила спроби фішингу навіть у тих листах, де це було неочевидно, а в деяких випадках навіть перевершила людей за показниками виявлення.

У ході дослідження деякі моделі не тільки правильно визначали фішингові листи, але й давали «відмінні рекомендації» щодо того, як реагувати на них.