Консультант компанії Microsoft поділився інформацією про те, як зловмисники експлуатують технології штучного інтелекту.
Можливості штучного інтелекту відкривають нові горизонти. Від автоматизації різних процесів до реалізації функцій, які раніше здавалося, неможливі, весь технологічний сектор відчуває переваги впровадження ШІ. Проте доступність мовних моделей створила простір для їх зловживання шахраями. Нещодавно користувачі Gmail стали свідками надзвичайно реалістичних шахрайських схем, розроблених з використанням ШІ, які здатні обманути навіть менш досвідчених користувачів.
З розвитком технологій захисту від фішингу, зловмисники змушені вдосконалювати свої методи. Один з найновіших випадків торкнувся Сема Мітровича, консультанта компанії Microsoft, який вирішив поділитися своїм досвідом і закликав інших бути обережними. Як користувач Gmail, Мітрович отримував тривожні сповіщення про спроби зловмисників відновити його обліковий запис, а також отримував дзвінки, які нібито були від Google. Спочатку він вирішив проігнорувати ці звернення, дотримуючись обережності. Проте, щоб краще зрозуміти ситуацію, він все ж відповів на один із дзвінків. Вражаюче, що співрозмовник розмовляв з помітним американським акцентом, хоча дзвінок надійшов із Австралії.
Передбачуваний "представник Google" зв'язався з Мітровичем, цікавлячись його подорожами до Німеччини, згадуючи про те, що тиждень тому хтось отримав доступ до його Gmail-акаунту та особистої інформації. Подібні контакти часто використовуються в фішингових схемах, оскільки вони покликані залякати жертву та змусити її виконувати вимоги шахраїв. Під час бесіди Мітрович вирішив перевірити номер телефону в інтернеті і виявив, що це дійсно контакт Google Australia.
На цьому етапі багато людей можуть беззастережно довіряти всьому, що їм повідомляють. Після підтвердження, що дзвінок надійшов з, здавалося б, "легітимного" номера, вони часто сприймають інформацію від "агента" як правдиву. Проте, шахраї мають навички маскування своїх номерів, створюючи ілюзію законності. Щоб розпізнати шахрайську схему, Мітрович звернувся до "агента Google" з проханням надіслати йому електронного листа для перевірки. Він прагнув впевнитися у справжності адреси відправника. На цьому етапі він виявив, що одна з адрес у полі "кому" виявилася фальшивою, що підтвердило його підозри.
Крім того, Мітрович зрозумів, що так званий агент Google насправді використовував голос, синтезований за допомогою штучного інтелекту. Спостерігаючи за розвитком шахрайської схеми, він вирішив перервати бесіду. Якби вони продовжили спілкування, наступним кроком, ймовірно, стала б пропозиція здійснити дії для відновлення його облікового запису Gmail, що дало б злочинцеві можливість отримати доступ до особистої інформації.
Ця шахрайська схема, що використовує штучний інтелект для атаки на облікові записи Gmail, має високий ступінь складності. Від синтетичного голосу до телефонних номерів, які видаються легітимними від Google, все це діють у тандемі для підвищення ефективності фішингу.
