Искусственный интеллект на службе у мошенников: теперь стало почти невозможно определить, что письмо фишинговое

Один из самых распространенных приемов финансовых мошенников – фишинг. Это когда жертва получает письмо на электронную почту или сообщение в мессенджере, якобы от банка или другой крупной компании, а потом переходит по ссылке или как-то еще передает данные злоумышленникам.

Проблема фишинговых писем в том, что для многих очень сложно определить, что текст написан не банком. Но определить все же было можно – например, по ошибкам, нелогичному содержанию и прочим маркерам. Однако теперь финансовые мошенники прибегли к помощи искусственного интеллекта.

По словам управляющего директора «Лаборатории Касперского» Анны Кулашовой, злоумышленники теперь начали использовать возможности искусственного интеллекта ChatGPT, чтобы составлять фишинговые письма более грамотно, пишет РИА Новости. Теперь благодаря помощи бота устраняются те маркеры, по которым ранее можно было определить поддельное письмо.

Например, ChatGPT умеет быстро перестраивать наборы слов и устранять возможные ошибки. Поэтому потенциальной жертве стало гораздо сложнее понять, что текст прислал не банк, а кто-то, кто хочет похитить деньги.

Впрочем, пока даже ИИ не в состоянии исключить все ошибки – по словам Кулашовой, бот обучается и совершенствуется, но на очень сложные действия пока не способен. Тем не менее, он может использоваться для целевого фишинга – например, в массовой рассылке на адреса отдельной организации. Противодействовать таким атакам пока можно, да и для мошенников использование ИИ обходится дорого, считает представитель «Лаборатории Касперского».

Отметим, что запущенный компанией Open AI чат-бот ChatGPT официально недоступен в России – для регистрации нужно указать номер телефона одной из «разрешенных» стран и подтвердить его кодом. Но в действительности получить аккаунт не так сложно. ChatGPT умеет писать текст и программный код, переводить тексты и отвечать на вопросы в режиме диалога.