Будущее фишинга

ИИ увеличивает масштаб и изощрённость фишинговых атак, одновременно резко снижая затраты на них

автор: CivAI
Злоупотребление ИИИнформационная безопасность
 

На исходной странице представлена интерактивная демонстрация, где читатели могут выбрать публичное лицо или вымышленного персонажа, поручить ИИ собрать о нём общедоступную информацию, сгенерировать фишинговое письмо, персонализированное под эту цель, и увидеть макет поддельной страницы входа в LinkedIn, перехватывающей учётные данные.

Фишинг по электронной почте — отправка кому-либо обманчивого письма, которое подталкивает получателя к раскрытию конфиденциальной информации, — ровесник самого интернета. Раньше это были либо массовые рассылки типовых сообщений, либо высокоперсонализированные письма для небольшого числа VIP-целей. Но прогресс в ИИ делает проведение таргетированных фишинговых атак проще, дешевле и быстрее, чем когда-либо. А это означает, что киберпреступники могут посчитать за VIP каждого.

Поскольку ИИ-системы способны прочёсывать огромные объёмы общедоступной информации, они могут практически мгновенно узнать, кто вы, чем интересуетесь и какие психологические уязвимости можно использовать. На основе этой информации они могут составить высокоперсонализированные электронные письма, которые неискушённому читателю покажутся подлинными и заслуживающими доверия. Из-за этого настоящее письмо от опасного отличить куда сложнее.

Во второй части демонстрации ИИ пишет персонализированное электронное письмо на основе собранной о выбранной цели информации, подстраивая не только содержание, но и поддельное имя отправителя, тон и стратегию привлечения внимания.

Обратите внимание, как сгенерированные электронные письма различаются не только содержанием, но и стратегией привлечения внимания. Поддельное имя отправителя, тон и стиль письма меняются в зависимости от цели. Например:

  • В письме известному спортсмену может подчёркиваться сотрудничество с актуальным для его региона брендом
  • В письме профессору может быть приглашение на узкоспециализированную конференцию в его области
  • В письме владельцу бизнеса может предлагаться перспективное партнёрство

Обратите внимание и что каждое письмо заканчивается правдоподобной ссылкой на профиль отправителя в LinkedIn. Перейдя по ней, вы попадаете на поддельную страницу входа, где предлагается ввести пароль от LinkedIn, который смогут увидеть злоумышленники.

В третьей части демонстрации показана поддельная страница входа в LinkedIn (обратите внимание на малозаметно неправильный URL-адрес «linkediin.com»), перехватывающая введённые жертвой учётные данные, поверившей предыдущей переписке.

Масштабный фишинг

Согласно данным Центра ФБР по приёму жалоб на интернет-преступления фишинг — с большим отрывом самый распространённый вид киберпреступности. Хотя количество таких атак растёт уже много лет, данные Statista показывают: за год после релиза ChatGPT число фишинговых атак по всему миру увеличилось более чем вдвое. По имеющимся данным, 91 % всех кибератак начинается с электронного письма.

ИИ не только повышает качество кибератак, но и увеличивает их число. Это приведёт к значительному росту убытков в сфере кибербезопасности. Недавнее исследование показало, что уже сегодня весь процесс фишинга может быть полностью автоматизирован и что лучшие современные ИИ-модели справляются с этой задачей наравне с людьми-специалистами.

Что нас ждёт впереди

Миллиарды людей ежедневно открывают электронные письма. Раньше большинство из них не представляли интереса для фишинга, потому что затраты преступников превышали возможную выгоду. Но теперь сложные мошеннические схемы можно составить за считанные минуты, а не часы — это меняет расклад и подвергает риску каждого.

Есть некоторые свидетельства того, что ИИ можно использовать и для защиты от фишинга, проактивно выявляя злой умысел. Но, поскольку ИИ-системы совершенствуются ежемесячно, атаковать всё же легче, чем защищаться.

Ссылки

  1. Fred Heiding, Bruce Schneier и Arun Vishwanath (2024) AI will increase the quantity—and quality—of phishing scams, Harvard Business Review, 30 мая
  2. Troy Hunt (2024) Pwned Passwords, Have I Been Pwned?
  3. Federal Bureau of Investigation, Internet Crime Complaint Center (2023) 2022 Internet Crime Report, Federal Bureau of Investigation
  4. Statista (2024) Number of detected phishing e-mails worldwide from January 2022 to December 2023, Statista
  5. Microsoft Threat Protection Intelligence Team (2020) Protecting against coronavirus themed phishing attacks, Microsoft Security Blog, 20 марта
  6. Fred Heiding и др. (2024) Evaluating large language models’ capability to launch fully automated spear phishing campaigns: validated on human subjects, arXiv, 30 ноября
  7. Fred Heiding и др. (2024) Devising and detecting phishing emails using large language models, IEEE Access, т. 12, сс. 42131–42146

Оригинальная публикация: CivAI (2024) The future of phishing, CivAI.