Самые распространённые кибератаки с применением ИИ

автор: Lucia Stanham
БиобезопасностьЗлоупотребление ИИИнформационная безопасностьИскусственный интеллектНаблюдениеРиск ИИ
 

Как работают кибератаки с применением ИИ?

ИИ стал ключевой технологией в IT-инструментарии любого предприятия, а ещё оружием в арсеналах киберпреступников.

Кибератаки с применением ИИ используют алгоритмы и методы искусственного интеллекта или машинного обучения (ML) для автоматизации, ускорения или повышения эффективности разных этапов кибератаки. Сюда входят поиск уязвимостей, развёртывание кампаний по выявленным векторам атак, продвижение по путям атаки, установка бэкдоров в системах, кража или искажение данных и вмешательство в их работу.

Алгоритмы кибератак с применением ИИ, как и любой другой искусственный интеллект, способны со временем обучаться и развиваться. Это означает, что кибератаки с применением ИИ могут адаптироваться, чтобы избежать обнаружения, или создавать схемы атак, которые система безопасности не в состоянии распознать.

Характеристики кибератак с применением ИИ

У кибератак с применением ИИ пять основных характеристик:

  • Автоматизация атак: До самого недавнего времени большинство кибератак требовало от человека-злоумышленника много ручной работы. Однако растущий доступ к инструментам с поддержкой ИИ и генеративного ИИ позволяет злоумышленникам автоматизировать исследование и проведение атак.
  • Эффективный сбор данных: Первый этап любой кибератаки — разведка. В этот период злоумышленники ищут цели, эксплуатируемые уязвимости и ресурсы, которые можно скомпрометировать. ИИ может автоматизировать или ускорить большую часть этой рутинной работы, позволяя злоумышленникам значительно сократить этап исследования и потенциально повысить точность и полноту своего анализа.
  • Индивидуализация: Одна из ключевых способностей ИИ — скрапинг данных (data scraping), то есть сбор и анализ информации из открытых источников вроде социальных сетей и корпоративных сайтов. В контексте кибератаки эта информация может использоваться для создания гиперперсонализированных, релевантных и своевременных сообщений, которые служат основой для фишинга и других атак с использованием методов социальной инженерии.
  • Обучение с подкреплением: Алгоритмы ИИ обучаются и адаптируются в режиме реального времени. Эти инструменты постоянно совершенствуются, чтобы давать корпоративным пользователям более точную аналитику, и ровно так же они помогают злоумышленникам оттачивать методы или уходить от обнаружения.
  • Нацеливание на сотрудников: Как и при индивидуализации атак, ИИ можно использовать, чтобы находить в организации сотрудников, которые представляют собой особо ценные цели. Это люди, у которых может быть доступ к конфиденциальным данным или широкие права в системе; они могут выглядеть менее технически подкованными или поддерживать тесные связи с другими ключевыми целями.

Типы кибератак с применением ИИ

Есть много типов кибератак с применением ИИ и машинного обучения. Вот некоторые из них:

Атаки социальной инженерии с применением ИИ

Атаки социальной инженерии с применением ИИ используют алгоритмы ИИ, чтобы помочь в исследовании, разработке креативных концепций или проведении атаки социальной инженерии. Атака социальной инженерии — это любой вид кибератаки, цель которого — манипулировать поведением человека: заставить его передать конфиденциальные данные, перевести деньги или права собственности на ценные активы, дать доступ к системе, приложению, базе данных или устройству.

При атаке социальной инженерии с применением ИИ алгоритм может использоваться для следующего:

  • Выявление идеальной цели: и компании в целом, и конкретного человека в организации, который может служить шлюзом в IT-среду
  • Создание образа и соответствующего онлайн-присутствия для общения с объектом атаки
  • Разработка реалистичного и правдоподобного сценария, способного привлечь внимание
  • Написание персонализированных сообщений или создание мультимедийных материалов вроде аудиозаписей или видео для взаимодействия с объектом атаки

Фишинговые атаки с применением ИИ

Фишинговые атаки с применением ИИ используют генеративный ИИ для создания высокоперсонализированных и реалистичных электронных писем, SMS-сообщений, телефонных звонков или обращений в социальных сетях, чтобы добиться нужного результата. В большинстве случаев цели у них те же, что и у атак социальной инженерии: добраться до конфиденциальной информации, проникнуть в систему, получить деньги или побудить пользователя установить вредоносный файл на своё устройство.

В более продвинутых случаях ИИ может автоматизировать коммуникацию в реальном времени при фишинговых атаках. Например, чат-боты на базе ИИ способны вести диалог так, что их почти не отличить от людей. Развернув такие инструменты в большом масштабе, злоумышленники могут одновременно выходить на связь с огромным числом людей. Часто эти чат-боты выдают себя за сотрудников службы поддержки или клиентского сервиса, пытаясь собрать личную информацию и учётные данные, сбросить пароли или получить доступ к системе или устройству.

Дипфейки

Дипфейк — это видео, изображение или аудиофайл, сгенерированные с помощью ИИ и предназначенные для обмана людей. Чаще всего дипфейки появляются в интернете просто чтобы развлечь и сбить с толку. Однако их могут использовать и в более злонамеренных целях в рамках кампаний дезинформации, распространения «фейковых новостей», дискредитации известных личностей или кибератак.

В контексте кибератаки дипфейк обычно входит в кампанию социальной инженерии. Например, злоумышленник может взять существующие записи руководителя компании или клиента и сделать поддельную аудио- или видеозапись. Такой инструмент может сымитировать голос человека и потребовать совершить определённое действие: перевести средства, сменить пароль или дать доступ к системе.

Состязательный ИИ/ML

Состязательный ИИ или состязательное машинное обучение — это ситуация, когда злоумышленник стремится нарушить работу или снизить точность ИИ/ML-систем с помощью манипуляций или намеренной дезинформации.

Злоумышленники используют несколько методов состязательного ИИ/ML, нацеленных на разные этапы разработки и эксплуатации модели. К ним относятся:

  • Атаки типа «отравление»: Они нацелены на обучающие данные ИИ/ML-модели, то есть на то, по чему учится алгоритм. Злоумышленник может внедрить в обучающий датасет фальшивую или вводящую в заблуждение информацию, чтобы снизить точность или объективность модели.
  • Атаки типа «уклонение»: Они нацелены на входные данные ИИ/ML-модели. Такая атака незаметно меняет их, из-за чего модель классифицирует данные неверно, а её прогностические способности падают.
  • Вмешательство в модель: Такие атаки направлены на параметры или структуру предварительно обученной ИИ/ML-модели. Злоумышленник вносит в неё несанкционированные изменения, чтобы нарушить способность модели генерировать точные выводы.

Вредоносные GPT

Генеративный предварительно обученный трансформер (GPT) — это тип ИИ-модели, способной генерировать осмысленный текст в ответ на пользовательские промпты. Вредоносный GPT — это изменённая версия GPT, которая выдаёт вредные или намеренно ложные выводы.

В контексте кибератак вредоносный GPT может создавать векторы атаки (например, вредоносное ПО) или вспомогательные материалы вроде мошеннических электронных писем и поддельного онлайн-контента, чтобы продвинуть атаку.

Атаки с использованием программ-вымогателей

Программа-вымогатель с поддержкой ИИ — это тип программ-вымогателей, который использует ИИ, чтобы работать эффективнее или автоматизировать некоторые этапы атаки.

Например, ИИ можно применять для изучения целей, выявления уязвимостей системы или шифрования данных. Кроме того, ИИ позволяет со временем адаптировать и модифицировать файлы программ-вымогателей, из-за чего средствам кибербезопасности сложнее их обнаружить.

Как снизить риски кибератак с применением ИИ

С технологиями ИИ киберпреступникам потенциально проще и быстрее проводить кибератаки: порог входа для одних злоумышленников снижается, а более опытные игроки выходят на новый уровень изощрённости. Атаки с применением ИИ зачастую сложнее обнаружить и предотвратить, чем атаки традиционными методами и вручную, поэтому они — серьёзная угроза безопасности для всех компаний.

В этом разделе мы дадим рекомендации в четырёх ключевых категориях: как защититься от кибератак с применением ИИ и как им противодействовать.

Постоянно проводите оценку безопасности

  • Разверните комплексную платформу кибербезопасности с непрерывным мониторингом, обнаружением вторжений и защитой конечных точек.
  • Зафиксируйте базовые показатели работы системы и поведения пользователей, чтобы потом сравнивать с ними происходящее, и внедрите аналитику поведения пользователей и объектов (UEBA). В идеале это стоит объединить с мониторингом других событий в среде: на конечных точках и в облаке.
  • Проверяйте системы на аномальную активность пользователей или неожиданные изменения в среде, которые могут указывать на атаку.
  • Наладьте анализ входных и выходных данных вашей ИИ/ML-системы в реальном времени, чтобы защититься от состязательных атак на ИИ.

Разработайте план реагирования на инциденты

План реагирования на инциденты — это документ, в котором описываются процедуры, шаги и обязанности организации в случае кибератаки. В основе плана — четыре ключевых направления, определённые Национальным институтом стандартов и технологий (National Institute of Standards and Technology, NIST):

  • Подготовка: Разработать план, который поможет предотвращать инциденты безопасности и реагировать на атаки, когда они происходят.
  • Обнаружение и анализ: Установить, произошёл ли инцидент безопасности, и, если да, определить его серьёзность и тип.
  • Сдерживание и ликвидация: Ограничить использование и работу системы, чтобы остановить распространение атаки и снизить ущерб; принять меры по устранению последствий, чтобы вернуть систему в строй и закрыть любые уязвимости.
  • Восстановление: Скоординировать внедрение дополнительных мер безопасности, чтобы предотвратить подобные атаки в будущем и защититься от более широкого спектра угроз.

Обучайте сотрудников основам информационной безопасности

  • Добавьте в существующий курс по безопасности модуль, специально посвящённый атакам с применением ИИ.
  • Сделайте упор на том, насколько реалистичными и убедительными бывают методы атак с применением ИИ, особенно в социальной инженерии и в дипфейк-атаках через чаты и аудиосообщения.
  • Для защиты от состязательных атак на ИИ обучите команды замечать, когда ИИ/ML-системы ведут себя странно или выдают подозрительные выводы.

Внедряйте решения на базе ИИ

Подобно тому как киберпреступники превращают ИИ в оружие, организации могут использовать его для противодействия атакам с применением ИИ.

  • Внедряйте изначально построенные на ИИ решения для кибербезопасности: они позволяют организациям анализировать обширные датасеты и находить закономерности.
  • Используйте инструменты с поддержкой ИИ для автоматизации связанных с безопасностью задач, включая мониторинг, анализ, установку исправлений, предотвращение и устранение последствий.
  • Задайте в системе параметры, по которым команды будут получать оповещения о высокорисковой активности, чтобы им было проще расставлять приоритеты при реагировании.

Платформа CrowdStrike, изначально построенная на ИИ

Платформа CrowdStrike Falcon® — это изначально построенная на ИИ платформа кибербезопасности для эпохи расширенного обнаружения и реагирования (XDR).

Платформа Falcon объединяет данные, безопасность и IT: в неё встроены генеративный ИИ и автоматизация рабочих процессов, что помогает предотвращать взломы, снижать сложность и сокращать затраты.

Как платформа Falcon использует возможности ИИ:

  • Применяет индикаторы атак на базе ИИ (IOA) и поведенческий анализ на базе ИИ для более эффективного обнаружения угроз
  • С помощью CrowdStrike Falcon® Identity Threat Detection использует ИИ, чтобы выявлять атаки на учётные записи, и пресекает горизонтальное перемещение внутри сетей
  • Через CrowdStrike Falcon® Insight XDR задействует изначально встроенные способности ИИ для расширенного обнаружения угроз на конечных точках и реагирования на них
  • Интегрирует решения на базе ИИ: например, ExPRT.AI от CrowdStrike Falcon® Spotlight, который добавляет ИИ-функции в управление уязвимостями, и CrowdStrike® Charlotte AI™, интеллектуального помощника по безопасности с поддержкой генеративного ИИ

Хотите узнать, как ваша организация может использовать возможности ИИ для защиты от самых изощрённых кибератак? Свяжитесь с нами прямо сейчас, чтобы подробнее познакомиться с платформой CrowdStrike Falcon и запланировать демонстрацию.


Оригинальная публикация: Lucia Stanham (2025) Most common AI-powered cyberattacks, CrowdStrike, 16 января.