Кибератака на электросеть: модель угроз с учётом ИИ

автор: Byron Tomes
Злоупотребление ИИИнформационная безопасностьОценка рисковРиск ИИ
 

Примечание автора

Примечание автора: Этот пост был написан в ходе двухнедельного исследовательского спринта в constellation.org. Мой анализ — первый подход к тому, чтобы сформулировать подробную модель угроз кибератак на энергосистему с учётом ИИ. Поэтому сделанные здесь выводы носят предварительный характер, и я рассчитываю на дальнейшие отзывы специалистов для улучшения и корректировки моей работы. Я выражаю особую благодарность Луке Ригетти из openphilanthropy.org и Мэтью ван дер Мерве из governance.ai за их щедрость и глубокий анализ.

В посте рассматривается следующее:

  1. ИИ меняет ландшафт киберугроз
  2. Катастрофические кибератаки на критически важную инфраструктуру
  3. Развитие сценария «Business Blackout» компании Lloyd’s (2015)
  4. Как работает электросеть?
  5. Как кибератака может дестабилизировать энергосистему?
  6. Как кибератака может нанести ущерб на сумму более 100 млрд долларов за счёт дестабилизации энергосистемы: прямые и косвенные подходы
  7. Три основных сценария атак, наносящих ущерб в размере 100 млрд долларов и более
  8. Нерешённые вопросы
  9. Как рост наступательных киберспособностей ИИ влияет на этот анализ?

ИИ уже меняет ландшафт киберугроз

В последние два года глобальное восприятие национальной безопасности и киберугроз формируется развитием ИИ. В октябре 2024 года администрация президента США опубликовала Меморандум по национальной безопасности под названием Укрепление лидерства Соединённых Штатов в области искусственного интеллекта; использование искусственного интеллекта для достижения целей национальной безопасности; а также обеспечение безопасности, защищённости и надёжности искусственного интеллекта. Меморандум предписывает Институту безопасности ИИ США (USAISI), Агентству национальной безопасности (АНБ) и другим федеральным ведомствам оценить способность передовых моделей содействовать наступательным кибероперациям. Ещё меморандум призывает Министерство обороны и учреждения Разведывательного сообщества использовать мощные ИИ-системы для выполнения своих задач в области национальной безопасности. Сюда несомненно входит и использование передового ИИ для наступательных киберопераций.

В 2024 году OpenAI опубликовала два отчёта, где подробно описано, как российские, иранские, китайские и северокорейские субъекты киберугроз использовали проприетарные модели искусственного интеллекта компании наступательных кибероперациях. Эти субъекты использовали большие языковые модели (LLM) OpenAI в рамках своих текущих кампаний для помощи разведке, социальной инженерии, изучению уязвимостей, написанию скриптов для инструментов атаки, обходу систем обнаружения аномалий и деятельности после компрометации.

OpenAI в своей последней системной карточке, посвящённой оценке наступательных киберспособностей модели o1, продемонстрировали, что она может самостоятельно выполнять некоторые соревновательные хакерские задачи, известные как Capture the Flag (CTF-соревнования). Даже с защитными ограничениями o1-preview выполнила 26,7% задач для старшеклассников и 2,5% задач профессионального уровня; o1-mini выполнила 28,7% и 3,9% соответственно. Хотя эти результаты показывают, что o1 отдельно не дотягивает по навыкам и изощрённости до талантливых или хорошо обеспеченных киберзлоумышленников, они демонстрируют, что наступательные киберспособности ведущих (SOTA) моделей совершенствуются. Более того, эти результаты — оценка снизу для SOTA-моделей, поскольку, как мы обсудим ниже, при наличии надлежащей обвязки и доступа к инструментам передовые модели могут куда больше.

Совместно Меморандум о национальной безопасности США, использование LLM хакерами в реальных условиях и результаты оценки передовых ИИ-моделей показывают, что ИИ уже меняет ландшафт киберугроз. А это влияет на безопасность критически важной инфраструктуры, на которую опирается современное общество.

Катастрофические кибератаки на критически важную инфраструктуру

За последние несколько десятилетий кибератаки на критически важную инфраструктуру имели самые разные последствия. В большинстве случаев — почти никаких, но атака NotPetya выделяется как, вероятно, нанёсшая наибольший экономический ущерб. Это самораспространяющееся вредоносное ПО, применённое российской военной разведкой против Украины в 2017 году, распространилось по всему миру, затронув медицинские и государственные учреждения, судоходные компании и энергетический сектор. По данным тогдашней администрации президента США, общий экономический ущерб от этой уничтожавшей данные атаки, составил более 10 миллиардов долларов. По оценкам, ни одна другая кибератака не достигла этого уровня ущерба.

Второй пример — так и не осуществлённая катастрофическая кибератака «Nitro Zeus». После кибератаки Stuxnet в 2007 году на инфраструктуру производства ядерного оружия в Иране США и Иран начали многосторонние переговоры с целью ограничения иранской ядерной программы. Сообщается, что на случай неудачи дипломатии у США был резервный план, состоявший из кибератак для вывода из строя «ПВО Ирана, систем связи и ключевых участков его энергосети». Такая комплексная атака — если бы она вызвала достаточно длительные перебои в связи и электросетях — вероятно, нанесла бы больший экономический ущерб Ирану, чем NotPetya — миру. К сожалению, из-за недостатка известных подробностей о Nitro Zeus трудно сказать, насколько эта резервная атака была проработанной и насколько она могла бы стать эффективной. Кроме того, в этом случае у США были очевидные стимулы устроить утечку такой информации журналистам, чтобы у Ирана сложилось впечатление, укрепляющее позиции США на переговорах по ядерной программе. Так что неясно, были ли у США возможности или намерения провести эту атаку.

NotPetya нанёс значительный ущерб — как оценивается, 10 миллиардов долларов. Но может ли кибератака на критически важную инфраструктуру, возможно, усиленная высокоэффективными ИИ-моделями, нанести на порядок больший общий экономический ущерб (100 миллиардов долларов)? Такой урон — далеко не тривиальная задача для злоумышленника, и подобная атака должна была бы нарушить работу объектов критически важной инфраструктуры на гораздо большем масштабе, чем NotPetya. Если вероятность такого события достигнет хотя бы 1–5 % в год, ИИ-лабораториям, разработчикам инноваций в сфере кибербезопасности и правительствам следует уделить снижению этого риска еще более пристальное и срочное внимание, чем сейчас.

Хотя есть много секторов критически важной инфраструктуры, работу которых злоумышленник мог бы нарушить, этот анализ сосредоточен на одном примере — энергосистеме, поскольку от неё зависит функционирование многого другого. Поэтому я здесь пытаюсь с технической точки зрения понять, насколько вообще посильна кибератака на энергосистему с ущербом больше 100 миллиардов долларов. Как показано ниже, продвинутые киберпреступники и национальные государства с трудом проводят атаки гораздо меньшего масштаба. Из огромной сложности такой атаки следует, что задействованная ИИ-система должна обладать сложнейшими наступательными киберспособностями, дающими злоумышленнику значительное преимущество. Современным SOTA-моделям до этого пока далеко. Но быстрое развитие способностей ИИ в итоге облегчит подобную атаку, пусть поначалу и ненамного. Чтобы определить и предсказать момент, когда ИИ-системы получат способности, делающие крупную атаку на электросеть более посильной, надо как можно подробнее описать сам процесс атаки и все этапы её выполнения.

Опираясь на сценарий Lloyd’s (2015) «Business Blackout»

Есть лишь несколько подробных и тщательно проработанных общедоступных разборов технических деталей и экономических последствий экстремальных кибератак. Как полезный пример выделяется отчёт 2015 года, подготовленный компанией Lloyd’s и Центром исследований рисков Кембриджского университета: Business blackout: the insurance implications of a cyber attack on the US power grid.

Там описывается гипотетическая кибератака на Восточную синхронную сеть США, охватывающую восточные две трети территории страны, и утверждается, что подобная атака привела бы к ущербу около 500 миллиардов долларов. Авторы представляют три сценария с разными уровнями катастрофического ущерба. Медианный сценарий такой:

  1. Вредоносное ПО (гипотетический «троян Erebos») повреждает или уничтожает пятьдесят электрогенераторов, выводя из строя 18 000 МВт (10% от общей мощности генерации), что, в свою очередь, приводит к полному отказу энергосистемы.
  2. В отчёте утверждается, что на восстановление 50% электроснабжения уйдёт до трёх дней, а на восстановление 90% — 21 день.
  3. Такое длительное отключение электроэнергии приведёт к 130 млрд долларов прямых убытков для предприятий и домохозяйств в размере, а с учётом косвенных макроэкономических последствий в течение следующих пяти лет убытки составят 544 млрд долларов. К прямым последствиям относятся повреждение электроэнергетических активов и инфраструктуры, снижение выручки энергоснабжающих компаний и прямые потери выручки предприятий в период отключения электричества.

Компания Lloyd’s опубликовала свой отчёт ещё в 2015 году, и в будущих исследованиях экономические расчёты надо пересмотреть. Но мы будем использовать выводы Lloyd’s как правдоподобную отправную точку, пусть они и могут быть несколько завышены.

Хотя в сценарии отчёта нет подробных деталей, показывающих, насколько столь масштабная кибератака реалистичная, авторов всё же стоит похвалить за аналитическую глубину в попытке решить эту очень сложную проблему. Действительно, авторы отмечают:

Сценарий атаки был разработан профильными специалистами и прошёл экспертную оценку, чтобы увериться в правдоподобности достижения описанных эффектов. В целях безопасности мы опубликовали лишь поверхностные детали метода атаки (которому мы дали название «троян Erebos»). В этом отчёте не раскрываются никакие ранее неизвестные тактики или уязвимости.

Я тоже не хочу раскрывать какие-либо ранее неизвестные уязвимости. Так что этот анализ опирается на несколько общедоступных примеров кибератак на промышленные системы управления (ICS) и на литературу по управлению энергосетями — так он будет конкретнее и полезнее для будущих исследований. Прежде чем перейти к разбору, отмечу несколько предварительных соображений:

  • Хотя, как продемонстрировала российская атака CrashOverride (подробно рассмотренная ниже), хакеры могут физически манипулировать критически важной инфраструктурой, нанести ей реальный ущерб с долгосрочными последствиями гораздо сложнее. И когда речь заходит о нанесении ущерба генераторам, мнения экспертов о том, возможно ли это, похоже, расходятся (см. раздел ниже, посвящённый эксперименту с атакой «Аврора»).
  • Чтобы повреждение генераторов привело к каскадному коллапсу всей энергосистемы, должно совпасть много неблагоприятных факторов. Злоумышленнику пришлось бы провести атаку в период высокого спроса и низких резервных мощностей — и даже тогда потребовались бы сложные действия и тщательная координация.
  • Кроме того, даже при повреждении генераторов операторы энергосистемы, скорее всего, смогли бы восстановить выработку электроэнергии за счёт резервных мощностей и неповреждённых компонентов в течение суток. Чтобы вызвать долгосрочные последствия, злоумышленникам, скорее всего, пришлось бы прибегнуть к психологическому воздействию, которое удержало бы операторов энергосистемы от повторного подключения компонентов выработки и передачи электроэнергии из-за опасений дальнейшего долгосрочного ущерба.

Как работает электросеть?

Прежде чем углубляться в анализ атаки, давайте установим необходимую базу знаний небольшим экскурсом в основы функционирования электросети.

Есть три основных компонента энергосети. Генерация использует угольные, газовые, атомные, ветро-, гидро-, и солнечные электростанции для производства электроэнергии. Передача использует высоковольтные линии электропередачи для транспортировки электроэнергии на большие расстояния от электростанций до подстанций. Распределение использует трансформаторы на подстанциях для понижения напряжения, а распределительные линии доставляют электроэнергию конечным потребителям.

Схема электросети, прослеживающая путь электроэнергии от электростанции слева, через повышающий трансформатор генератора к высоковольтным линиям электропередачи и опорам, к понижающему трансформатору подстанции справа, который затем питает субпередачу, первичных и вторичных потребителей через распределительные линии. Компоненты генерации нарисованы чёрным, передачи — синим, а распределения — зелёным.

Стабильность энергоснабжения в охватывающей большую площадь сети переменного тока (AC) вроде Восточной синхронной сети США, требует от операторов поддержания тонкого равновесия между выработкой и потреблением электричества. В США сети полагаются на стабильную частоту в 60 Гц. На практике это значит, что генераторы в сети поддерживают синхронную скорость вращения — 60 оборотов в секунду. Частота 60 Гц остаётся относительно постоянной, если выработка и потребление электроэнергии находятся в равновесии. Если спрос на электроэнергию падает, нагрузка на генераторы уменьшается, а скорость вращения (частота) растёт. Если спрос на электроэнергию повышается, создавая дополнительную нагрузку, частота генератора падает, поскольку ему тяжелее с ней справляться.

Как кибератака может дестабилизировать энергосистему?

Кибератаки теоретически могут вызвать крупномасштабные сбои в работе энергосистемы двумя основными способами: 1) отключения электроэнергии и 2) повреждение оборудования.

Во-первых, злоумышленники могут отключить объекты генерации, передачи или распределения электроэнергии. Так они создают эффект каскадных отключений: обесточенные объекты вызывают внезапный сильный дисбаланс спроса и предложения. Для поддержания стабильности и защиты физической инфраструктуры от повреждений из-за перегрузки по току, отклонений напряжения или колебаний частоты, при необходимости срабатывают защитные реле энергосистемы. Тогда они резко разрывают связь оборудования с сетью. Если дисбаланс превышает компенсационные возможности сети, происходит серия каскадных срабатываний реле, и, как результат, крупномасштабное отключение электроэнергии. Каскадные отключения нарушают работу системы, но они всё же предпочтительнее повреждения оборудования, и их последствия чаще всего можно устранить в течение 24 часов.

Во-вторых, злоумышленники могут получить доступ к компонентам энергосистемы (вроде защитных реле, систем управления и настройки генераторов и трансформаторных подстанций) и манипулировать ими, чтобы создать долгосрочные физические повреждения, последствия которых невозможно устранить за сутки. Если злоумышленникам удастся повредить или уничтожить высоковольтные трансформаторы или генераторы, эффект от сбоев продлится дольше, поскольку эти компоненты часто нельзя заменить быстро. Тут важно сделать отметить: генерацию электроэнергии, в отличие от самих генераторов, можно быстро восстановить, задействовав резервные генерирующие мощности, но объём доступных резервов (что будет подробно рассмотрено ниже) варьируется в зависимости от многих факторов. На самом деле, как незапланированные, так и запланированные отключения частей энергосистемы постоянно компенсируются за счёт резервов. Но серьёзное повреждение компонентов системы всё равно будет проблемой, если случится в период высокого спроса и нехватки резервных мощностей. Генераторы и трансформаторы не только дорого стоят, но и изготавливаются на заказ с учётом условий эксплуатации на месте установки, а их производство занимает месяцы, так что резервных запасов почти нет. Кроме того, грамотно спланированная атака может создать условия, когда операторы системы будут опасаться повторного подключения высоковольтных трансформаторов и генераторов к системе из-за риска дальнейших повреждений.

Как кибератака может нанести ущерб на сумму более 100 млрд долларов за счёт дестабилизации энергосистемы: прямой и косвенный подходы

Сценарий атаки Lloyd’s предсказывает прямой экономический ущерб в размере порядка 100 млрд долларов или более, но как именно атакующий может этого добиться? Злоумышленники могут нанести столь масштабный экономический ущерб двумя способами: 1) прямой подход: повредить ровно то количество оборудования, которого будет достаточно для вывода энергосистемы из строя; 2) косвенный подход: использовать психологический эффект от менее значительного ущерба оборудованию и тем самым убедить операторов энергосистемы оставить её отдельные участки отключёнными из-за страха перед новыми повреждениями.

При прямом подходе злоумышленники нарушают нормальную работу систем безопасности (например, защитных реле), а затем создают условия, при которых компоненты энергосистемы получают повреждения. Чтобы нанести генератору катастрофический ущерб, злоумышленнику потребуется вывести из строя регулятор турбины генератора, отключить защитные реле и манипулировать предохранителем, соединяющим генератор с остальной сетью. Затем злоумышленник создает ситуацию сброса нагрузки, то есть внезапного падения спроса на мощность, отключив генератор от сети с помощью предохранителей. Многократное подключение к сетевой нагрузке и отключение от неё при неработающем регуляторе подвергает генератор разрушительным нагрузкам, что приводит к механическим поломкам и разрушению.

Эта атака повторяет эксперимент «Аврора», проведённый Министерством внутренней безопасности США и Национальной лабораторией Айдахо в 2007 году. Цель испытания была в том, чтобы «вызвать так называемую фазовую рассинхронизацию (OOPS) путём размыкания и замыкания предохранителя подключённого к энергосистеме генератора во время его работы». Когда генератор отключался от сети, электрическая нагрузка на него резко падала, а скорость вращения возрастала. Как только он вновь подключался к сети без защиты со стороны регулятора, он мгновенно принимал на себя сетевую нагрузку, подвергаясь при резком торможении мощным динамическим ударам. В ходе испытания такой цикл отключения и подключения был повторён в общей сложности четыре раза менее чем за минуту, что привело к непоправимому разрушению генератора.

Важно отметить, что всё защитное оборудование перед испытанием было отключено, что не даёт этому сценарию быть реалистичной демонстрацией настоящей атаки, при которой хакеру сначала пришлось бы незаметно отключить оборудование безопасности. К тому же, Dragos — ведущая компания в области кибербезопасности промышленных систем управления (ICS) — сомневается в в том, что подобная атака возможна за пределами тщательно контролируемого испытания. Они заявляют, что вместо этого «гораздо более эффективный (хотя и сложный) вектор атаки заключается в изменении логики или функциональности автоматических выключателей для создания едва заметных изменений их поведения». Они считают, что более реалистичной атакой было бы не отправлять прямые команды на резкое подключение и отключение генератора, а манипулировать пороговыми значениями, при которых выключатели автоматически реагируют на условия вроде колебаний нагрузки или напряжения. Используя этот метод, злоумышленники могут нанести ущерб как мгновенно, так и в течение длительного времени.

Катастрофическая авария 2009 года на Саяно-Шушенской ГЭС в России наглядно иллюстрирует масштаб ущерба, который может нанести генератору с ненадлежащим регулированием внезапный сброс нагрузки. За день до аварии пожар на соседней гидроэлектростанции вызвал необходимость переброса значительной части нагрузки на Саяно-Шушенскую ГЭС, в результате чего станция работала с превышением безопасной мощности. Под нагрузкой тут понимается общая мощность, которую генератор должен вырабатывать для удовлетворения спроса. В предшествовавшие аварии часы, станция «испытывала значительные и быстрые колебания нагрузки» в диапазоне от 2800 до 4400 МВт, что до сих пор не нашло полного объяснения. Это составляло от 43% до 68% от общей выходной мощности станции, равной 6400 МВт. Чтобы компенсировать значительные колебания нагрузки, сотрудники станции выставили чувствительность регулятора генератора до небезопасного уровня. Они это сделали, потому что это позволяло быстрее корректировать гидравлическое давление, вращавшее генератор, чтобы подстраивать его мощность под колебания нагрузки. В ответ на до конца не изученные внешние условия чрезмерная чувствительность регулятора, слишком быстро скорректировавшего гидравлическое давление на турбине в ответ на резкий спад нагрузки вызвала внезапный и сильный гидравлический удар. Когда турбина второго энергоблока станции, у которой к тому же удерживающие крышку гидроагрегата шпильки не прошли надлежащее техническое обслуживание, испытала внезапный полный сброс нагрузки, собственная инерция фактически разорвала её на части. Из-за выхода из строя 2-го энергоблока огромная нагрузка внезапно перешла на 7-й и 9-й энергоблоки, и они тоже разломались. Последовавший за этим сильный взрыв и затопление унесли жизни 75 человек и уничтожили практически всю электростанцию. Подводя итог, прямой подход предполагает нанесение серьёзного ущерба компонентам энергосистемы по образцу аварии на Саяно-Шушенской ГЭС с целью вывести из строя мощности по выработке электроэнергии.

При косвенном подходе злоумышленники вызывают длительные отключения за счёт сочетания физического ущерба и психологического воздействия, в результате чего операторы энергосистемы не хотят заново подключать компоненты или возобновлять подачу напряжения из-за опасений нанести ещё больший и, следовательно, долгосрочный физический ущерб. Кроме того, если операторы не могут определить причину проблемы или не уверены, что её устранили, они будут колебаться перед восстановлением подключения. В разделе сценариев атак ниже этот косвенный подход изложен подробнее.

Как прямой, так и косвенный подходы требуют от злоумышленников масштабного взлома систем контроля над сетью, хотя косвенный подход предполагает меньший масштаб по сравнению с прямым. Требование массового взлома этих систем управления — одна из главных причин, почему эти атаки столь сложны и, следовательно, крайне маловероятны. Они требуют успешного проникновения в нужное число подстанций линий электропередачи, контроллеров генераторов, защитных реле, центральных диспетчерских пунктов и датчиков мониторинга энергосистемы. Если к целям злоумышленников нет прямого доступа через открытый Интернет, им нужно проникнуть в IT-сети электроэнергетической компании и успешно добраться по ним до сетей операционных технологий (ОТ) и, наконец, до программируемых логических контроллеров или цифровых защитных реле, напрямую управляющими энергосистемой. Разграничение IT и ОТ здесь важно: IT-сети, как правило, ориентированы на бизнес-операции и коммуникацию, а ОТ-сети предназначены для управления физическими процессами и оборудованием. ОТ-сети особенно должны быть тщательно сегментированы и защищены от прямого доступа из Интернета, но на практике многие организации неправильно конфигурируют свои системы контроля ОТ и непреднамеренно подвергают их риску.

Анатомия скоординированной атаки на энергосистему

Но как именно злоумышленник мог бы проникнуть в полностью функционирующую защищённую энергосистему и оказать на неё физический эффект таких экстремальных масштабов? Crashoverride, семейство вредоносного ПО для ICS, известное ещё как Industroyer, — хороший пример того, как злоумышленники могут внедриться в ключевые компоненты энергосистемы и манипулировать ими, помешать нормальной работе систем безопасности, а затем создать условия, при которых компоненты энергосистемы получают повреждения. В 2016 году российские хакеры проникли на подстанцию электросети в Украине и вызвали блэкаут в Киеве, в течение примерно одного часа затронувший 225 000 человек. При первоначальном вторжении атакующие развернули своё специализированное вредоносное ПО для ICS, позже ставшее известным как Crashoverride. После того как Crashoverride заразил OT-сеть подстанции, он автоматически составил карту всех обнаруженных систем управления и определил местонахождение тех конкретных, атака которых предполагалась. Идентифицировав свои цели, в данном случае — Устройства связи с объектами (УСО), взаимодействующие с предохранителями, отрезающими передачу электроэнергии, — Crashoverride разомкнул их, что привело к остановке передачи. После этого Crashoverride «развернул на заражённых системах модуль удаления данных, чтобы воспрепятствовать восстановлению и (в данном конкретном случае) удалить конфигурационные и связанные с ними файлы, чтобы затруднить восстановление». Это привело к тому, что операторы утратили видимость и контроль над затронутым оборудованием, и ограничило их способность проводить скоординированные ответные меры. Затем вредоносное ПО попыталось осуществить DoS-атаку на обнаруженные в сети управления защитные реле Siemens SIPROTEC путём эксплуатации известной уязвимости CVE-2015-5374. В данном случае вредоносное ПО «стремилось создать небезопасные и нестабильные для восстановления связи по линиям передачи условия в момент физического восстановления». Но этот этап атаки завершился неудачей, поскольку в вредоносном ПО были неправильно реализованы протоколы связи ICS, и оно не смогло осуществить DoS-атаку на защитные реле.

В целом, «план атаки Crashoverride был нацелен на обесточивание передающего оборудования, потерю контроля и обзора в управляющих этим оборудованием системах SCADA, а затем — на отключение релейной защиты на обесточенных линиях электропередачи». В ответ на отключение и отсутствие контроля над системой персонал направили для ручного замыкания выключателей на подстанции. Если бы из-за DoS-атаки защитные реле действительно перестали реагировать на небезопасные условия в сети, ручное включение линий электропередачи могло бы не предотвратить опасное состояние перегрузки по току, что повредило бы трансформаторы на подстанции. В итоге, использование Россией Crashoverride в 2016 году можно считать неудачным, потому что оно привело лишь к примерно часовому блэкауту в части Киева и не нанесло физического ущерба оборудованию линий электропередачи. Тем не менее стоит отметить, что архитектура вредоносного ПО — способность атаковать все нужные системы управления в сети и легко применять часто используемые в США и Европе протоколы связи и управления, — делает его масштабируемой угрозой для энергосистем и за пределами Украины.

Если не ограничиваться Crashoverride, что еще нужно атакующим для достижения своих целей? В прошлом злоумышленники, атаковавшие ICS, обычно получали первоначальный доступ к сети и целевым системам путём злоупотребления легитимными учетными записями, для чего они получали их учётные данные разными методами вроде взлома паролей, покупки в даркнете или социальной инженерии. Отмечу, что вторжения часто сильно опираются на эти методы, и для атаки на энергосистему с ущербом свыше 100 миллиардов долларов придётся поступить точно так же. Ещё злоумышленникам потребуется обнаружить характерные для каждого конкретного элемента оборудования энергосети уязвимости ПО и эксплуатировать их. Иногда они обеспечивают доступ и контроль многих систем энергосети на обширной территории, но в иных случаях для каждой OT-сети потребуется уникальная цепочка эксплойтов.

Массовая эксплуатация одной уязвимости ICS более реалистична, чем может показаться. Многие обнаруженные в последние годы уязвимости затрагивают компоненты ICS, широко используемые в энергосети. Проиллюстрируем эту проблему двумя примерами из многих тысяч. В 2023 году Национальная база данных уязвимостей (NVD) сообщила, что CVE-2022-45789, уязвимость программируемых логических контроллеров (ПЛК) Schneider Electric Modicon M340 и M580, которые широко используются в энергетике, позволяла атакующему удалённо выполнять несанкционированные функции Modbus на контроллере, перехватив аутентифицированный сеанс Modbus. В 2021 году исследователи, тестировавшие те же ПЛК Schneider, обнаружили уязвимость, названную ModiPwn, которая «позволяет полностью взять под контроль уязвимые устройства». Она подвергла риску миллионы ПЛК, широко используемых энергетическими компаниями и другими частями промышленного сектора. Эти примеры наглядно иллюстрируют растущую однородность используемых в энергосети и других отраслях промышленности систем контроля и протоколов связи, что позволяет хакерам масштабно атаковать большее количество целей одними и теми же методов эксплуатации.

Учитывая, что многие эксплойты угрожают широко используемым компонентам ICS, вполне вероятно, что атакующий сможет повторно использовать один и тот же эксплойт для компрометации многих подстанций, контроллеров генераторов, защитных реле, центральных пунктов контроля и датчиков мониторинга энергосети. А значит, чтобы скомпрометировать пятьдесят генераторов (как в отчёте Lloyd’s), потребуется не в пятьдесят раз больше усилий, чем на один, а меньше.

Достаточно глубоко проникнув в окружение контроля электросети, атакующие постараются изучить топологию сети и системы контроля, которыми им предстоит манипулировать во время атаки. Этот процесс «предварительного позиционирования», вероятно, будет самым длительным и утомительным этапом с наибольшим для злоумышленников риском попасться. Атакующие не будут рассчитывать, что у них сразу же получится скомпрометировать всю нужную инфраструктуру контроля и безопасности энергосистемы. Они будут действовать медленно и осторожно, чтобы избежать обнаружения, но чем больше времени это займет, тем выше вероятность, что операция будет скомпрометирована и серьезно отброшена назад.

Ещё атакующим потребуется разработать вредоносное ПО, способное коммуницировать по нескольким отдельным протоколам ICS и отправлять корректные команды для достижения конкретных, скоординированных физических эффектов. Прецедент уже есть. Pipedream — пример связанного с Россией вредоносного ПО, ориентированного на ICS, иллюстрирует, как это делается. По данным Dragos, это вредоносное ПО, хоть и неизвестно о его использовании в реальных атаках, было разработано для «вмешательства, повреждения и потенциального уничтожения промышленных сред и процессов». Аналитики обнаружили, что Pipedream может проводить быструю разведку сетей ICS/OT, чтобы выяснить топологию и составить карту поверхности атаки. По данным Dragos, компоненты этого набора инструментов предоставляют злоумышленникам «интерфейс для манипуляции целевыми устройствами», который позволяет «осуществлять 38 % техник из MITRE ATT&CK для ICS».

По мере приближения атаки на энергосеть к кульминации достаточно много скомпрометированных злоумышленниками систем должно таковыми оставаться до самого осуществления финальной атаки. Для успеха требуется их некоторое минимальное количество. Уязвимости регулярно обнаруживаются и исправляются, сброс паролей и изменения учетных записей могут лишить злоумышленников доступа, поэтому специализированные бэкдоры, дающие злоумышленникам постоянный произвольный доступ, должны остаться невыявленными. Crashoverride — отличный пример избыточных механизмов постоянного присутствия, использующих метод двойного бэкдора, который позволяет «атакующим восстановить доступ к целевой сети даже при обнаружении и/или отключении основного бэкдора».

Подводя итог, атакующим потребуется использовать прямой или косвенный подход, применяя сложный набор описанных методов проникновения, обеспечения постоянного присутствия, контроля и нарушения работы, чтобы достичь разрушительных эффектов с ущербом порядка 100 миллиардов долларов.

Из двух упомянутых подходов вытекают три основных сценария атак, наносящих ущерб порядка 100 миллиардов долларов или более.

Обзор литературы помог выделить три основных сценария атак: 1) сценарий Lloyd’s, когда злоумышленники напрямую повреждают минимально необходимое количество генераторов; 2) злоумышленники создают условия резонанса с вынужденными колебаниями, что принуждает операторов энергосети прекратить работу; и 3) злоумышленники проводят атаку со стороны потребителей, напрямую манипулируя нагрузкой на энергосистему. Здесь будут подробно рассмотрены только первые два сценария и их сравнительная осуществимость и вероятность.

В первом сценарии атаки, как в отчете Lloyd’s, злоумышленники повреждают 50 генераторов, что приводит к потере 10 % генерирующих мощностей по всей энергосети. Это вызывает её полный отказ на три дня и 50-процентный отказ ещё на 18 дней. На момент публикации отчета Lloyd’s в 2015 году Восточная энергосистема включала «676 генераторов мощностью от 100 до 1 400 МВт, работающих под управлением 261 электростанции». Проведенный Lloyd’s анализ мощности генераторов «показывает, что можно было бы вывести из строя 18 000 МВт, отключив около 50 генераторов».

К сожалению, из-за нехватки конкретики в отчёте Lloyd’s сложно доверять их выводам. Давайте для начала рассмотрим, сколько времени может уйти на возвращение в строй отключившихся, но не повреждённых генерирующих систем. Если в результате атаки сработают защитные реле на электростанциях с паровыми турбинами, работающих на ископаемом топливе (угле, нефти или природном газе), эти объекты, по словам специалиста по электросетям, возобновят работу в течение 18–24 часов. Отключившиеся генераторы на возобновляемых источниках энергии и газогенераторы с газовыми турбинами (в отличие от паровых) восстановятся очень быстро. Общая мощность электрогенерации в США на 43,1% состоит из природного газа (и подавляющее большинство этого, примерно 90% в 2019 году, относится к быстро восстанавливающейся категории) и на 21,4% из возобновляемых источников (туда же). В сумме это примерно 60 % от общей выработки в США. С учётом этого, если бы защитные реле вызвали каскадное отключение в масштабах всей объединённой энергосистемы без повреждения её компонентов, операторы под колоссальным давлением смогли бы восстановить электроснабжение за один день.

Далее рассмотрим, сколько времени потребуется для восстановления электроснабжения если поврежденные генераторы будут нуждаться в ремонте или замене. Если бы атака успешно повредила больше генерирующих мощностей, чем операторы сети могут заменить резервными, то процент восстановленного энергоснабжения в течение тех же суток составил бы сумму неповрежденных генерирующих мощностей и доступных резервов. При отсутствии других сдерживающих факторов, исходя из указанной в отчете Lloyd’s цифры в 10 % поврежденных генераторов, в течение суток было бы восстановлено более 90 % энергоснабжения. Полное восстановление было бы завершено только по мере ввода в эксплуатацию отремонтированного или замененного оборудования. Поэтому утверждение отчёта Lloyd’s, что 10-процентная потеря генерирующих мощностей сама по себе приведёт к полному отключению сети на три дня и 50-процентному отключению на 21 день, представляется неверным.

У каждого региона североамериканской электросети свой объём резервных мощностей. «Резервный запас» — способность региона электросети вырабатывать дополнительную мощность в ответ на внезапный рост спроса. Эти запасы, выраженные в процентах от общей генерации, варьируются в зависимости от региона. Те, где запас мощности «менее 15% считаются регионами с ограниченным запасом; те, где он 15% до 20% считаются сбалансированными, а те, где запас превышает 20%, часто считаются регионами с избыточным предложением». Североамериканская корпорация по обеспечению надёжности энергосистемы (NERC) ежегодно публикует отчёт, в котором подробно описываются прогнозируемые запасы мощности для каждого региона в нормальных, пиковых и экстремальных условиях. В некоторых регионах Канады прогнозируемый запас мощности в экстремальных условиях составляет 19%. Однако в регионе MISO, охватывающем значительную часть Среднего Запада США, запас мощности в аналогичных условиях составляет −6,3%. В регионе WECC-SW, охватывающем Аризону, Нью-Мексико и части Невады и Техаса, запас мощности в экстремальных условиях составляет −10,8%. В семи из двадцати североамериканских регионов запас мощности указывает на то, что «ресурсов не хватит для обеспечения оперативных резервов в условиях экстремального пикового спроса при нормальных сценариях использования ресурсов» или «при сокращении ресурсов».

В целом в отчёте NERC указано, что в этих семи регионах есть перспектива «недостаточности оперативных резервов». Поэтому злоумышленники захотят осуществить свою атаку в период пикового спроса. Электросети поддерживают резервы энергии в виде аккумуляторных батарей, дополнительной мощности генераторов, сжатого воздуха и воды, закачанной в расположенные на возвышенностях резервуары. Следует отметить, что в случае атаки, повреждающей большое количество генераторов, запас мощности уменьшается, ведь повреждённые генераторы, которые могли бы обеспечить резервную мощность, больше не участвуют в работе системы.

Очень сложно предсказать, как сразу после атаки уравновесятся положительные и отрицательные запасы мощности регионов в рамках объединенной сети, но представляется вероятным, что она восстановит около 90 % полной мощности в течение одного дня после того, как пятьдесят генераторов получат катастрофические повреждения. Однако, как считают Lloyd’s, трёхдневное полное отключение электроэнергии будет вызвано отчасти психологическим давлением, из-за которого «пока энергетические компании не выяснят причину повреждения генераторов, они будут неохотно синхронизировать свои объекты с магистральной энергосистемой». Но без повторных атак, усиливающих это нежелание, трудно представить, что полное отключение электроэнергии продлится три дня, а отключение 50% мощностей — ещё 18 дней. Это резко подрывает утверждения Lloyd’s об экономическом ущербе в размере 100 миллиардов долларов. Чтобы нанести такой экономический ущерб, как предусмотрено в сценарии Lloyd’s и добиться 50-процентного отключения на срок более 24 часов, злоумышленникам на самом деле пришлось бы вывести из строя около 50–60% генерирующих мощностей по всей Восточной синхронной сети, то есть примерно 400 генераторов. На первый взгляд это кажется куда более сложной задачей. Чтобы вызвать полное отключение электроснабжения как минимум на три дня и 50-процентное отключение ещё на 18, злоумышленники могли бы попробовать другую стратегию, которую мы дальше рассмотрим.

Во втором сценарии злоумышленники создают условия резонанса при вынужденных колебаниях. Вынужденные колебания могут иметь разные причины. Они возникают, когда система «возбуждается внешним периодическим возмущением от циклической нагрузки, отказа оборудования, неудачной конструкции системы управления или механических колебаний генератора в нештатных режимах работы.» Конкретно, вынужденные колебания — это вызванные оборудованием отклонения частоты сети выше и ниже заданных 60 Гц. Само отклонение измеряется по частоте и амплитуде. Например, вынужденные колебания можно описать как отклонение от 60 Гц в пределах ±1 Гц, что означает колебания с амплитудой ±1 Гц — вверх до 61 Гц и вниз до 59 Гц. Их можно описать и как отклонение с определённой частотой или периодичностью, например, каждые пять секунд. Исследователи из Ок-Риджской национальной лаборатории отмечают, что эти явления «стали сложной проблемой в связи с всё большим распространением возобновляемых и других ресурсов на основе инверторов (IBR)». К IBR относятся солнечные и ветровые электростанции и аккумуляторные батареи. В другом исследовании отмечается, что «случаи вынужденных колебаний становятся все чаще и серьёзнее». Хоть и есть методы их гашения, они не перестают проблемой. Вынужденные колебания вызываются внешними возбуждающими источниками вроде неисправностей независимо от системных методов гашения, так что они «неограниченно продолжаются, до устранения источника операторами сети или системами защиты.» Ещё больше тревожит,, что когда вынужденные колебания взаимодействуют с частотами собственных колебаний системы, они могут «распространяться по всей сети со значительно усиленной энергией». Это называется резонансным состоянием.

В Северной Америке произошло несколько серьезных случаев резонанса вынужденных колебаний. В январе 2019 года вынужденные колебания частотой 0,25 Гц более 18 минут взаимодействовали с собственными колебаниями частотой 0,24–0,25 Гц и в итоге распространились по всей Восточной энергосистеме США. Событие возникло на электростанции во Флориде, когда из-за неисправности оборудования клапан паровой турбины генератора открывался и закрывался каждые четыре секунды. Это видео иллюстрирует, как это событие вызвало колебания по всей энергосистеме, вплоть до Северной Дакоты. в ноябре 2005 года в Альберте (Канада) в Западной синхронной сети произошло ещё одно событие. Вынужденные колебания с амплитудой 20 МВт, вступившие в резонанс с собственными колебаниями, вызвали на границе между Калифорнией и Орегоном, расположенной на расстоянии 1 100 миль от источника отклонения в 200 МВт. Это усиление в десять раз. Резонансное усиление и эффекты на больших расстояниях затрудняют определение источника события. Эти конкретные случаи вынужденных колебаний не привели к значительному ущербу или даже вовсе обошлись без постоянных повреждений, так что демонстрируют, насколько энергосистема устойчива к событиям схожей магнитуды и продолжительности. То есть, чтобы вынужденные колебания могли реалистично нанести катастрофические повреждения, злоумышленник должен вызвать событие большей амплитуды и длительности, чем два описанных примера.

Хотя это не подтверждено окончательно из-за отсутствия полной информации, выдвигается гипотеза, что явление вынужденных колебаний сыграло важную роль в аварии на Саяно-Шушенской ГЭС в 2009 году, в которой были разрушены девять из десяти её гидротурбин, погибли 75 человек, а сама станция мощностью 6 400 МВт была выведена из эксплуатации на три года. Значительные и быстрые колебания нагрузки, которым подвергался второй энергоблок за несколько часов до аварии, действительно согласуются с картиной вынужденных колебаний.

По данным Калифорнийского независимого системного оператора, организации, контролирующей магистральную электросеть Калифорнии, такие события могут вызывать отказ оборудования, проблемы с перегревом, срабатывание защитных реле и сбои в системе автоматического управления генерацией. В частности, если генераторы не отключены от сети сработавшим реле, они особо уязвимы к повреждениям при резонансе вынужденных колебаний, когда внезапные и значительные колебания нагрузки противодействуют инерции вращения турбины генератора. Итак, эксперты сходятся во мнении, что эти события «представляют постоянную угрозу для энергосистемы: за последние 30 лет в США задокументировано более 20 крупномасштабных инцидентов», и для некоторых из них до сих пор «не установлена точная первопричина».

Атака с использованием резонанса вынужденных колебаний

У атаки с использованием резонанса вынужденных колебаний, для которой потребуется меньше точек компрометации в целевой энергосети, больше шансов нанести экономический ущерб порядка 100 миллиардов долларов, чем у сценария Lloyd’s, но только если атакующим удастся поддерживать её более трёх дней. На эффективность атаки с вынужденными колебаниями гораздо сильнее влияют психологические эффекты. В этом втором сценарии атаки распределённые по сети генераторы, находящиеся под контролем злоумышленников, совместно вызывают сильный резонанс вынужденных колебаний, который распространяется по всей синхронной сети. Скомпрометированные защитные реле и системы безопасности в разных стратегически важных точках позволяют колебаниям повредить другие генераторы и трансформаторы передающих подстанций. Оставшиеся исправными защитные реле срабатывают, вызывая каскад отключений электроэнергии, длящихся около суток. Пока операторы под колоссальным давлением пытаются вернуть в строй неповреждённые компоненты сети и генерирующие мощности, правоохранительные органы и группы по поиску киберугроз, подозревая кибератаку, начинают реагирование на инцидент в OT-сетях. Хотя источники вынужденных колебаний обнаружить трудно, операторам энергосистемы и группам по поиску угроз может удаться выявить несколько скомпрометированных генераторов и вернуть контроль над некоторыми из них. Но именно тогда начинается вторая стадия атаки. Ближе к концу 24-часового периода после завершения начальной стадии, как раз когда большая часть электроснабжения восстанавливается, злоумышленники, используя постоянные бэкдоры в скомпрометированных генераторах, создают второй сильный резонанс вынужденных колебаний, задействуя генераторы, всё ещё находящиеся под их контролем, и резервные скомпрометированные генераторы, не использовавшиеся на начальном этапе. Эффекты повторяются, вызывая новый каскад отключений и нанося дополнительный ущерб оборудованию энергосистемы. На этом этапе стремление как можно скорее восстановить подачу электроэнергии отходит на второй план: возникают опасения, что дальнейшие попытки лишь усугубят долгосрочные повреждения сети и затянут восстановление на сроки, нужные для ремонта или замены вышедших из строя компонентов. Операторы энергосистемы и государственные регулирующие органы вынуждены мобилизовать как можно больше групп по поиску угроз, тщательно проверять OT-сети всех регионов энергосистемы и подключать каждую электростанцию и подстанцию к сети только после полных процедур реагирования на инцидент. Всё это, разумеется, происходит в условиях нормированного электроснабжения — и экономика от этого страдает. Чтобы достичь экономических потерь в размере 100 миллиардов долларов, эта атака в значительной степени опирается на психологические эффекты: первоначальную недооценку угрозы государственными органами и их же последующую чрезмерную реакцию.

Инцидент с Colonial Pipeline в 2021 году — пример того, как жертва кибератаки в энергетическом секторе действовала медленно и осторожно, прежде чем возобновить работу инфраструктуры. В том случае OT-сеть нефтепровода не была целью атаки. Злоумышленники, использующие программу-вымогатель, зашифровали только корпоративные IT-сети Colonial Pipeline. Хотя «воздействия на OT-сеть не было, из соображений крайней осторожности Colonial Pipeline всё же остановила операционную часть сети», и распределение топлива прекратилось. Нефтепровод был отключён шесть дней из-за «недостатка у компании информации и понимания степени своей уязвимости, а также ограниченной уверенности в способности смягчить последствия для OT-сети». Вполне вероятно, что та же психологическая динамика, что в инциденте с Colonial Pipeline, будет характерна и для сценария с вынужденными колебаниями.

Хотя сценарий атаки с использованием вынужденных колебаний требует компрометации меньшего числа отдельных компонентов электросети, что делает его проще, чем взлом и уничтожение 400 генераторов, он всё ещё чрезвычайно сложный и потому, пока что крайне маловероятный. Да и публичных данных о атаках с использованием резонанса вынужденных колебаний нет, так что этот сценарий пока весьма гипотетический.

В третьем сценарии злоумышленники проводят атаку «со стороны спроса», когда, например, «ботнет Интернета вещей (IoT) из устройств с высокой потребляемой мощностью, вроде кондиционеров и обогревателей, даёт атакующим уникальную возможность осуществлять крупномасштабные скоординированные атаки на энергосистему» посредством прямой манипуляции потребительской нагрузкой в сети. Мы не будем здесь подробно рассматривать этот вариант атаки, потому что количество подконтрольных злоумышленникам IoT-устройств, нужное для создания серьёзных эффектов во всей энергосистеме, представляется очень большим — гораздо большим, чем 400 генераторов из первого сценария.

Из трёх сценариев атаки наиболее вероятным вариантом для нанесения прямого экономического ущерба в размере >100 млрд долларов представляется использование резонанса вынужденных колебаний.

Нерешённые вопросы

Этот ограниченный анализ представляет собой первый шаг в моделировании этой угрозы и ни в коей мере не претендует на исчерпывающий характер. Требуется дальнейшая работа над ещё многими неопределённостями и вопросами, чтобы эта модель угроз стала более чёткой и полезной:

  1. Какой ущерб может нанести состояние сильного резонанса при вынужденных колебаниях незащищённым трансформаторам и генераторам? Может ли злоумышленник спровоцировать такое событие? Как именно?
  2. Улучшились ли методы обеспечения устойчивости к вынужденным колебаниям? Насколько они эффективны? Насколько сильно их можно подавить?
  3. Возможно ли с помощью кибератаки нанести генератору или высоковольтному трансформатору ущерб, достаточный для вывода его из строя на несколько дней, недель или месяцев?
  4. Какова связь между масштабом физического повреждения оборудования и временем восстановления? Помимо того, чтобы просто вызвать каскадное отключение, какие повреждения нужны, чтобы вывести электросеть из строя на срок, достаточный для причинения ущерба в 100 миллиардов долларов?
  5. Действительно ли высоковольтные трансформаторы и крупные генераторы заменять так долго и сложно, как об этом говорят?
  6. Что более перспективная цель для злоумышленников: генераторы или высоковольтные трансформаторы?
  7. Насколько эффективны системы кибербезопасности операционных технологий (OT)? Смогут ли они быстро обнаружить и отразить столь сложную, многоэтапную атаку, предпринятую решительным и обладающим немалыми ресурсами противником?

Помимо этих вопросов есть и много других. Один из них особенно выделяется: как на всё это влияют достижения в ИИ?

Как рост наступательных киберспособностей ИИ влияет на этот анализ?

До сих пор мы не упоминали здесь ИИ. Но людям, обеспокоенным киберрисками ИИ, стоит обратить на это внимание, ведь за последние два года передовые языковые модели начали расширять возможности людей-хакеров. Они также продемонстрировали способность автономно выполнять этапы наступательных кибератак. Если рассматривать кибератаки на различные секторы критической инфраструктуры, успешная кибератака на электросеть, приводящая к отключению целой синхронной сети США, стала бы одной из самых экономически разрушительных. Но пока она, попадает в категорию хвостовых рисков, ввиду своей очень малой вероятности. Но может ли прогресс в ИИ в течение следующих нескольких лет повысить эту вероятность в пять или десять раз? Её определяют несколько основных факторов, вроде прошлых атак и возможностей ИИ в данный момент. Исторические попытки взлома и вывода из строя электросетей, вроде Crashoverride и кампании Volt Typhoon, привели к незначительным, когда вообще хоть каким-то, сбоям. Crashoverride вызвала отключение электричества на один час и не нанесла физического ущерба. Китайская кампания Volt Typhoon провела масштабные операции кибершпионажа против критически важной инфраструктуры в Европе, Тихоокеанском регионе и США, но не привела ни к сбоям, ни к ущербу. Описанные атаки чрезвычайно сложны и требуют экспертизы, времени и ресурсов. Бы ниже рассмотрим способности ИИ, которые дают злоумышленникам значительное преимущество, но пока этого недостаточно, чтобы кардинально изменить ситуацию. Учитывая всё это, вероятность остается крайне низкой — по информированной субъективной оценке, возможно, 0,1–1 % в год. Но с учётом недавних темпов развития способностей ИИ эта оценка может возрасти быстро и неожиданно. Всего за последние два года передовые ИИ-модели продемонстрировали рост способностей, связанных с проведением кибератак, вроде разработки ресурсов для них, получения первоначального доступа к цели, исследования сети после компрометации и перемещения по ней, а также общей автономности атаки. Ниже мы подробно рассмотрим примеры каждого из этих аспектов.

Автономность

Исследователи, использующие команду агентов на базе LLM, недавно продемонстрировали их способность самостоятельно осуществлять несколько этапов кибератаки при наличии доступа к детерминированному графу тактик, техник и процедур (TTP) атаки. Граф TTP даёт LLM набор методов атаки, чтобы о них рассуждать, им следовать и ими ограничиваться. Это направляет LLM и помогает преодолеть их склонность отвлекаться на собственные ошибки. Эти исследователи создали «автоматизированную систему построения и эмуляции сквозных атак» на базе LLM под названием AURORA (не путать с упомянутым выше тестом Aurora). Эта система обрабатывает отчеты разведки киберугроз (CTI), «чтобы сгенерировать план атаки на основе графа знаний о процедурах атаки. Ещё она создает необходимую инфраструктуру для эмуляции атак. Используя LLM, AURORA анализирует знания об атаках из разных источников и составляет из многих методов полный жизненный цикл комплексной кибератаки. Результаты оценки показали, что AURORA способна это сделать на основе отчета за несколько минут без вмешательства человека». При тестировании они обнаружили, что «учет связей между процедурами атаки», представленных в виде графа, повышает «вероятность успеха атаки на 28 % (с 79⁄163 до 125⁄163)».

Исследователи из стартапа XBOW в сфере наступательной безопасности провели оценку, сравнив на наборе задач по пентестингу свою систему на базе LLM с людьми-пентестерами. XBOW выставили пятерых людей-пентестеров разного уровня — от начинающего до эксперта мирового класса — против своей ИИ-системы. Согласно их результатам, «пентестер-эксперт и XBOW набрали абсолютно одинаковый балл в 85%. Штатный пентестер добился успеха в 59%. Если рассматривать всех людей-пентестеров как единую команду, они решили 87,5% задач, что лишь немного превышает результат одной системы XBOW. Большая разница кроется в затраченном времени. Людям-пентестерам потребовалось 40 часов, а вот XBOW затратила на поиск и эксплуатацию уязвимостей 28 минут». Тут впечатляет, насколько ИИ-система быстрее людей. Скорость взлома ИИ и их не прекращающие расти способности к атакам, вероятно, глубоко повлияют на ландшафт киберугроз, что потребует разработки сопоставимо быстрых защитных решений.

Чрезвычайно важно отметить, что LLM показывают в ситуациях автономных наступательных киберопераций наилучшие результаты, при наличии обвязки. Это система, которая окружает ядро LLM полезными инструментами и связывает несколько её промптов вместе, чтобы решать более сложные задачи, чем можно одним промптом. Это похоже на то, как если предоставить человеку-хакеру набор наступательных инструментов и позволить ему вести рассуждение о том, как их использовать. Оценки LLM без применения обвязки часто выявляют не столь впечатляющие наступательные киберспособности. Например, исследование Meta, не использовавшее обвязку, показало, что «как новички, так и эксперты, применявшие модель [Llama] 405B, продемонстрировали незначительное преимущество по сравнению с открытым доступом к интернету без LLM».

Разработка ресурсов: атакующие собирают и разрабатывают инструменты и способности, нужные для проведения атаки

В некоторой степени атакующие могут использовать ИИ-модели в качестве инструкторов или наставников для планирования и выполнения этапов кибератаки. Атакующие без определенной экспертизы в областях вроде протоколов связи OT, возможностей контроллеров ICS, написания эксплойтов или эксплуатации Active Directory, могут получить ценную информацию, обращаясь к LLM, обученным на огромном количестве данных о кибератаках по этим темам. Одно из серьёзных ограничений, с которым сталкиваются злоумышленники при использовании этой стратегии — что LLM, вероятно, не обладают достаточно подробными для атак на ICS/OT знаниями о внутреннем устройстве «железа» и ПО контроллеров и о детальных схемах и технических характеристиках энергосетей, ведь эти сведения часто хранятся производящими и использующими эти системы организациями в строгой секретности. Это означает, что LLM, скорее всего, не обучены на больших объемах таких знаний. Пока это так, польза LLM для эффективных и сложных атак на энергосеть будет ограниченной. Но представители национальных государств, обладающие достаточными ресурсами, могут позволить себе приобрести эти системы и обучить использующие LLM наступательные киберинструменты на соответствующих данных ICS/OT. Будучи так обучены или получив доступ к этим ценным данным, SOTA-модели ускорят этап разведки при кибератаке на ICS, позволяя злоумышленнику быстро понять нюансы поверхности атаки и внутреннего функционирования целевой сети. Но это не значит, что злоумышленник с меньшими ресурсами не сможет использовать имеющиеся знания LLM для усиления своих способностей атаковать ICS. Например, эксперт по кибербезопасности ICS смог применить бесплатную версию ChatGPT для воссоздания российского вредоносного ПО для ICS «Frosty Goop», которое атаковало энергетическую компанию в Украине, что привело «к двухдневному отключению отопления» для 600 домохозяйств. Эксперт передал ChatGPT отчет Dragos об этом вредоносном ПО и попросил создать рабочий код, имитирующий описанные возможности. Модель выполнила задание и сгенерировала код, который воспроизвел способность Frosty Goop взаимодействовать по протоколу Modbus TCP для влияния на OT.

Первоначальный доступ: злоумышленники успешно проникают в целевую сеть

SOTA-модели показали способность находить уязвимости программного обеспечения и эксплуатировать их. Исследователи из Google Project Zero протестировали способность передовых LLM отыскивать уязвимости переполнения буфера и сложные уязвимости повреждения памяти. Они смогли в 20 раз повысить успешность обнаружения переполнения буфера и в 3 раза — обнаружения сложных уязвимостей повреждения памяти в CyberSecEval по сравнению с тестами, проведёнными Meta на нём же. Другая группа исследователей показала, что «команды агентов LLM могут эксплуатировать настоящие уязвимости нулевого дня. Предыдущие агенты поодиночке с трудом справляются с исследованием множества разных уязвимостей и долгосрочным планированием». Чтобы расширить возможности, они создали «систему агентов с агентом планирования, способным запускать субагентов. Агент планирования исследует систему и определяет, какие субагенты задействовать, решая проблемы долгосрочного планирования при проверке разных уязвимостей». Они создали «бенчмарк из 15 настоящих уязвимостей» и продемонстрировали, что их система превосходит предыдущие разработки в 4,5 раза.

Исследование и перемещение по сети: злоумышленники исследуют целевую сеть в поисках конфиденциальной информации или других слабых мест, чтобы получить более широкий доступ

Исследователи в области наступательной безопасности из стартапа Dreadnode создали обвязку, позволяющую LLM использовать известный хакерский инструмент «Bloodhound» для исследования сети и перемещения по ней. LLM с обвязкой совершает запросы к Microsoft Active Directory для перебора связей между пользователями, серверами и группами. Затем она определяет, какие связи между этими объектами можно эксплуатировать для получения более глубокого доступа к целевой сети. Эти действия после компрометации — ключевые шаги, которые злоумышленник должен выполнить для достижения итоговых целей атаки, и они требуют обдумывания на несколько шагов вперед.

Обход средств защиты и скрытность

Одна из ключевых способностей LLM, которую до сих пор всесторонне не оценивали, — это скрытно и обходя средства защиты проводить атаки на сети, где развёрнуты защитные механизмы вроде систем обнаружения и реагирования на конечных точках (EDR) и систем управления событиями и инцидентами безопасности (SEIM) и где работают команды специалистов по безопасности. В сложных и длительных наступательных кибероперациях с высокими ставками скрытность и обход средств защиты очень важны. Недостаток работы в этой области должен побудить исследователей и специалистов по оценке моделей к созданию бенчмарков и оценок измерения этих способностей.

Заключение

Выше перечислены лишь некоторые из способов, как злоумышленники могут использовать SOTA-модели для достижения желаемого воздействия на целевую сеть. Этот прогресс расширяет возможности хакеров начинающего и среднего уровня, позволяя им применять ранее недоступные для них действия и помогая им быстрее учиться. Самые талантливые и обеспеченные ресурсами хакеры получат преимущество, управляя командами автономных хакерских агентов, что увеличит масштаб и скорость их атак. Однако, несмотря на продемонстрированные наступательные киберспособности, вероятность успешной атаки которая может вывести из строя целую синхронную сеть, остаётся крайне низкой, <1% в год даже при поддержке современных ведущих моделей. Но быстрые или внезапные прорывы в возможностях ИИ, прецеденты которых мы уже наблюдали, вынудят пересмотреть эту оценку вероятности.


Оригинальная публикация: Byron Tomes (2024) Electric grid cyberattack: an AI-informed threat model, LessWrong, 11 ноября.