ИИ вызывает страхи о биотерроризме. В чём реальный риск?

Чат-боты могут помочь злоумышленникам получить или создать новые патогены в разрушительных целях.

автор: Kyle Hiebert
Безопасность ИИБиобезопасностьГлобальный катастрофический биологический рискЗлоупотребление ИИФактор экзистенциального риска
 
Солдаты бразильской армии в оливково-зелёных защитных костюмах и противогазах во время антитеррористических учений. Один солдат с нашивкой «Maia» стоит в фокусе на переднем плане; остальные позади него размыты.
Солдаты бразильской армии участвуют в антитеррористических учениях. В них приняли участие около 100 военнослужащих; учения включали превентивные удары по химическому, биологическому и радиологическому оружию. (Ueslei Marcelino/REUTERS)

Глобальное распространение больших языковых моделей (LLM) обостряет многие опасения о безопасности. Среди них — то, как искусственный интеллект (ИИ) может позволить экстремистам совершать акты биотерроризма ради своих идеологических целей. Чат-боты уже доказали свою способность советовать пользователям по планированию атак новыми смертоносными видами бактерий, вирусов и токсинов. Между тем соперничество великих держав отвлекает внимание от угроз террористических группировок и злонамеренных негосударственных субъектов.

В начале 2023 года учёный и бывший инспектор по вооружениям ООН Рокко Касагранде принёс в Белый дом на брифинг с представителями правительства США небольшой контейнер. В нём была дюжина легкодоступных химических ингредиентов, которые флагманский чат-бот компании Anthropic, Claude, рекомендовал как прекурсоры для запуска новой пандемии. Демонстрация Касагранде подтвердила, что теперь любой человек с доступом к интернету теоретически может самостоятельно создать оружие массового уничтожения.

«Ясно, что биологические технологии, усиленные теперь искусственным интеллектом, как никогда упростили создание патогенов», — пишут учёный Роджер Брент, старший научный сотрудник RAND Corporation Т. Грег Маккелви-младший и президент RAND Джейсон Матени. «Для некоторых людей и групп тут есть барьеры — например, отсутствие доступа к нужным лабораториям или оборудованию. Но неуклонный технологический прогресс эти барьеры рушит».

Для Кремниевой долины это не новость. Secure AI Framework компании Google отмечает биологические атаки с поддержкой ИИ как повод для беспокойства. С другой стороны, команда из OpenAI в прошлом году изучила этот вопрос и заключила, что GPT-4 давал пользователям лишь незначительное преимущество в создании биологического оружия по сравнению с обычным поиском в интернете.

Несмотря на этот вывод, риск биотерроризма не стоит на месте. В отчёте International AI Safety Report 2025 для Парижского саммита по искусственному интеллекту 2025 года показано, что большие языковые модели гораздо лучше справляются с задачами, связанными с биологическим и химическим оружием задачами, точно отвечая на запросы о приобретении и создании смертоносных патогенов. Оценки авторов отчёта показывают, что инструкции отдельных моделей по высвобождению смертоносных веществ только за 2024 год улучшились на 80 процентов.

У «одиноких волков», террористов, апокалиптических группировок и других негосударственных субъектов тревожащая история попыток проведения биологических атак, но успехи были скромными.

Восполнение пробелов, оставленных Белым домом

Китай, Иран, Северная Корея и Россия, как считается, обладают некоторыми возможностями создания биологического оружия. Но «непрактичность и неизбирательность биологического оружия означают, что вряд ли в ближайшем будущем государства станут проводить крупномасштабные биологические атаки», — говорится в отчёте 2024 года Center for a New American Security (CNAS). А вот «у «одиноких волков», террористов, апокалиптических группировок и других негосударственных субъектов тревожащая история попыток проведения биологических атак, но успехи были скромными из-за трудностей, присущих созданию и применению столь тонких средств». Исследователи CNAS предупреждают, что это ложное чувство безопасности постепенно исчезает. В основном — благодаря достижениям генетики и синтетической биологии и появлению облачных лабораторий — незаметных автоматизированных комплексов, дистанционно проводящих эксперименты по заказам клиентов.

В то же время администрация Трампа фактически разгромила американский AI Safety Institute. Созданный на закате администрации Байдена, он был призван выявлять, оценивать и снижать риски передовых ИИ-систем. Аналогичную работу продолжает The International Network of AI Safety Institutes, но теперь её влияние на американские технологические компании будет куда слабее.

ФБР и ЦРУ тоже лишились значительной части экспертов из-за массового запугивания и увольнений госслужащих так называемым «Департаментом эффективности правительства» («Department of Government Efficiency»). Оба ведомства — ключевые компоненты глобальной контртеррористической разведки.

Ещё важнее, что союзники США всё прохладнее относятся к обмену с Вашингтоном секретной информацией. Официальные лица этих государств — как сообщается, стран альянса «Пять глаз» (Австралии, Канады, Новой Зеландии и Великобритании), Израиля и Саудовской Аравии — подозревают, что Белый дом может передать разведданные Москве в попытке наладить американо-российские отношения. Но во враждебной геополитической обстановке верно и обратное. В марте 2024 года «Исламское государство» устроило бойню в концертном зале в пригороде Москвы. Погибли 139 человек, сотни получили ранения. Кремль, отвлечённый войной в Украине, проигнорировал предупреждения иностранных спецслужб о готовящемся против России теракте и оказался застигнут врасплох.

Риск независимых биотеррористов

В вакууме власти, возникшем из-за отказа Америки от многостороннего сотрудничества, оживают транснациональные террористические группировки и вооружённые негосударственные субъекты. Они искусно используют передовые технологии вроде криптовалют, кибератак и программ-вымогателей. Зашифрованные мессенджеры вроде WhatsApp и Telegram применяются для вербовки новых членов, торговли оружием, сбора средств и скрытной координации действий. Это не ограничено исламистскими боевиками и расовыми супрематистами, а касается и апокалиптических сект, вроде ныне несуществующих «Зизианцев» — группы из района залива Сан-Франциско, которую называли «первым в мире культом смерти, вдохновлённым искусственным интеллектом», стремившейся заменить человечество компьютерным суперинтеллектом.

«Настоящая экзистенциальная угроза исходит не от Китая», — написали два видных технологических деятеля в январе 2025 года для журнала MIT Technology Review, сетуя на разговоры о борьбе либеральных демократий с Пекином за господство в ИИ. По их словам, она исходит «от использования передового ИИ в качестве оружия злоумышленниками и независимыми группировками, стремящимися нанести масштабный ущерб, обогатиться или дестабилизировать общество».

Нестабильность самих ИИ-систем добавляет проблем. Все видные ИИ-чатботы оказались уязвимы для джейлбрейков — хитрых способов, как пользователи могут обойти протоколы безопасности систем. Опасность экспоненциально увеличивается с ростом числа ИИ-агентов, способных теперь автономно выполнять задачи через интернет. Да, недорогие модели с открытым исходным кодом могли бы демократизировать внедрение ИИ для продуктивности и инноваций, но у них есть свои вопиющие недостатки, и они тоже должны адекватно регулироваться.

Но законодательные инициативы органов, обладающих юрисдикцией над Кремниевой долиной, подвергаются яростному лоббированию. Например, в прошлом году губернатор Калифорнии Гэвин Ньюсом наложил вето на новаторский законопроект SB 1047 после массированной пиар-кампании от технологической индустрии. Беспокоит и включение законодателями-республиканцами в свой проходящий через Конгресс налоговый законопроект пункта исподтишка, который на следующее десятилетие запретит штатам и местным органам власти регулировать ИИ.

По мрачной иронии судьбы, если биотеррористическая атака с использованием технологий всё-таки произойдёт, ИИ сыграет и жизненно важную роль в ускоренной разработке лечения. Будем надеяться, что до этого не дойдёт — COVID-19 уже показал, как новый вирус может посеять хаос в тесно взаимосвязанном мире. Следующая пандемия запросто может оказаться гораздо хуже.


Оригинальная публикация: Kyle Hiebert (2025) AI is reviving fears around bioterrorism. What’s the real risk?, Centre for International Governance Innovation, 30 июня.