ИИ вызывает страхи о биотерроризме. В чём реальный риск?
Чат-боты могут помочь злоумышленникам получить или создать новые патогены в разрушительных целях.
Глобальное распространение больших языковых моделей (LLM) обостряет многие опасения о безопасности. Среди них — то, как искусственный интеллект (ИИ) может позволить экстремистам совершать акты биотерроризма ради своих идеологических целей. Чат-боты уже доказали свою способность советовать пользователям по планированию атак новыми смертоносными видами бактерий, вирусов и токсинов. Между тем соперничество великих держав отвлекает внимание от угроз террористических группировок и злонамеренных негосударственных субъектов.
В начале 2023 года учёный и бывший инспектор по вооружениям ООН Рокко Касагранде принёс в Белый дом на брифинг с представителями правительства США небольшой контейнер. В нём была дюжина легкодоступных химических ингредиентов, которые флагманский чат-бот компании Anthropic, Claude, рекомендовал как прекурсоры для запуска новой пандемии. Демонстрация Касагранде подтвердила, что теперь любой человек с доступом к интернету теоретически может самостоятельно создать оружие массового уничтожения.
«Ясно, что биологические технологии, усиленные теперь искусственным интеллектом, как никогда упростили создание патогенов», — пишут учёный Роджер Брент, старший научный сотрудник RAND Corporation Т. Грег Маккелви-младший и президент RAND Джейсон Матени. «Для некоторых людей и групп тут есть барьеры — например, отсутствие доступа к нужным лабораториям или оборудованию. Но неуклонный технологический прогресс эти барьеры рушит».
Для Кремниевой долины это не новость. Secure AI Framework компании Google отмечает биологические атаки с поддержкой ИИ как повод для беспокойства. С другой стороны, команда из OpenAI в прошлом году изучила этот вопрос и заключила, что GPT-4 давал пользователям лишь незначительное преимущество в создании биологического оружия по сравнению с обычным поиском в интернете.
Несмотря на этот вывод, риск биотерроризма не стоит на месте. В отчёте International AI Safety Report 2025 для Парижского саммита по искусственному интеллекту 2025 года показано, что большие языковые модели гораздо лучше справляются с задачами, связанными с биологическим и химическим оружием задачами, точно отвечая на запросы о приобретении и создании смертоносных патогенов. Оценки авторов отчёта показывают, что инструкции отдельных моделей по высвобождению смертоносных веществ только за 2024 год улучшились на 80 процентов.
У «одиноких волков», террористов, апокалиптических группировок и других негосударственных субъектов тревожащая история попыток проведения биологических атак, но успехи были скромными.
Восполнение пробелов, оставленных Белым домом
Китай, Иран, Северная Корея и Россия, как считается, обладают некоторыми возможностями создания биологического оружия. Но «непрактичность и неизбирательность биологического оружия означают, что вряд ли в ближайшем будущем государства станут проводить крупномасштабные биологические атаки», — говорится в отчёте 2024 года Center for a New American Security (CNAS). А вот «у «одиноких волков», террористов, апокалиптических группировок и других негосударственных субъектов тревожащая история попыток проведения биологических атак, но успехи были скромными из-за трудностей, присущих созданию и применению столь тонких средств». Исследователи CNAS предупреждают, что это ложное чувство безопасности постепенно исчезает. В основном — благодаря достижениям генетики и синтетической биологии и появлению облачных лабораторий — незаметных автоматизированных комплексов, дистанционно проводящих эксперименты по заказам клиентов.
В то же время администрация Трампа фактически разгромила американский AI Safety Institute. Созданный на закате администрации Байдена, он был призван выявлять, оценивать и снижать риски передовых ИИ-систем. Аналогичную работу продолжает The International Network of AI Safety Institutes, но теперь её влияние на американские технологические компании будет куда слабее.
ФБР и ЦРУ тоже лишились значительной части экспертов из-за массового запугивания и увольнений госслужащих так называемым «Департаментом эффективности правительства» («Department of Government Efficiency»). Оба ведомства — ключевые компоненты глобальной контртеррористической разведки.
Ещё важнее, что союзники США всё прохладнее относятся к обмену с Вашингтоном секретной информацией. Официальные лица этих государств — как сообщается, стран альянса «Пять глаз» (Австралии, Канады, Новой Зеландии и Великобритании), Израиля и Саудовской Аравии — подозревают, что Белый дом может передать разведданные Москве в попытке наладить американо-российские отношения. Но во враждебной геополитической обстановке верно и обратное. В марте 2024 года «Исламское государство» устроило бойню в концертном зале в пригороде Москвы. Погибли 139 человек, сотни получили ранения. Кремль, отвлечённый войной в Украине, проигнорировал предупреждения иностранных спецслужб о готовящемся против России теракте и оказался застигнут врасплох.
Риск независимых биотеррористов
В вакууме власти, возникшем из-за отказа Америки от многостороннего сотрудничества, оживают транснациональные террористические группировки и вооружённые негосударственные субъекты. Они искусно используют передовые технологии вроде криптовалют, кибератак и программ-вымогателей. Зашифрованные мессенджеры вроде WhatsApp и Telegram применяются для вербовки новых членов, торговли оружием, сбора средств и скрытной координации действий. Это не ограничено исламистскими боевиками и расовыми супрематистами, а касается и апокалиптических сект, вроде ныне несуществующих «Зизианцев» — группы из района залива Сан-Франциско, которую называли «первым в мире культом смерти, вдохновлённым искусственным интеллектом», стремившейся заменить человечество компьютерным суперинтеллектом.
«Настоящая экзистенциальная угроза исходит не от Китая», — написали два видных технологических деятеля в январе 2025 года для журнала MIT Technology Review, сетуя на разговоры о борьбе либеральных демократий с Пекином за господство в ИИ. По их словам, она исходит «от использования передового ИИ в качестве оружия злоумышленниками и независимыми группировками, стремящимися нанести масштабный ущерб, обогатиться или дестабилизировать общество».
Нестабильность самих ИИ-систем добавляет проблем. Все видные ИИ-чатботы оказались уязвимы для джейлбрейков — хитрых способов, как пользователи могут обойти протоколы безопасности систем. Опасность экспоненциально увеличивается с ростом числа ИИ-агентов, способных теперь автономно выполнять задачи через интернет. Да, недорогие модели с открытым исходным кодом могли бы демократизировать внедрение ИИ для продуктивности и инноваций, но у них есть свои вопиющие недостатки, и они тоже должны адекватно регулироваться.
Но законодательные инициативы органов, обладающих юрисдикцией над Кремниевой долиной, подвергаются яростному лоббированию. Например, в прошлом году губернатор Калифорнии Гэвин Ньюсом наложил вето на новаторский законопроект SB 1047 после массированной пиар-кампании от технологической индустрии. Беспокоит и включение законодателями-республиканцами в свой проходящий через Конгресс налоговый законопроект пункта исподтишка, который на следующее десятилетие запретит штатам и местным органам власти регулировать ИИ.
По мрачной иронии судьбы, если биотеррористическая атака с использованием технологий всё-таки произойдёт, ИИ сыграет и жизненно важную роль в ускоренной разработке лечения. Будем надеяться, что до этого не дойдёт — COVID-19 уже показал, как новый вирус может посеять хаос в тесно взаимосвязанном мире. Следующая пандемия запросто может оказаться гораздо хуже.