Еще недавно разговоры о том, что искусственный интеллект может облегчить создание биологического оружия, в основном выглядели как сценарии из научной фантастики. Теперь у компаний, которые разрабатывают самые мощные ИИ-модели, появились реальные примеры.
В сентябре 2026 года Anthropic опубликовала отчет о пяти случаях, когда Claude использовали в исследованиях, связанных с вирусами, токсинами и другими биологическими объектами, способными иметь двойное – медицинское и потенциально военное – применение. Компания подчеркивает: она не утверждает, что ученые собирались создавать биологическое оружие. Однако характер некоторых проектов оказался достаточно тревожным, чтобы разработчики заблокировали связанные аккаунты и усилили защиту моделей.
Практически одновременно Google сообщил о другом случае: пользователь пытался получить у Gemini полноценную пошаговую техническую инструкцию по созданию биологических агентов, пригодных для использования в качестве оружия. А в другом эпизоде вредоносная программа сама использовала тему биологического и ядерного оружия, чтобы заставить ИИ неправильно обработать вредоносный код.
Получается, ИИ одновременно пытаются использовать как источник опасных знаний, как помощника в настоящей биологической науке и как объект атаки.
Самый очевидный сценарий выглядит почти банально: пользователь обращается к чат-боту и просит его написать инструкцию. Google сообщил о попытке получить у Gemini «полное пошаговое техническое руководство» по синтезу биологических агентов, которые можно было бы использовать как оружие. Подобные запросы относятся к категории, на которую система безопасности должна реагировать отказом. Здесь проходит понятная граница: пользователь хочет получить опасную информацию – модель отказывается. Но проблема в том, что реальная биология устроена гораздо сложнее.
Ученый может спрашивать ИИ о вирусе, мутации, токсине, механизме действия лекарства или способе проверить научную гипотезу, и сам по себе такой запрос вовсе не означает намерения создать оружие. Многие из этих исследований необходимы для разработки вакцин, лекарств и методов диагностики. Поэтому для разработчиков ИИ существует неприятная проблема: опасная и полезная биология часто используют одни и те же научные знания.
Anthropic прямо называет это проблемой двойного назначения. Одна и та же информация может быть полезна для разработки лекарства или вакцины и одновременно для создания более опасного биологического агента. И пять случаев из нового отчета компании как раз показывают, насколько трудно провести эту границу.
Первый описанный Anthropic случай связан с вирусом чикунгунья. В мае 2026 года система безопасности компании заблокировала запрос на помощь в подготовке научной заявки. Речь шла об исследованиях, направленных на изменение свойств вируса, связанных с передачей инфекции и уклонением от иммунного ответа.
Anthropic отдельно отмечает, что подобная работа может иметь вполне легитимные медицинские цели. Однако в данном случае сочетание содержания проекта и информации о месте, где предполагалось проводить исследования, вызвало дополнительные вопросы. Компания также обнаружила, что исследователи получали доступ к ИИ через посредническую платформу, которая обходила региональные ограничения. Более того, если Claude отказывался отвечать на чувствительный запрос, платформа могла перенаправить его другой модели с менее строгими ограничениями. Получается, защита одного чат-бота сама по себе не обязательно решает проблему. Пользователь может находиться не внутри одной системы, а в целой цепочке: посредник – одна модель – другая модель – собственные инструменты – реальная лаборатория.
Anthropic в итоге заблокировала связанные аккаунты и добивалась отключения инфраструктуры, использовавшейся для обхода ограничений. При этом компания специально оговаривает, что не утверждает злого умысла исследователей.
Второй случай оказался еще показательнее. Anthropic обнаружила исследователя, который несколько недель использовал Claude в работе с высокопатогенным птичьим гриппом. Исследование касалось адаптации вируса к млекопитающим и механизмов развития тяжелого заболевания. За это время состоялись тысячи сообщений.
Claude помогал с планированием исследований, анализом данных, интерпретацией результатов, расстановкой приоритетов между экспериментами и подготовкой научного текста. Anthropic пишет, что речь шла о ранней стадии исследовательского проекта, а реальный прирост возможностей от ИИ был в основном организационным и аналитическим. Более того, из-за защитных механизмов исследователь имел доступ только к значительно менее мощным моделям. То есть это вовсе не история о том, что человек написал в чат «создай новый вирус», нажал Enter и получил готовый результат.
История прозаичнее и потенциально важнее. ИИ постепенно превращается в универсального научного помощника, который может сопровождать исследователя на протяжении недель: помочь разобраться с литературой, сформулировать гипотезу, обработать результаты, сравнить варианты эксперимента и подготовить текст. Сам по себе каждый такой шаг может выглядеть совершенно обычным. Риск появляется, когда они складываются в одну исследовательскую цепочку.
Третий пример касается ортопоксвирусов – семейства, к которому относятся вирус натуральной оспы и mpox. Исследователь работал над заявкой на исследование механизмов, с помощью которых эти вирусы уклоняются от иммунного ответа. Anthropic обнаружила, что заявка была полностью подготовлена с помощью Claude Opus 5 примерно за час. Модель помогла сформулировать центральную гипотезу, экспериментальный дизайн, статистическую часть и варианты действий при разных результатах исследования.
Здесь особенно хорошо видно, чем современный ИИ отличается от обычной поисковой системы. Поисковик может найти десятки научных статей, а языковая модель – собрать из них связный рабочий документ, структурировать аргументацию и помочь исследователю пройти путь от идеи до проекта. Для обычной науки это огромное преимущество, для исследований двойного назначения – потенциальная проблема.
Два последних случая в отчете Anthropic посвящены токсинам. В одном из них исследователь создавал каталог пептидов из ядов различных животных, а затем использовал генеративные методы для оптимизации характеристик этих молекул. Заявленная цель была медицинской: поиск новых обезболивающих, антидепрессантов и других терапевтических соединений. Однако каталог включал молекулярные структуры, связанные не только с обезболивающим, но и с паралитическим действием. То есть один и тот же вычислительный подход потенциально позволял искать как полезные, так и вредные соединения. Anthropic также сообщает, что работа была частью государственной исследовательской программы.
Еще один исследователь использовал Claude в проектах по компьютерной модификации различных токсинов. В материалах фигурировали белки, связанные с токсином бактерии и вирусом геморрагической лихорадки, который входит в перечень приоритетных заболеваний Всемирной организации здравоохранения. Особенно примечательно, что в отчетах, которые исследователь готовил вместе с Claude, идентичность некоторых биологических объектов намеренно описывалась расплывчато. Anthropic расценила это как дополнительный сигнал риска и заблокировала аккаунты.
Компания снова делает оговорку: она не утверждает, что ученые собирались создавать биологическое оружие. Anthropic не говорит со стопроцентной уверенностью, что кто-то с помощью Claude уже создал новый биологический патоген или готовое оружие. Более того, компания специально пишет, что приведенные случаи не доказывают намерения причинить вред. Она также скрыла названия организаций, страны и конкретные биологические агенты.
Однако отчеты показывают кое-что другое. ИИ уже способен стать частью реального биологического исследования, причем не только в роли справочника. Он может помогать: анализировать научную литературу; формулировать и структурировать гипотезы; планировать исследовательскую работу; анализировать экспериментальные данные; интерпретировать результаты; готовить научные документы; искать и систематизировать потенциально полезные молекулы. Именно накопительный эффект здесь важнее отдельного ответа.
Представим исследователя, который раньше тратил несколько дней на поиск литературы, еще несколько дней на ее систематизацию, а затем самостоятельно писал проект эксперимента. Если ИИ сокращает каждый из этих этапов, общая скорость научной работы растет. А вместе с ней растет и скорость исследований, которые имеют двойное назначение.
Google в своем отчете показал совершенно другой сценарий. Здесь ИИ не использовали для биологического исследования. Сам ИИ стал объектом атаки. Вредоносная программа DUSTMAKER содержала скрытые инструкции, обращенные к системам искусственного интеллекта, анализировавшим ее код. В этих инструкциях специально использовались темы биологического и ядерного оружия. Зачем?
Согласно Google Threat Intelligence Group, вероятная цель состояла в том, чтобы вызвать у ИИ защитный отказ: модель должна была увидеть запрещенную тему и отказаться анализировать находившийся рядом вредоносный JavaScript. В результате вредоносный код мог остаться без полноценного анализа. Это уже не попытка получить от ИИ опасную информацию. Это попытка манипулировать системой безопасности самого ИИ.
В этом смысле случай DUSTMAKER особенно интересен. Тема биологического оружия использовалась не потому, что злоумышленнику обязательно была нужна биология. Она стала своего рода приманкой для защитного механизма модели. ИИ научился отказывать на опасные запросы, и теперь атакующий может попытаться использовать сам факт существования этих ограничений против системы.
Все эти истории объединяет одна вещь: представление об ИИ как об одном окне с полем для запроса постепенно устаревает. Исследователь может использовать одну модель для анализа научных работ, другую – для подготовки текста, третью – для вычислений. Посредник может автоматически перенаправлять запросы между сервисами. Пользователь может обращаться к модели через API, а ИИ-агент способен самостоятельно выполнять целую последовательность операций.
Anthropic обнаружила именно такие схемы обхода ограничений в биологических кейсах: пользователи из неподдерживаемых регионов получали доступ к моделям через посредников, а чувствительные запросы могли перенаправляться другим системам. Это означает, что вопрос безопасности постепенно смещается. Раньше он звучал примерно так: «Ответит ли эта модель на опасный запрос?» Теперь все чаще приходится спрашивать: «Что произойдет, если пользователь объединит несколько моделей, посредников и инструментов в одну цепочку?»
Какие же выводы можно сделать из публикаций компаний. Обратимся к фактам. Они не доказывают, что искусственный интеллект уже самостоятельно создает биологическое оружие. Они не доказывают, что пять ученых из отчета Anthropic занимались разработкой оружия. Они не показывают, что современные чат-боты способны заменить лабораторию, специалистов и физическую инфраструктуру. И они не означают, что исследования вирусов и токсинов сами по себе подозрительны. Значительная часть такой науки имеет очевидное медицинское значение.
Зато отчеты показывают гораздо более конкретную вещь: ИИ уже используется в реальных исследованиях, где граница между полезным и потенциально опасным применением научных знаний проходит не по содержанию отдельного вопроса, а по всему контексту работы. Поэтому в Anthropic говорят о необходимости одновременно ограничивать наиболее опасные возможности моделей и создавать контролируемый доступ для легитимных научных исследований.
Еще один важный вывод этих двух отчетов заключается в том, что чат-бот не может однажды написать инструкцию по созданию биологического оружия. Такие запросы уже блокируются. Гораздо интереснее другое. ИИ постепенно становится участником научного процесса. Он помогает человеку искать информацию, формулировать идеи, анализировать данные и ускорять работу. Для медицины это может означать более быстрое появление новых лекарств и методов лечения. Но те же способности могут оказаться полезными в исследованиях, результаты которых имеют двойное назначение.
Будущая проблема биологической безопасности может выглядеть не как фантастическая сцена, где человек просит машину создать смертоносный вирус. Она может выглядеть намного скучнее: ученый задает десятки вполне научных вопросов, использует несколько моделей, получает помощь на разных этапах исследования, а потенциально опасный результат возникает не из одного ответа, а из суммы десятков маленьких ускорений. Такую границу между полезным научным инструментом и потенциальным усилителем опасных исследований теперь приходится заново определять разработчикам ИИ.
Поддержите меня переводом с карты по ссылке или QR-коду.
Поддержите меня донатом на Boosty.
Там же можно подписаться на ежемесячную поддержку.
Поделитесь этим постом!
Больше на Сто растений, которые нас убили
Подпишитесь, чтобы получать последние записи по электронной почте.
