Чат-бот Claude от Anthropic помог исследователю спланировать потенциально рискованные эксперименты с птичьим гриппом.
Как сообщила компания 10 сентября в отчёте о разведке угроз, исследователь использовал Claude, чтобы планировать исследования, анализировать данные и выбирать эксперименты с высокопатогенным вирусом птичьего гриппа. Целью работы было выявить и внести мутации, которые могли бы помочь вирусам адаптироваться к млекопитающим и легче передаваться между ними.
По словам Anthropic, насколько известно компании, ни одна частная компания прежде публично не сообщала о возможном использовании своей платформы для разработки биологического оружия. Однако эксперты говорят, что опубликованных сведений недостаточно, чтобы определить, лишь ускорил ли Claude работу, которую исследователь и так мог выполнить, или предоставил ему новые возможности.
«Изучать, каким образом вирусы птичьего гриппа могут представлять пандемическую угрозу, — совершенно обычная часть вирусологических исследований», — говорит исследователь гриппа Томас Фридрих из Школы ветеринарной медицины Университета Висконсин — Мэдисон. Такие исследования помогают учёным оценить, насколько опасны для человека новые вирусы птичьего гриппа.
Однако эксперименты, цель которых — намеренно усилить такие свойства патогена, как заразность или тяжесть заболевания, вызывают беспокойство, говорит Фридрих: есть опасения, что результаты могут привести к аварии или быть использованы во вред.
Отчёт Anthropic появился на фоне более широкой дискуссии о безопасности моделей ИИ, но споры об исследованиях «приобретения функции» начались задолго до появления генеративного ИИ. В 2012 году исследования H5N1 — вируса птичьего гриппа — и его воздушной передачи между хорьками вызвали международную дискуссию о том, перевешивает ли научная польза риски. Некоторые эксперименты по передаче H5N1 приостановили на год, пока исследователи и представители властей обсуждали, как контролировать риски.
Anthropic обнаружила этот случай в мае 2026 года. Исследователь птичьего гриппа обращался к Claude из региона, где сервис не поддерживался и был недоступен. По словам компании, он использовал обходные способы доступа. Переданные Claude материалы указывали на то, что у группы, вероятно, был физический доступ к соответствующим образцам вируса. В мае Anthropic заблокировала учётную запись исследователя за обход ограничений доступа.
Anthropic заявила, что не смогла установить, намеревался ли исследователь причинить вред: легитимные биологические исследования и опасная деятельность могут выглядеть похоже. Компания не ответила на вопросы Science News о том, почему сочла этот случай значимым, как оценивала роль Claude в исследовании и проводились ли предложенные эксперименты на практике.
По словам исследователя биологической защиты Грегори Кобленца, Anthropic раскрыла слишком мало информации, чтобы определить цель работы. «Нет никаких свидетельств того, что какое-либо из этих исследований было связано с разработкой биологического оружия», — говорит Кобленц из Университета Джорджа Мейсона в Фэрфаксе, штат Вирджиния.
Один и тот же тип биологических исследований может служить самым разным целям — от гражданской науки до военной обороны. Сам по себе факт, что работа ведётся в учреждении, связанном с военными, не доказывает, что исследователи разрабатывают биологическое оружие, отмечает Кобленц.
По словам Фридриха, Anthropic также не привела достаточно подробностей, чтобы точно оценить, насколько Claude помог исследователю. Из собственного описания компании следует, что модель ИИ «не привнесла существенного научного потенциала», говорит он. Иными словами, она могла просто ускорить работу, а не позволить сделать то, что исследователь иначе сделать не смог бы.
Даже если Claude лишь ускорил работу, это может заметно изменить повседневную работу учёного, говорит вирусолог Дэвид О’Коннор из Университета Висконсин — Мэдисон. По его словам, такие системы, как Claude, помогают быстрее находить научные статьи, обобщать результаты и анализировать данные. «Работа или анализ, на которые у меня ушли бы месяцы, теперь могут быть выполнены за один день».
В результате существующую научную информацию, в том числе о вирусах птичьего гриппа, может стать проще находить и использовать, говорит О’Коннор. По его словам, передовые модели ИИ могут позволить учёным браться за вопросы, которыми они прежде не стали бы заниматься. «Передовые модели изменят масштаб исследовательских вопросов, которые ставят учёные».
Исследование птичьего гриппа было одним из пяти случаев использования Claude, описанных в отчёте Anthropic как потенциально способных поддержать разработку биологического оружия. Биолог Кевин Эсвельт из Media Lab Массачусетского технологического института не считает ни один из этих пяти случаев технически сложным или особенно тревожным. Эсвельт больше сомневается в мотивах исследователей: по его словам, во всех пяти случаях были признаки недобрых намерений. Но ни один из них «не представлял собой компетентную попытку создать биологическое оружие».
Низкое качество этих конкретных попыток не показывает, на что способен более подготовленный пользователь, применяющий ИИ в биологических исследованиях, говорит Эсвельт. ИИ может помочь с исследованиями и анализом, но для превращения идеи в биологическую угрозу требуется дополнительная работа, отмечает Кобленц. «Даже если ИИ используют для разработки потенциально опасного патогена, угрозой он станет только тогда, когда организм можно будет модифицировать в лаборатории или синтезировать».
Для этого нужны лабораторные помещения, меры по обеспечению безопасности и сдерживанию вирусов, финансирование, обученный персонал и практический опыт. По словам О’Коннора, значимость этих препятствий зависит от того, кто выполняет работу. Для неопытного человека, работающего в одиночку, они станут серьёзной преградой; для учёных со специальной подготовкой и доступом к хорошо оснащённой лаборатории — меньшей.
В любом случае лабораторная работа, которая остаётся после этого, весьма значительна, пишет Фридрих в электронном письме. «Между выявлением мутаций, которые потенциально могут помочь вирусу птичьего гриппа адаптироваться к человеку, и “вредными биологическими последствиями” лежит большая пропасть».