Создание защитных механизмов против новых биологических угроз, спровоцированных технологиями машинного обучения, становится приоритетной задачей для специалистов по биобезопасности. По информации издания The Wall Street Journal (WSJ), стартап Red Queen Bio сосредоточил свои усилия на поиске антител, способных нейтрализовать широкий спектр патогенов, включая те штаммы, которые могут быть спроектированы искусственным интеллектом.
Проект, в который в качестве ключевого инвестора вложилась компания OpenAI, уже привлек 36 миллионов долларов инвестиций. Несмотря на значительные ресурсы, технологический цикл подготовки защиты остается длительным: проведение клинических испытаний препаратов, нацеленных на борьбу с птичьим гриппом и иными вирусами, намечено не ранее 2027 года.
В среде экспертов нарастает тревога, что бесконтрольное развитие ИИ-агентов может привести к глобальной катастрофе. Традиционные методы безопасности — такие как ограничение темпов исследований, внедрение жестких стандартов или блокировка ответов моделей на деструктивные запросы — могут оказаться бесполезными. В Red Queen Bio убеждены, что общество должно готовиться к сценариям, где подобные превентивные барьеры не справятся с угрозой.
При этом дискуссия о реальности биологической угрозы от ИИ вызывает споры. Скептики полагают, что риски преувеличены, хотя ведущие игроки рынка подтверждают наличие проблем. Так, в OpenAI зафиксировали сотни попыток использовать чат-бота для получения инструкций по синтезу ядов и созданию биологического оружия. Компания Anthropic также столкнулась с деструктивными попытками: через модель Claude пользователи, связанные с военным исследовательским институтом, пытались найти способы модификации вируса чикунгунья для повышения его патогенности, а также интересовались методами работы с оспой.
Оливия Шарфман, представляющая американский Институт прогресса (IFP), подчеркивает критический дисбаланс в этой гонке. По ее словам, стратегия защиты заведомо проигрышна, так как у агрессора есть неограниченное время на разработку оружия, в то время как у защищающейся стороны нет возможности годами ждать создания контрмер.
Давление на индустрию усиливается заявлениями руководителей крупнейших технологических гигантов. В начале сентября Дарио Амодеи, возглавляющий Anthropic, выступил с призывом замедлить прогресс в сфере ИИ. Он аргументировал это тем, что в течение ближайшего года ИИ-агенты могут использовать ботнеты для нанесения ущерба, исчисляемого сотнями миллиардов долларов. Эту позицию разделяют Сэм Альтман, руководящий OpenAI (разработчик ChatGPT), и предприниматель Илон Маск, создатель компании xAI (автор Grok).
Политический ландшафт добавляет неопределенности. Президент США Дональд Трамп охарактеризовал опасения перед ИИ как часть пропаганды «радикально левых демократов», поставив их в один ряд с дискуссиями о глобальном потеплении. При этом Трамп анонсировал формирование новой структуры — «ИИ-силы», заявив, что США не будут тормозить развитие этой индустрии, но при этом намерены использовать правовую систему для пресечения злоупотреблений.
Ситуация осложняется и финансовыми аспектами. Согласно данным Reuters от 29 сентября, компания Anthropic планирует включить в документацию для потенциальных инвесторов перед своим первичным публичным размещением (IPO) предупреждение о том, что развитие искусственного интеллекта способно нести «катастрофические или экзистенциальные риски для человечества».
