Учёные из Microsoft проверили - может ли искусственный интеллект обойти современные системы биобезопасности при проектировании новых белков. Ответ получился тревожным — да, может. В эксперименте ИИ-модели модифицировали структуру токсинов так, чтобы автоматические фильтры коммерческих поставщиков синтетической ДНК не распознавали угрозу, при этом сохранялась токсичность — то есть теоретически такой материал мог бы пройти через внутреннюю систему безопасности. Как это работает (коротко и без мистики) Обычно производство нового белка включает два шага. Сначала синтетическую ДНК заказывают у поставщика, затем внедряют её в клетку. Коммерческие системы безопасности должны автоматически блокировать заказы, которые содержат записи для опасных соединений. В тесте учёные взяли те же ИИ-модели, которые используют для поиска лекарств, и заставили их переформатировать токсичные белки так, чтобы они выглядели безопасными для фильтров, но оставались опасными по действию. Эксперимент был полностью цифровым. Какие именно токсины моделировались, не раскрывается. Но исследователи предупреждают, что в теории этот приём позволяет создавать невидимые варианты уже известных угроз — например, модифицированные версии рицина или опасных прионов. Почему это важно Главная мысль - текущие системы биобезопасности уязвимы перед продвинутыми моделями ИИ. То что раньше блокировали по простой подписи или паттерну, теперь можно обойти, изменив молекулярную обёртку, не теряя функционала. Что предлагают эксперты Риск vs. выгода ИИ даёт огромные преимущества в биомедицине. Он ускоряет поиск лекарств, помогает проектировать полезные белки и диагностические инструменты. Но этот же инструмент может стать вектором риска если не продумать защиту заранее. Эксперимент Microsoft это сигнал, что появилась необходимость пересмотреть стандарты безопасности уже сейчас, а не когда-нибудь в будущем.