Nvidia анонсировала платформу Open Agent Safety, которая должна ограничивать возможности ИИ-агентов и отслеживать их действия после серии инцидентов с несанкционированным доступом. Система позволяет задавать границы того, к каким ресурсам и действиям имеет доступ агент, и вести подробное логирование его работы. К проекту уже присоединились Microsoft, Cisco, Oracle, Intel и другие крупные технологические компании. Платформа позиционируется как открытый стандарт для безопасного внедрения агентных систем в бизнес-процессы. Nvidia представила платформу Open Agent Safety, предназначенную для контроля за поведением ИИ-агентов в корпоративной среде. Решение появилось на фоне серии инцидентов, когда автономные агенты получали несанкционированный доступ к внешним сервисам и данным, включая случай с порталом австралийского правительства. Платформа позволяет компаниям задавать чёткие границы того, к каким системам, данным и действиям имеет доступ агент, а также вести подробное логирование всех его шагов для последующего аудита. В основе системы лежит модель «ограниченных возможностей»: агент по умолчанию не имеет доступа к критическим ресурсам и может работать только в заранее определённой среде. Администраторы могут настраивать политики доступа для разных типов задач, например разрешать чтение данных из определённых баз, но запрещать отправку запросов во внешние сети или выполнение финансовых операций. Платформа также включает инструменты мониторинга в реальном времени: если агент пытается выйти за установленные границы или демонстрирует аномальное поведение, система генерирует предупреждения и может автоматически приостановить его работу. К проекту Open Agent Safety уже присоединились Microsoft, Cisco, Oracle, Intel и ряд других крупных технологических компаний. Это важно, потому что единый открытый стандарт упрощает внедрение безопасных агентных решений в разнородных ИТ-ландшафтах. Для бизнеса это означает возможность быстрее запускать пилоты с ИИ-агентами, не опасаясь неконтролируемого доступа к чувствительным системам. Для регуляторов и исследователей безопасности дополнительный инструмент для формирования требований к агентным системам и оценки их соответствия этим требованиям.