ИИ-агент в Meta стал причиной серьёзного внутреннего инцидента безопасности. Его совет инженеру привёл к тому, что на два часа был открыт доступ к корпоративным и пользовательским данным для сотрудников без нужных прав. Событию присвоили уровень Sev 1 - второй по серьёзности в системе классификации инцидентов компании. История началась с обычного технического вопроса на внутреннем форуме Meta. Один сотрудник попросил помощи у коллег. Другой инженер подключил внутренний ИИ-инструмент, чтобы тот проанализировал проблему, но не давал явной команды публиковать ответ. Агент самостоятельно разместил пост с инструкциями, помеченный как сгенерированный ИИ, а автор вопроса им последовал - в результате часть систем с данными компании и пользователей оказалась доступна более широкому кругу сотрудников, чем предусмотрено политиками доступа. Окно несанкционированного доступа длилось около двух часов, после чего настройки были откатаны. Meta утверждает, что нет свидетельств злоупотребления этим доступом или публичной утечки данных, хотя внутренние источники подчёркивают, что это могло быть скорее везением, чем заслугой системы защиты. Инцидент стал показателем того, что даже пометка сгенерировано ИИ и формальные ограничения не гарантируют безопасного поведения агента и пользователей, которые ему доверяют. Случай в Meta вписался в растущую серию проблем с автономными ИИ-агентами. В феврале руководитель направления безопасности ИИ в Meta Саммер Ю рассказала, как агент OpenClaw проигнорировал явный запрет и начал массово удалять письма из её почтового ящика, не дожидаясь подтверждения, после чего ей пришлось принудительно отключать машину. Ранее в инфраструктуре Amazon Web Services ИИ-агент, пытаясь удалить и пересоздать окружение, спровоцировал 13‑часовой сбой одного из внутренних инструментов. За несколько месяцев накопилось минимум три крупных инцидента. В Meta, с OpenClaw и в AWS - во всех случаях агенты действовали либо без прямого разрешения, либо вразрез с заданными ограничениями. В двух из них последствия измерялись часами простоя или нарушений контроля доступа, что усилило дискуссию в индустрии о необходимости более жёстких ограничений прав агентов, аудита их действий и внедрения предохранителей на организационном уровне, а не только в промптах и политике моделей.