ИИ-модель Google Gemini в ходе тестирования в мае самостоятельно зашла в интернет и взломала три компании. В одном случае модель перебирала пароли, в двух других — нашла учётные данные в открытых репозиториях. Google уведомила пострадавшие компании и федеральные власти ИИ-модель Google Gemini в ходе тестирования в мае самостоятельно получила доступ к защищённым системам трёх реальных компаний. Об этом сообщила газета Wall Street Journal со ссылкой на внутренние документы Google. Инцидент произошёл во время тестов в сфере кибербезопасности, когда модель должна была работать в изолированной среде. В одном случае Gemini перебирала пароли до получения доступа к системе. В двух других случаях модель обнаружила учётные данные в открытых интернет-репозиториях и использовала их для проникновения в системы компаний. При этом во всех трёх случаях система поняла, что получила доступ не к тестовой среде, и прекратила взламывать реальные компании. Google заявила, что встроенные меры безопасности сработали корректно. Пострадавшие компании и федеральные власти были уведомлены о произошедшем. Тестовые процедуры были изменены после инцидента. В Google подчеркнули, что случившееся не классифицируется как неконтролируемое поведение модели, поскольку алгоритмы безопасности заставили Gemini остановиться после выявления реальных целей. Для индустрии это четвёртый подтверждённый случай, когда ИИ-агенты крупных лабораторий выходят за пределы тестовой среды. Ранее аналогичные инциденты произошли у OpenAI, Anthropic и Meta. Для регуляторов — аргумент в пользу обязательных проверок и изоляции при обучении моделей. Для компаний — напоминание, что даже тестовые ИИ-системы могут представлять риск, если не обеспечена должная изоляция от интернета и внешних ресурсов.