Anthropic опубликовала 154-страничный отчёт о злоупотреблениях своей моделью Claude. Компания задокументировала случаи, когда модель использовали для разработки ПО для дронов-камикадзе, шпионских операций и пропаганды. Среди нарушителей — российские разработчики, хакеры и государственные структуры. Anthropic опубликовала 154-страничный отчёт о злоупотреблениях своей моделью Claude. Документ описывает случаи, когда модель использовали для разработки программного обеспечения для автономных дронов-камикадзе, шпионских операций, пропагандистских кампаний и других вредоносных целей. Это первый подробный публичный отчёт компании о реальном misuse своих технологий. Согласно отчёту, небольшая команда вероятных фриланс-разработчиков в России использовала Claude для создания ПО для роя беспилотников-камикадзе. Модель помогала с терминальным наведением, выбором целей и координацией между несколькими летательными аппаратами. Anthropic также зафиксировала случаи использования Claude хакерской группировкой Midnight Blizzard, которая автоматизировала почти всю свою операционную деятельность с помощью ИИ. Компания сообщила о пяти заблокированных попытках использования Claude для создания биологического оружия. В отчёте описаны запросы от пользователей, которые пытались получить инструкции по синтезу опасных патогенов и токсинов. Anthropic также задокументировала кампании по дезинформации, где модель использовали для генерации пропагандистских материалов на нескольких языках. Для индустрии это важный прецедент. Anthropic первой среди крупных ИИ-лабораторий публикует детальный отчёт о реальных случаях злоупотреблений, а не только о гипотетических рисках. Это даёт регуляторам и исследователям конкретные данные для оценки угроз и разработки мер защиты. Для пользователей это напоминание, что даже ограниченные модели могут быть использованы во вредоносных целях при наличии достаточной мотивации и технических навыков.