Дарио Амодеи объяснил, почему изменил позицию: в 2023 году замедление казалось преждевременным, теперь — необходимым. Anthropic обещает постоянный доступ внешним проверяющим к рабочим местам, инструментам и процессу обучения моделей. Проверяющие смогут публиковать неудобные выводы. Гендиректор Anthropic Дарио Амодеи опубликовал статью We Must Pace the Frontier, в которой призвал замедлить развитие передовых систем ИИ и допустить независимых проверяющих внутрь лабораторий. В 2023 году он считал замедление преждевременным, но теперь изменил позицию. По его словам, ИИ уже ускоряет создание следующего поколения моделей, и рекурсивное самоулучшение начинается в отрасли, включая саму Anthropic. Амодеи описал тревожный сценарий: масштабные кибератаки через 6–12 месяцев. Он допускает, что более мощный рой ИИ-агентов сможет создать устойчивый ботнет и нанести ущерб на сотни миллиардов долларов. Это его личная оценка риска, основанная на наблюдениях за тем, как быстро растут возможности систем и как отстают методы контроля. Anthropic обещает предоставить постоянный доступ внешним проверяющим. Им дадут рабочие места, пропуска, инструменты и права, сопоставимые с внутренними командами оценки рисков. Проверять предлагается не только готовые модели, но и процесс обучения. Проверяющие смогут публиковать неудобные выводы. Компания предусматривает ограничения для защищённой информации, но обещает не скрывать результаты только потому, что они невыгодны. Цель инициативы — выиграть год-два для разработки мер безопасности. Среди предложений Амодеи: обязательные проверки при достижении моделями опасных возможностей и международные ограничения скорости самоулучшения ИИ. Полную глобальную паузу он считает маловероятной в ближайшее время, но видит шанс на координацию между несколькими ведущими лабораториями. Для индустрии это важный сигнал: одна из крупнейших ИИ-компаний открыто признаёт, что темпы развития опережают безопасность. Для регуляторов — аргумент в пользу обязательных проверок и прозрачности. Для общества — напоминание, что за громкими анонсами моделей стоят реальные риски, которые требуют внимания прямо сейчас.