Параметро-эффективное дообучение, известное как PEFT (Parameter-Efficient Fine-Tuning), стало одним из самых обсуждаемых направлений в области машинного обучения за последние годы. С ростом размеров языковых моделей классическое полное дообучение становится непозволительно дорогим: модели с десятками и сотнями миллиардов параметров требуют огромных вычислительных ресурсов и объёмов памяти. PEFT предлагает элегантное решение этой проблемы, позволяя адаптировать гигантские модели к конкретным задачам с минимальными затратами. Суть подхода заключается в том, что вместо обновления всех весов предобученной модели изменяется лишь небольшая их часть или добавляются компактные дополнительные модули. Остальные параметры замораживаются и остаются неизменными. Такой принцип сохраняет общие знания базовой модели и одновременно позволяет встроить специализированные навыки для конкретной предметной области, будь то юридические тексты, медицинские данные или диалоги в службе поддержки. Среди наиболее популярных методов PEFT особое место занимает LoRA, или Low-Rank Adaptation. Этот подход добавляет в слои трансформера матрицы низкого ранга, которые обучаются вместо исходных весов. Количество обучаемых параметров при этом сокращается в сотни и тысячи раз, а качество результата часто оказывается сопоставимым с полным дообучением. Развитием идеи стал QLoRA, объединяющий квантизацию и низкоранговую адаптацию, что позволяет дообучать модели с миллиардами параметров на одной потребительской видеокарте. Другие техники включают prefix tuning, prompt tuning и adapter tuning. В первом случае к входу модели добавляются обучаемые префиксы, во втором — настраиваемые текстовые подсказки, в третьем — небольшие нейросетевые блоки, встраиваемые между слоями трансформера. Каждый из этих методов имеет свои сильные стороны и применяется в зависимости от задачи, ресурсов и требований к скорости вывода. Экосистема PEFT активно поддерживается сообществом. Библиотека PEFT от Hugging Face стала фактическим стандартом, предоставляя унифицированный интерфейс для применения различных методов параметро-эффективного дообучения. Она интегрирована с популярными фреймворками Transformers и Accelerate, что делает её удобным инструментом как для исследователей, так и для практиков. Практическая ценность PEFT трудно переоценить. Компании получают возможность создавать множество специализированных версий одной базовой модели, не дублируя её целиком. Достаточно хранить лишь небольшие веса адаптеров, которые подключаются к основной модели по мере необходимости. Это снижает расходы на инфраструктуру и упрощает развёртывание мультизадачных систем.