📜 LLM научились писать документацию в стиле 1990-х
Исследователи успешно дообучили малые модели Llama 3.1 8B и Qwen 2.5 7B методом QLoRA для имитации стиля технической документации 1990-х годов. Используя корпус из 37 млн слов, модель msft-qwen-192k научилась применять старые структуры (Synopsis, Return Values) даже к современным концепциям вроде REST API.
🌍 Это подтверждает эффективность дешевого дообучения (около $50) для задач переноса стиля, что позволяет создавать инструменты для автоматизации документации по строгим внутренним стандартам.
👤 Это показывает, что небольшие локальные модели могут эффективно имитировать узкие форматы без огромных вычислительных ресурсов.
Источник 1: https://passo.uno/fine-tuning-docs-llm/