技术博客：把小型本地 LLM 微调成“像 1990 年代微软技术文档作者一样写作”地址：passo.uno/fine-tuning-docs-llm/

作者从 Bitsavers/Archive.org 的微软旧手册中提取约 3700 万词语料，清洗后生成约 19 万条训练样本，用 QLoRA 在 Llama 3.1 8B 和 Qwen 2.5 7B 等模型上做不同数据量、epoch 和 rank 的微调，成本约 50 美元。测试发现，微调后的模型确实能明显迁移旧式技术文档的结构、语气和格式，尤其 Qwen 系列表现更好，甚至能把 REST API 这类“时代错位”的概念写成接近 Windows 2000 资源工具包风格的章节，但模型仍会幻觉、破功或缺乏判断力。

微调小模型可以低成本制造很有说服力的“风格模仿者”，适合辅助文档起草、风格审查或内部写作规范落地，但它不能取代技术写作者，因为高质量语料、模型选择和参数调校都很难，最终仍需要人类指导和判断。AI创造营