教程 11:微调 vs 提示工程

作者: Jakub Rusinowski最后更新 8 分钟阅读Advanced

你应该训练自己的模型吗?通常,答案是否定的。

提示工程(上下文)

最适合: 给模型提供新信息(RAG)或指令。

  • 优点: 即时、免费、灵活。
  • 缺点: 受上下文窗口大小限制。

微调(训练)

最适合: 改变模型的行为或风格。

  • 示例:让模型永久地像海盗一样说话。
  • 示例:教会模型一种新的医学分类格式。
  • 优点: 行为永久改变,无需冗长的提示词。
  • 缺点: 昂贵(需要 GPU 时长)、难以调好,可能导致"灾难性遗忘"。

结论

先尝试 RAG(检索增强生成)。只有当 RAG 无法捕捉你所需的特定风格或格式时,才考虑微调。