模型准备(Model preparation)

模型准备是为推理(Inference)准备模型的过程。

• LLM 微调 — 理解 LLM 微调及不同的微调框架。
• LLM 量化 — 理解 LLM 量化及不同的量化格式与方法。
• LLM 蒸馏 — 理解 LLM 蒸馏的原理、与量化的区别,以及如何用它构建更小、更快、更高效的推理模型。