程序编码相关的训练数据集 发表评论 / AI, LLM, LLMS / Knowledge Distillation, 知识蒸馏 / 2024年12月2日 Hugging Face 的 Datasets 库中有多种针对编程语言和代码的公开数据集,以下是一些主要的代码 […] 程序编码相关的训练数据集 Read More »Knowledge Distillation, 知识蒸馏
将两个教师模型的知识蒸馏到一个学生模型中 发表评论 / AI, LLM, LLMS / AI, Knowledge Distillation, 知识蒸馏 / 2024年12月2日 一、描述: 使用 AutoModelForCausalLM 来实现从两个教师模型(teacher1 和 tea 将两个教师模型的知识蒸馏到一个学生模型中 Read More »AI, Knowledge Distillation, 知识蒸馏