标签：开源模型

什么是知识蒸馏？大模型"教"出小模型的秘密

为什么现在的小模型越来越能打？知识蒸馏是什么、大模型怎么把本事"教"给小模型、和量化剪枝有什么区别，一文用大白话讲清模型压缩这件事。

什么是模型量化？为什么大模型能压进你的显卡

同一个模型为什么有 Q4、Q8 好多版本？量化是什么、为什么能大幅省显存、会不会变笨、本地跑该选哪个量化档，一文用大白话讲清。