⚡Megatron LLM Hub
←返回搜索
Website

Liquid AI 开源 LFM3 家族,同一个 1.73B 基底权重派生六个专用小模型。

端侧模型的剪枝与专用化取舍,可参考其小缓存与工具调用设计。
llm边缘端工具调用
Liquid AI 开源 LFM3 家族:底层极致复用同一个 17.3 亿参数基底权重,上层通过砍掉百科记忆(换 93% 未知拒答与可靠工具调用)、砍掉四分之三全局注意力(换极小缓存但牺牲 64K 后长文检索)以及拆出零输出词元的 d1 决策模型,把同一棵树干改造成六个各司其职的偏科零件。