⚡Megatron LLM Hub
←返回搜索
Website

Cerebras 靠将权重保留在片上内存来提速,Kimi K3 需 59 片晶圆,难以按量公开零售

llm硬件
Cerebras 的推理速度来自把权重留在片上内存里不动。按它自己博客的简化算法,一套 Kimi K3 要 59 片晶圆,靠混合注意力才没涨到 93 片。我们认为,这样的规模很难放进公共接口按量零售,这也解释了它为什么只出现在企业专属目录里。