⚡Megatron LLM Hub
←返回搜索
Twitter

讨论按动态输出 token 定价的设想以及谁会接受这种模式。

涉及 LLM 推理成本结构,影响自建与调用模型的费用估算。
llm成本
Is the idea dynamic output token pricing? Who is going to agree to that?