⚡Megatron LLM Hub
←返回搜索
Twitter

文章实测能否在 Tesla P40 上跑 LLM

旧卡自建推理的成本路径,可用于评估本地部署的可行性。
llm自托管工具
RT @nullhuntersec: Se pueden correr LLMs en una Tesla P40? Exploramos el tema en un nuevo artículo de Null Hunter, escrito por uno de los integrantes del equipo. Leelo acá 👇 https://t.co/Xf2vcNGoCg #LLM #AI