341 个开源模型,覆盖主流厂商。按参数规模、架构类型、VRAM 需求筛选, 找到最适合你硬件条件的开源模型。
选择你的显卡和量化级别,查看可运行的开源模型列表
VRAM 需求为估算值(含 ~20% KV Cache 开销),实际值因推理框架(vLLM / llama.cpp / TGI)而异。 MoE 模型需全量加载权重,推理时仅激活部分参数。
用实际硬件成交价、运营成本和目标模型实测吞吐,对比 API 月费。缺少吞吐或容量不足时不会给出回本结论。
硬件价格只是未核验的参考起点,请改成实际含税成交价;吞吐必须来自“目标模型 + 量化方式 + 推理框架 + 当前硬件”的实测。 FP16 TFLOPS 不能替代 tokens/s。本工具也不判断本地模型与 API 模型的质量是否等价。
没有实测值就留 0;系统不会猜测,也不会输出 ROI。