VRAM 为 FP16/Q8/Q4 量化估算值(含 ~20% KV Cache 开销),实际值因推理框架而异。
LMSYS Chatbot Arena(人类偏好排名)
标准化评测(百分制)
数据来源: Artificial Analysis / LMSYS Chatbot Arena