作者报告在其单张 L4 SageMaker 测试中，Gemma 4 E2B QAT 解码速度约为 bf16 的两倍，16 路吞吐也更高，而两者在 40 道固定题上均答对 37 题。
Gemma 4 on Amazon SageMaker: QAT Weights Decode 2.05x Faster Than bf16 on One L4
原始来源
仅涉及一个账户、区域、L4 实例、vLLM 版本与短提示；准确性样本仅 40 题，长提示表现未测。
中文摘编
依据来源材料整理，保留事实、观点与适用范围的区别。
完整上下文请阅读原始来源。
完整上下文请阅读原始来源。