法国创业公司 Kog 通过深度软件优化，在标准数据中心 GPU（AMD MI300X、Nvidia H200）上实现单请求解码速度达 3000 tokens/秒，并宣称可将 LLM 推理速度提升 30 倍，引发行业关注。
2026-08-15