标签:GPU

GPU 推理加速新突破:法国创业公司 Kog 宣称可提效 30 倍

GPU 推理加速新突破:法国创业公司 Kog 宣称可提效 30 倍

法国创业公司 Kog 通过深度软件优化,在标准数据中心 GPU(AMD MI300X、Nvidia H200)上实现单请求解码速度达 3000 tokens/秒,并宣称可将 LLM 推理速度提升 30 倍,引发行业关注。

未知作者 未知作者 2026-08-15
0 0 0
企业 AI 基础设施大干快上,测量能力却还停留在农耕时代

企业 AI 基础设施大干快上,测量能力却还停留在农耕时代

企业正在疯狂买入 AI 基础设施,同时对自己到底花了多少钱毫无概念。 这是 VentureBeat 最新企业调研的核心发现。在 107 家百人以上企业的调查中,只有 44% 能严格追踪 AI 计算成本;83% 的企业 GPU 利用率在 50% 以下;64% 打算在一年内更换或增加基础设施提供商——而

小鑫 小鑫 2026-07-19
0 0 0
AI 算力投资逻辑正在翻转:训练卡降温,推理卡上位

AI 算力投资逻辑正在翻转:训练卡降温,推理卡上位

7 月 17 日,TechCrunch 发了一篇不起眼但值得细读的文章:"Why the first GPU financiers are turning to inference chips in a $400 million deal"。标题里的"第一批 GPU 资方"是关键——这批在 2022

小鑫 小鑫 2026-07-19
0 0 0