如果你曾经觉得ChatGPT的反应速度还不够快,OpenAI现在给出了答案。
这家AI实验室于2026年8月13日推出了一项名为Ultrafast的新模式,声称能显著加速其最新、最强大的模型GPT-5.6 Sol的工作效率。根据OpenAI官方博客的介绍,Ultrafast模式可以实现14倍于标准处理的速度,最高达到每秒750个输出tokens。
从”更大模型”到”更快速度”
“直到现在,想要获得实时速度通常意味着选择一个更小的或更专业的模型,”OpenAI在博客中表示。”Ultrafast指向了一个新方向:每秒完成更多有用工作。”
这意味着什么?Tokens是大语言模型生成文本时的基本单位,可以理解为文字的”碎片”。当你在ChatGPT中输入一段话,模型需要逐个”拼出”回复——每个token就是这个词或词片段。750 tokens/秒的速度意味着,模型每秒可以生成约500到1000个汉字的内容量级,接近人类快速阅读的速度。
Cerebras芯片:速度背后的硬件支撑
Ultrafast模式的实现离不开芯片厂商Cerebras的支持。Cerebras以其超大尺寸的AI芯片著称,此次与OpenAI的合作将Cerebras的计算能力整合进GPT-5.6 Sol的推理链路中。
这种合作模式并非行业孤例。OpenAI的竞争对手Anthropic也推出了Claude的加速版本(Fast Mode),但从数据来看,OpenAI宣称的14倍加速在实际吞吐量上领先明显。
适用场景:企业级工作流
OpenAI认为,Ultrafast版本的GPT-5.6 Sol可以广泛应用于多种企业场景,包括:
- 应急响应:需要即时分析大量数据并给出建议
- 客户服务与支持:快速生成个性化回复
- 金融市场分析:实时处理新闻、数据并输出分析报告
- 电商:高速生成商品描述、客服对话等
这些场景有一个共同特点:对延迟敏感,需要模型在极短时间内给出高质量回复。
当前状态:限量预览,未来可期
目前,Ultrafast模式以预览版形式向一小部分企业用户开放。OpenAI表示,随着”算力增长”,该功能将逐步扩展至更多用户。
对于普通用户而言,Ultrafast模式的推出意味着AI助手的能力边界正在被重新定义——不仅仅是”更智能”,更是”更快速”。当AI的响应速度接近人类日常对话的节奏,人机交互的体验将发生质的改变。
参考来源:TechCrunch(Hugging Face Strands Robots文章仅作技术背景补充)