OpenAI据称发现新优化方式,可将推理成本降低超过50%

技术生态
星球日报

OpenAI 工程团队近期向部分同事透露,公司已找到一种新的系统优化方法,可将 AI 模型“推理(inference)”成本降低一半以上推理成本指模型在实际运行与响应用户请求时所消耗的计算资源成本。此次优化主要来自对现有服务器资源利用效率的提升,而非依赖新增算力芯片投入,这一进展反映出 AI 公司在持续争夺算力资源的同时,也在通过软件与系统层优化提升现有基础设施的使用效率,以缓解快速增长的模型运行成本压力。(The Information)

AI解读

OpenAI 发现新优化方法可降低 AI 推理成本 50% 以上,说明 AI 公司正通过软件优化提升现有算力效率,而非依赖新增硬件投入;这有助于缓解 AI 行业的高成本压力,但对加密市场直接影响有限,短期观望(弱)。

中性
AI生成,仅供参考,不构成投资建议。
1224