中金公司研报指出，GPT-4o部分功能的免费开放，Gemini能力的提升或对单位算力成本下探提出要求，AI Infra面临大幅优化。当下行业对算力硬件性能、成本的衡量以训练导向逐渐转为推理导向。除了芯片端、网络硬件端（如光模块）持续升级外，系统工程能力也正不断强化：为获得更低的硬件利用率，降低推理成本，优化显存、实施算子融合/算子实现优化、低精度（量化）推理、分布式推理均是主流实现方式。算力硬件市场有望随应用落地步入以价换量时代，市场规模或将持续增长。校对：彭其华【温馨提示】本文内容和图片为作者所有,本站只提供信息存储空间服务,如有涉嫌抄袭/侵权/违规内容请联系我们删除！