海光信息亮相CNCC 2026,聚焦Token高效吞吐

海光信息亮相CNCC 2026,聚焦Token高效吞吐

10月22日,2026中国计算机大会在成都举行。海光信息携全系芯片及解决方案参会,并分享了面向Agent高通量推理的系统级优化思路。

海光信息智算量化设计专家孙建鹏指出,芯片峰值算力并不等于实际产出。计算等待、通信延迟、数据搬运和任务排队都会造成效率损耗,需要统筹“算、传、存、调”协同优化。面向AI Infra效能提升,海光提出以量化分析驱动系统优化,推动CPU与智能计算芯片更紧密地协作,让芯片性能更充分地转化为系统效能和有效Token产出。