买球控股有限公司-(买球赛)官方网站

打响算力效率战海光信息提出从芯片底层重构词元成本

2026-10-23 03:36:04 作者:小编

  本报讯 (记者桂小笋)随着大模型从单一问答走向智能体自主执行任务,AI(人工智能)产业竞争的焦点正在发生深刻变化:比拼的不再只是谁的参数更大、谁的模型更聪明,而是谁能以更低的成本、更高的效率,把算力真正转化为可用的词元产出。

  在近日举办的2026中国计算机大会(CNCC2026)AI高通量推理基础设施分论坛上,海光信息技术股份有限公司(以下简称“海光信息”)智算量化设计专家孙建鹏系统阐述了当前词元供给面临的严峻挑战,以及通过系统层级协同提升算力效率的完整路径,为业界呈现了一幅AI算力从“粗放扩张”走向“精细运营”的图景。

  “从单次推理到智能体任务,AI处理的链路越来越长,消耗的文字量越来越大,长文本处理的压力也随之持续增加。”孙建鹏介绍,在智能体时代,AI不再是简单地回答一个问题,而是要自主规划、调用工具、多轮执行,整个过程产生的文字处理量呈几何级数增长。这意味着,算力供给的效率,已经成为制约AI应用规模化落地的核心短板。

  面对这一挑战,产业界的核心目标已经非常清晰:不是盲目堆砌更多算力,而是提升每单位算力的有效产出。

  具体而言,需要在四个方向上协同发力:提升计算资源的利用密度,让硬件能力匹配真实的生成需求;构建高带宽、低延迟的数据传输网络,打破显卡之间、服务器之间的通信瓶颈;突破存储容量与带宽的双重限制,支撑长文本并发处理;通过全局资源调度,动态优化任务分配,降低每千字的处理成本。

  “这四个方向不能各自为战、各自追求最优,必须在服务质量和成本的双重约束下,推动计算、传输、存储、调度全链条的软硬件协同优化,才能真正把有效产出提上去。”

  孙建鹏将其概括为“四堵墙”:算力利用率不足、通信等待对应的空转等现象、存储容量墙、任务调度。

  “任何一个环节拖后腿,整体产出就上不去。破局的方向很明了,即提升有效产出、减少无效搬运、压缩空转时间。”孙建鹏介绍,要用系买球官方网站统分层优化、量化驱动等手段将“四堵墙”击破。随着智能体应用的大规模落地,AI算力效率竞赛才刚刚开始。谁能率先在系统层级实现全链路优化,谁就能在成本和体验上建立真正的竞争优势,这将成为下一阶段AI基础设施建设的核心命题。

  首先,一些地方在出台与消费品以旧换新相关的[详情]

  互联网新闻信息服务许可证 增值电信业务经营许可证 京B2-20250455

打响算力效率战海光信息提出从芯片底层重构词元成本(图1)

  证券日报网所载文章、数据仅供参考,使用前务请仔细阅读法律申明,风险自负。

在线咨询 拨打电话

运维电话

17610553855

买球控股有限公司技术工程师微信

扫码对接技术部