WAIC2026|光羽芯辰创始人周强:打通端侧AI普惠落地“最后一公里”
  • 新华网无人机
信息

分享至手机

WAIC2026|光羽芯辰创始人周强:打通端侧AI普惠落地“最后一公里”

2026-07-22 19:44:18 来源:光羽芯辰

  如果手机不需要联网就能流畅运行大模型,汽车在隧道里也能随时响应语音指令,人形机器人不用上传任何隐私数据就能自主决策——这些场景离我们还有多远?7月19日,WAIC2026人工智能引领产业变革思客会在上海西岸国际会展中心举办。来自相关领域的专家、机构和企业代表齐聚一堂,围绕AI赋能千行百业展开深入探讨。

  在思客会的圆桌对话环节,上海光羽芯辰科技有限公司创始人、董事长兼总经理周强给出的判断是:端侧设备就是AI普惠的“最后一公里”。“让手机、汽车、机器人这些离普通人最近的终端不用联网也能跑大模型,才能真正实现AI从云端走向每个人的掌心。”而要做到这一点,必须从底层芯片架构入手,打破传统存储与计算分离的瓶颈。

  

  上海光羽芯辰科技有限公司创始人、董事长兼总经理周强在圆桌论坛上发表演讲。

  从“云端依赖”到“本地智能”,端侧AI直面普惠新挑战

  “为什么AI应用至今还是离不开云端?”这是很多普通用户的真实疑问。周强在论坛现场打了个比方:海量数据先在本地处理,有需要再上云做深度融合决策——端云是互补关系,而非替代。尤其涉及个人隐私、聊天记录等敏感信息时,数据根本不适合上传云端,必须在本地完成。在他看来,端侧部署AI大模型正在从三个维度改变终端体验:

  省钱。云端大模型按token计费,高频使用成本不菲;端侧AI部署在本地,用户无需为每一次交互付费,可以高频次、无限制地使用。够快。数据无需跨网络传输,所有计算在设备内部完成,延迟控制在毫秒级别,用户几乎感觉不到等待。安全。聊天记录、个人隐私等敏感信息全部保留在本地硬件,从源头上杜绝了数据外泄的风险。更进一步,端侧AI让设备从“被动问答”走向“自主决策”——设备可以自己拆解复合任务、跨软件联动调度,这才是真正的终端智能。

  不过这条路困难重重。周强坦言,核心痛点在于“存储墙”和“功耗墙”。传统冯·诺依曼架构下,数据在存储和计算单元之间频繁搬运,带宽受限、功耗飙升,端侧设备偏偏对能耗极为敏感——手机电池容量有限,车规芯片散热条件苛刻,“算力越强、耗电越快”的矛盾长期无解。与此同时,算法迭代速度与芯片长周期研发难以匹配,各厂商私有生态各自为战,“芯、算、用”三层割裂,严重制约了端侧AI的规模化普及。

  从底层重构芯片架构,TC1000打通落地最后一公里

  面对行业难题,光羽芯辰选择从底层架构另辟蹊径。周强用通俗的方式解释:传统芯片像一张平铺的地图,数据和计算中心隔得很远,每次计算都要跑腿送数据,又慢又费电。光羽芯辰的做法是把计算单元直接搬到存储单元旁边,甚至堆叠在一起,让数据就地完成计算。

  这套名为EdgeAIon®的技术体系交出了一组硬核数据:能效提升5倍、带宽扩大10倍、延迟压缩至十分之一。配合自研的冷热分层存储技术,仅需10GB的3D DRAM就能稳定承载350亿参数的大模型——足以覆盖绝大多数日常AI应用。软件层面自研兼容CUDA的RISC-V系统,开发者无需重新学习就能完成模型移植。

  本次WAIC大会期间,光羽芯辰正式发布TC1000系列芯片,这也是业内首款3D堆叠近存算低功耗大模型推理端侧高算力芯片。单芯片每秒最高完成300 tokens推理运算,而同类产品大多在百tokens以内;同等算力下功耗仅为传统方案的三分之一。搭载这颗芯片的手机无需频繁充电,车载设备不会过热降频,人形机器人续航能力显著提升。

  商业化落地的节奏也清晰可见。光羽芯辰已与宁德时代达成战略入股合作,围绕人形机器人、工业端的AI联合研发;与联想研究院合作开发AIPC、AI算力盒子等产品,今年即可拿出样机。周强透露,与多家头部手机厂商的终端产品预计2026年底至2027年初陆续量产上市。

  三个“唯一”构筑护城河,全行业抱团共拓端侧新生态

  在竞争激烈的AI芯片赛道,光羽芯辰如何定位自己?周强提到了企业的三个“国内唯一”:

  即,国内唯一同时拥有云端GPU、3D端侧LPU流片量产落地经验的全栈研发团队;国内唯一实现3D堆叠LPU流式处理架构量产落地的厂商;同时也是唯一打通云端、端侧双向兼容的一体化生态框架,可无缝对接燧原等国产云端算力产品,搭建完整端云混合协同组网体系。

  不过,优势并不意味着没有挑战。圆桌尾声,周强坦诚分析了行业共性瓶颈:算法周更频率与芯片长周期研发的矛盾、端侧极限功耗下的软硬件调度难题、各厂商生态割裂缺乏统一标准。光羽芯辰的破局路径很清晰:开放CUDA Lite开源编译平台,降低开发者迁移成本;牵头编写多项端侧存算AI行业技术规范,联合国内存储、终端、整机上下游企业打通全产业链闭环。

  周强对行业做出判断:真正的智能必须发生在场景所在的本地设备上,底层3D堆叠、存算一体架构的创新,才是终端设备摆脱云端依赖、实现全民普惠AI的可行路线。端侧本地AI部署是一个万亿级赛道。当手机、汽车、机器人不再需要“联网”这根脐带,人工智能才真正从云端落在每个人的掌心。这条路,正在WAIC的舞台上从理想加速驶入现实。

[责任编辑: 史依灵]
扫一扫

扫一扫,分享手机新华网上海频道

Copyright © 2000- XINHUANET.com All Rights Reserved.

制作单位:新华网上海频道 版权所有:新华网上海频道