
【摘要】从语音交互芯片到端侧大模型芯片,聆思科技正在尝试完成一次转型升级。背靠科大讯飞产业积累,公司已经积累了超过1.5亿颗芯片出货经验,获得近5亿元融资,安徽省及合肥市多家国资平台联合领投。
但从“听懂指令”到“理解世界”,端侧AI芯片仍有一道难跨越的鸿沟。面对AI PC、智能座舱、机器人等新场景,聆思需要证明的不只是芯片性能,更是从技术路线到商业生态的迁移能力。
当AI逐渐走向终端,谁能够在有限功耗、成本和功能中找到规模化落地路径,或将决定下一阶段端侧智能产业的竞争格局。
以下是正文:
011.5亿颗感知芯片的“基本盘”,是护城河还是路径依赖?当AI开始从云端走向终端,芯片产业的竞争焦点也正在发生变化。
云端AI的能力无法简单的向手机、PC、汽车和机器人等设备侧迁移,但是这些已经融入社会生产和日常生活中的端侧或终端,又急需AI的本地化部署来进一步延续产品形态的未来寿命。反观端侧AI又需要在有限功耗、成本和空间约束下,让大模型真正进入终端。因此端侧AI的发展也正在成为更多企业和资本关注的焦点。
在端侧AI芯片赛道中,聆思的起点并不低。
公司脱胎于科大讯飞体系,早期聚焦智能语音和AIoT芯片,依托语音识别技术积累切入智能家居、智能音箱等场景。公司累计芯片出货量已超过1.5亿颗。
图源:聆思科技官网
回顾芯片企业的发展历程,大规模出货本身就是一道门槛。
芯片从实验室走向市场,需要经历芯片设计、流片验证、软件适配、供应链协同等多个环节。尤其是在家电、IoT等成本敏感场景中,产品价格、稳定性和交付能力往往比单一性能指标更加重要。
这部分积累,决定了聆思进军端侧大模型芯片的部分基础,但这还远远不够。
相似的产品终端形态的背后隐藏着巨大的鸿沟:过去服务的场景,和未来想进入的市场,并不完全相同。
在智能家居中,芯片更多只承担语音唤醒、语音交互等简单的线性任务;而AI PC、智能座舱、机器人等新场景,需要芯片支持更复杂的大模型推理能力,对算力、存储带宽、功耗控制以及软件生态提出了更高要求。
这些终端落地经验也只能证明聆思具备“把AI装进设备”的能力,但端侧大模型时代,它还需要进一步证明自己能够支撑“设备理解世界”。
这也是许多端侧AI芯片公司的共同挑战。
以智能手机为例,终端厂商正在积极探索本地大模型运行能力。高通推出面向终端生成式AI的骁龙平台,苹果也通过Apple Intelligence推动端侧模型应用落地。与此同时,PC和汽车厂商也在寻找更适合自身需求的AI计算方案。
面对这些成熟玩家,聆思的优势在于长期积累的多形态端侧产品经验,但新的竞争环境考验的是另一套能力:能否围绕大模型重新设计芯片,并建立开发者和终端厂商愿意采用的生态。
因此,1.5亿颗芯片既是一块重要的“敲门砖”,也意味着聆思需要跳出原有路径,寻找新的增长曲线。
02Nebula芯片的“纸面性能”与端侧落地鸿沟端侧AI芯片面临的挑战,并不只是提升算力,更在于如何在有限的空间、功耗和成本约束下,让AI能力真正进入终端。
但端侧AI的发展,并不只是把云端大模型简单搬到设备里。终端厂商真正关心的问题,是AI能力能否成为产品体验的一部分。
以手机、PC、汽车和机器人为例,端侧AI面对的是更加复杂的产品约束:既要满足实时响应和隐私安全需求,又要适应不同设备的成本和功耗限制。用户不会因为设备搭载了一颗更强的芯片而买单,真正影响产品价值的是AI功能能否自然融入使用场景。
这也给芯片设计带来了新的挑战。云端计算可以依靠大量GPU和高带宽存储堆叠性能,但终端设备没有足够的空间和电力条件。芯片企业需要在计算效率、存储访问、功耗控制和软件适配之间找到新的平衡。
因此,端侧AI芯片的竞争重点,也逐渐从单纯追求峰值算力,转向围绕终端需求重新定义计算架构。
此前,终端设备里的AI任务相对简单,芯片主要负责语音唤醒、人脸识别等轻量计算。随着大模型进入手机、PC、汽车和机器人,终端需要处理更复杂的任务,芯片面对的计算压力也随之提升。
一方面,模型越来越大,需要更强的计算能力支撑;另一方面,终端设备又无法像数据中心一样堆叠大量GPU。如何在“小空间”里实现高效率推理,成为端侧AI芯片竞争的关键。
面对新的端侧需求,仅依靠在传统架构上进行优化,往往难以同时满足大模型推理对计算效率、存储带宽和功耗控制的要求。因此,部分芯片企业开始尝试从架构层面重新设计。
聆思选择的路径,是围绕大模型计算特点重新定义芯片架构。
其Nebula系列芯片采用DSA(Domain Specific Architecture,特定领域架构),围绕大模型的数据流特点设计专用计算单元和算子指令集,减少通用架构下的计算冗余,提高芯片执行AI任务的效率。
图源:聆思科技官方账号
其中,一个重点突破方向是解决端侧AI长期存在的“内存墙”问题。
简单来说,AI计算不仅需要强大的“计算能力”,还需要快速地搬运数据。但随着模型规模不断扩大,影响芯片性能的瓶颈逐渐从计算能力转向数据传输效率,数据在存储和计算单元之间的搬运速度成为关键因素。
对此,聆思提出“AI 原生NPU+3D DRAM”的架构路线。采用3DDRAM晶圆堆叠+HybridBonding混合键合技术,从本质上把“仓库”搬到“工厂旁边”。过去计算单元和存储之间距离较远,大量时间消耗在数据搬运上;近存计算则希望让数据更快抵达计算单元,从而降低延迟和功耗。
目前,先进存储技术已经成为AI芯片竞争的重要方向。包括HBM在内的高带宽存储方案,正被广泛应用于云端AI计算领域。但手机、PC、机器人等端侧设备对成本和功耗更加敏感,高成本、高功耗的HBM方案未必适用,如何找到性能与成本之间的平衡,也成为端侧芯片的重要课题。
根据聆思公开信息,Nebula芯片目标实现70
纵信优配提示:文章来自网络,不代表本站观点。