最近两年,因为ChatGPT的突然面世,让人工智能(artificial intelligence:AI)热度骤升,并在应用端快速渗透,进而推动了英伟达、AMD和Intel,甚至博通等公司在数据中心芯片领域的繁荣。具体到端侧方面,用户保有量最大的智能手机市场更是成为了AI的首个落脚点,一种名为AI Phone的手机产品形态吸引了高通、联发科等芯片厂商在上面双双发力。
除此以外,另一重要的终端产品PC也正在加速走向AI。尤其是在微软于今年上半年发布了“Copilot+ PC”之后,AI PC迅速走红。据Canalys预测,到2025年,支持AI的PC出货量将超过1亿台,占PC总出货量的40%。未来几年的年复合增长率更将高达44%。
正因为市场机遇如此庞大,传统的PC芯片巨头Intel和AMD正在加速入局。不过和AI Phone的芯片市场大局已定不一样,在AI PC市场,一场芯片新战斗,已然打响。
PC芯片新变局,此芯科技顺势而起
如大家所熟知,在过去数十年,PC芯片市场主要由Intel和AMD两家X86架构的芯片供应商把持,这一方面因为他们几十年的深耕,在芯片设计上有了很深的积累。更重要的是,在过去几十年里通过和微软的配合,大家熟知的Wintel(Window+Intel)联盟已经打造出了一个看起来固若金汤的联盟。
不过,随着苹果2020年11月10日推出Apple M1,并全面将旗下的Mac电脑转向自研的M系列Arm芯片后,PC芯片的局面被打破。Arm首席执行官Rene Haas更是在早前表示,旨在五年内占据Windows PC市场50%以上的份额,有见及此,传统计算芯片巨头高通通过收购Nuvia,夯实公司实力,发力Arm PC芯片市场,MTK也虎视眈眈,跃跃欲试。而随着AI的到来,PC芯片市场加速转变。
在此期间,一家名为此芯科技的本土芯片公司悄然崛起。
此芯科技创始人、CEO孙文剑先生日前在发布公司首颗AI PC芯片“此芯P1”时就回忆道:“为了这颗芯片的发布,公司的团队已经努力了三年”,“三年前,当我看到人工智能技术的蓬勃发展,看到市场对于高能效CPU渴望的时候,我就萌生了创立一家AI CPU企业的念头。”孙文剑接着说。
此芯科技创始人、CEO孙文剑
作为一位拥有20多年大规模数字集成电路设计经验的老兵,孙文剑曾担任AMD芯片设计总监,及客户定制部门中国区负责人,领导端到端研发团队深入对接全球重点客户,完成多款业界领先的智能CPU芯片的定义、设计和量产交付。正是因为拥有如此丰富的经验,让他拥有了成立此芯科技的信心。
他进一步指出,之所以会选择这样一个赛道,还有另一个重要原因。那就是经历了数十年的发展,国内整个半导体的人才发展、产业发展已经非常丰富,很多半导体的公司也很优秀,拿下了不少芯片的市场。但在CPU方面,因为人才、资金和生态的壁垒较高,还在攻关之中。
但随着行业从传统的CPU变为AI CPU,孙文剑看到了变革的机会。更重要的是,如孙文剑所说,大家不喜欢封闭的生态。这就给行业带来了新的契机。
基于上述见解,再加上看到国内有巨大的PC市场,有完整的AI PC产业链;在整机制造、软件设计、大模型开发与应用等领域,国内也基本都能处于国际领先水平;即使在一些有差距的领域,通过产业链上下游的共同努力也将进一步缩小等天然优势后,此芯科技于2021年正式成立。并获得了联想创投和蔚来资本等资金的支持。
作为汇集国内外芯片设计、软件生态和终端应用的业界资深人才的企业,此芯科技运用创新、前瞻的构想,设计和研发业界先进的高能效、智能化的通用CPU,赋能个人计算、车载应用、元宇宙基础设施建设领域。此芯科技致力于为社会提供低功耗智能算力解决方案,正在携手全球领先的商业客户与生态伙伴共建统一算力基础的开放生态,打造智能芯片2.0新范式。
伴随着“此芯P1”的发布,这家本土AI PC芯片公司正式跨入了新阶段。
6nm异构芯片发布,新一代AI PC算力底座 据介绍,此芯科技发布的首颗芯片“此芯P1”使用先进的6nm工艺打造,里面集成了包括CPU、GPU、DPU和NPU在内的一系列领先处理器,提供了丰富的AI异构计算资源。 在核心CPU部分,“此芯P1”以Arm大小核(big.LITTLE™)技术设计,拥有8个性能核4个能效核的12核心设计,主频最高更是可达3.2GHz以及针对PC场景优化的多级缓存设计;同时,集成2个SVE2向量加速单元,能实现机器学习指令增强。 来到GPU方面,“此芯P1”则集成了10核GPU处理器,能满足极致桌面渲染和通用AI计算需求。值得一提的,该GPU还配备了新一代硬件光线追踪,能提供媲美主机级别的游戏体验;其新型几何图形处理流程(延迟顶点着色DVS)则能实现功耗节省40%以上,以及灵活的可变速度着色(VRS),实现性能提升50%以上。借助面向多场景的桌面GPU软件栈,这个芯片更是能满足行业应用的更多需求。 再加上内置的NPU,“此芯P1”打造了强大的异构AI引擎。
孙文剑也总结说,从算力引擎上来讲,“此芯P1”的CPU内置的第二代可扩展向量加速引擎单元(SVE2)能支持新的AI指令,增强高性能的计算能力;内置的GPU支持OpenCL和Vulkan加速;NPU算力更是能达到30TOPS,其专用的算力对于视频、音频的处理更加高速、高效。
得益于这个领先异构配置,“此芯P1”能提供45TOPS端侧AI异构算力,支持100亿参数以内端侧大模型部署,运行LLM可达30 tokens/s以上,面向计算机视觉、自然语言处理、生成式AI等多场景提供端侧AI支持。在如此丰富的AI运算引擎支持下,搭配此芯的NeuralOne AI 软件栈,可以赋能开发者便捷、高效的异构调度能力。让“此芯P1”轻松地在包括计算机视觉、自然语言处理和生成式AI等多个场景下面进行AI的运算。值得一提的是,该芯片的生成式AI大模型可以支持10B参数以内的模型,运行大语言模型可达30tokens/s以上, 能支持Stable Diffusion的文生图效果。
除了上述领先的计算能力以外,“此芯P1”还拥有全方位的安全引擎、多样化的外设接口以及多操作系统支持等特性;同时,该芯片还拥有强大多媒体引擎,能支持4K120帧显示、8K60帧视频解码以及8K30帧视频编码等;再者,芯片集成了高性能的访存子系统配置128-bit LPDDR5低功耗内存,容量可达64GB,数据传输率可达6400Mbps、带宽可达100GB/s;此外,“此芯P1”还能提供精准的动态调频调压、多电源域和动态的电源门控、标准的PC电源工作模式,实现高效的功耗管理。
从上述的性能参数,我们能够直观地看到“此芯P1”的硬实力。但其实在这颗芯片背后,还加入了此芯科技团队很多的思考。例如,和大多数芯片公司推出一颗芯片只是面向一个应用市场不一样,此芯科技在“此芯P1”的产品定义时,就将其定位为一颗“一芯多用”的芯片——面向全球与本土双市场,构建端侧AI生态,率先聚焦AI PC领域,打造新一代AI PC算力底座。
要在实现这个目标的同时,还避免资源浪费,这就需要公司团队在产品定义的时候做出更好的平衡和取舍。这也正是此芯科技团队能力的一个体现。
“此芯科技芯片的丰富功能,极大满足客户多场景的需求;另一方面通过多场景落地,产品的销量增加,摊薄产品研发费用,为客户带来高性价比产品体验。”孙文剑总结说。他同时指出,为了满足不同应用对芯片的不同需求,公司也会针对性对芯片进行增减,使其更契合终端的需求。
这也构成了此芯科技的算力底座。
“三融”策略加持,打造繁荣生态 此芯科技联合创始人、软件工程副总裁刘刚在“此芯P1”的发布会上直言:“硬件好比是我们的躯体,软件则赋予了一颗芯片灵魂。”对于任何一个芯片公司来说,这是一个金科玉律。在不少计算芯片公司,其软件团队人数大多领先于硬件团队,这恰好验证了刘刚的这个说法。 来到Arm PC领域,软件或者说生态的重要性尤其重要。 和很多To B的应用不需要直面消费者不一样,类似PC和智能手机等设备,是其用户的生产力工具,使用频率高、时间长。而经过多年的积累,在他们各自芯片和系统上打造的生态和应用,也让跨界者很难找到机会。例如在手机行业,英特尔早些年曾经做了很多尝试,希望把其X86芯片推向移动领域,不过最后都是无功而返。 同样地,Arm芯片走向PC,也是历经了多次进攻、失败,再进攻。并在近年最终由拥有完全封闭生态的苹果打开了局面。这也给微软带来了警醒,加大了在“Windows on arm”的投入,给Arm PC生态的从业者吃下了一颗定心丸。 随着AI的到来,AI PC的新机会汹涌而来。为了让基于Arm的芯片走向AI PC,此芯科技联合创始人、系统工程副总裁褚染洲介绍了“三融”(融合、融入、融通)策略,以全新视角来打造AI PC平台解决方案。 在“融合”方面,就是指公司在定义“此芯P1”的时候,从一开始就甩开所有的包袱,融合吸纳了X86和Arm的各方之长,完美地实现此芯科技Arm架构CPU芯片在PC领域的普及和应用;“融入”则指公司希望能尽快地融入PC产业链条,充分利用中国在PC和移动设备领域积累多年的产业链优势和融合趋势,一起为消费者提供优质的AI PC产品;“融通”则是指此芯科技会即时跟进公共大模型和本地大模型混合开发协同发展的大趋势,提供优秀的端侧平台融会贯通云计算基础设施,真正做到AI惠及到每一个人。 在这“三融”策略的支持下,此芯科技推出了P1芯片的AI PC平台解决方案,具备可扩展异构计算、支持多模态人机交互、高带宽存储、平台级安全盾等特点。而针对Arm PC芯片和AI PC芯片生态的现状,此芯科技重点聚焦启动固件、内核、图形加速以及AI方案四大方向进行全栈软件创新。 在启动固件层,此芯科技实现了通过一套固件支持多个操作系统和一套Linux内核同时支持ACPI、Device Tree两个规范的重要突破;为了能够让Arm GPU在PC端同样达到极致的使用体验,此芯科技自主设计了此芯GO图形引擎,通过引入应用兼容层并在核心驱动层实现原创优化,适配多种主流桌面环境、兼容传统应用、支持OpenGL标准以及和不同多媒体框架协同等,一站式解决行业痛点。 面对生成式AI端侧部署存在的诸多问题与挑战,此芯科技未来将推出NeuralOne AI软件栈,提供异构AI加速器支持,以满足对于端侧推理需求的多样性和复杂性;同时,提供统一的NerualOne API来隐藏具体的硬件细节,降低应用程序编程难度。在此芯科技看来,对于模型与推理框架的碎片化,此芯NeuralOne提供统一的SDK满足多引擎需求以及广泛的模型格式支持。 为了更好地推进AI PC产业链建设,在“此芯P1”的发布会期间,还特别举行了AI PC产业链战略合作启动仪式。此芯科技与联想集团、安谋科技、同方鼎欣、万莫斯、统信软件、麒麟软件、江波龙、百敖软件、无问芯穹等众多合作伙伴携手,将充分发挥各自在IP设计、全栈软件开发以及系统设计等方面的优势,加速国内AI PC创新产品的商业化落地,推动产业实现可持续发展。 写在最后 如文章开头所说,在AI PC这个新赛道上,不但有传统巨头,高通这些Arm PC新贵也正在迅速崛起。例如在微软上半年发布的“Copilot+ PC”上,就破天荒地选择了高通的芯片,这足以见证了这家巨头的实力。 采访中,孙文剑告诉笔者,AI技术的发展带来了变革的机会、创业的机会,此芯P1应运而生,成为国内AI PC新赛道的生力军。值得一提的是,此芯科技还是国内首个AI PC芯片供应商,也是Arm全球在PC生态的为数不多的核心合作伙伴之一。 孙文剑坦言,单靠一个公司去开创巨大的Arm PC生态难度非常大,“整个生态需要从IP到芯片、到整机、到操作系统、到大模型、到应用都打通。在这种情况下,大家已经形成共识并积极行动起来,我觉得大家应该形成生态互补,在新的生态建设中把各自的优势发挥出来,真正把基于Arm的AI PC 各环节都优化好,交给客户,形成巨大的产业链共赢。” 由此看来,在AI PC时代,中国芯片厂商,必然能扮演重要角色。