新闻

两年前，ChatGPT点燃了全球生成式AI技术研发热潮，端侧AI应运而生。近两个月以来，DeepSeek以开源之姿，再次在全球人工智能领域掀起一股AI新潮。在AI大潮的诸多“弄潮儿”中，端侧AI率先冲刺，助推AI应用进一步落地。

就在端侧AI发展黄金期到来之际，作为硬件基础的芯片，通过算力优化和场景适配成为其中的核心驱动力；与此同时，率先布局的相关企业将有望吃到端侧AI爆发的第一波红利。

苹果M3 Ultra机型可为大语言模型导入庞大数据集

端侧AI奏响“集结号”

近期，端侧AI在多领域落地的动作不断。消费电子领域，联想于2月25日发布其AI PC新品YOGA 2025系列，本地部署DeepSeek-7B，成为全球首家在终端设备上部署此规模大模型的厂商。3月5日，苹果时隔两年重磅更新的Mac Studio配备了全新M3 Ultra和M4 Max芯片两个版本，苹果宣称 M3 Ultra 版本 Mac Studio 支持本地部署 6000亿参数的AI大模型运行。此外，近日华为的AI PC也传出新消息，预计其自研商用AI笔记本将在四月发布，除了搭载全面集成的DeepSeek大模型，其芯片及零部件或将实现全自研。

汽车领域，小米SU7 Ultra于2月27日上市，雷军通过微博宣布Xiaomi HAD端到端全场景智驾开启全量推送，小米SU7 Ultra出厂即搭载该智驾系统。吉利在3月3日的AI智能科技发布会上宣布完成全域AI智能化布局，其中阶跃星辰提供通用大模型技术，与吉利联合开源多模态交互框架，实现文本、语音、图像数据的融合理解。此外，吉利自研的超级智算中心2.0，算力资源超越万卡，综合算力(lì)达(dá)到(dào)23.5EFLOPS。

事(shì)实(shí)上(shàng)，除(chú)了(le)上(shàng)述(shù)高(gāo)热(rè)度(dù)的(de)领(lǐng)域，端(duān)侧(cè)AI还(hái)在(zài)涉(shè)及(jí)面(miàn)更(gèng)加(jiā)广(guǎng)阔(kuò)的(de)IoT等(děng)领(lǐng)域加(jiā)速(sù)落(luò)地(de)。例(lì)如(rú)，今(jīn)年(nián)2月(yuè)，深(shēn)思(sī)考(kǎo)人(rén)工(gōng)智(zhì)能(néng)在(zài)全球(qiú)开(kāi)发(fā)者(zhě)大(dà)会(huì)上(shàng)正(zhèng)式(shì)发(fā)布(bù)鸿(hóng)蒙(méng)系(xì)统(tǒng)TinyDongni& deepseek超(chāo)小(xiǎo)端(duān)侧(cè)多(duō)模(mó)态(tài)大(dà)模(mó)型(xíng)及(jí)硬(yìng)件(jiàn)模(mó)组(zǔ)，并(bìng)联(lián)合(hé)国(guó)产(chǎn)模(mó)组(zǔ)厂(chǎng)商(shāng)推(tuī)出(chū)两(liǎng)大(dà)解(jiě)决方案，一方面为车载、机器人等场景提供实时AI处理能力，另一方面赋能工业检测、AI摄像头等高精度场景。深思考创始人& CEO杨志明表示，超小端侧多模态大模型及硬件模组的发布，不仅是技术的突破，更是端侧AI普惠化的里程碑。未来将持续优化多模态交互能力，推动AI在医疗、工业、消费等领域的深度应用。

“得益于算力与模型优化，端侧人工智能的进步速度将呈现指数级跃升。”联想集团董事长兼CEO 杨元庆认为，两者进步的叠加效应有望在未来12个月实现3倍的整体性能提升。

联想三折叠AI PC概念机

高质量AI模型是普及关键

大模型纷纷部署于端侧之际，科技企业高调发力端侧AI,相关产品和应用纷纷上市。这背后的动作并不算新鲜，但根本动力却与以往大不相同。那么，端侧AI落地，时机是否已经成熟？

在AI百模大战的时代，焦点在云数据中心的集中式训练，但AI释放价值的关键更多在于推理。

“AI推理将从云端下沉到我们身边，无处不在。”Arm物联网(wǎng)事(shì)业(yè)部(bù)业(yè)务(wu)拓(tà)展(zhǎn)副(fù)总(zǒng)裁(cái)马(mǎ)健(jiàn)告(gào)诉(su)记(jì)者(zhě)解(jiě)释(shì)道(dào)，如(rú)果(guǒ)我(wǒ)们(men)生(shēng)活(huó)在(zài)连(lián)接(jiē)带(dài)宽(kuān)无(wú)限(xiàn)大(dà)、延(yán)时(shí)无(wú)限(xiàn)低(dī)、成(chéng)本(běn)接(jiē)近(jìn)零(líng)的(de)世(shì)界(jiè)，那(nà)么(me)AI部(bù)署(shǔ)在(zài)集中(zhōng)式(shì)数(shù)据(jù)中(zhōng)心(xīn)是(shì)最(zuì)有(yǒu)效(xiào)的(de)。但(dàn)是(shì)这(zhè)个(gè)假(jiǎ)设(shè)并(bìng)不(bù)成(chéng)立(lì)，来(lái)自(zì)海(hǎi)量(liàng)传(chuán)感(gǎn)器(qì)、摄(shè)像(xiàng)头(tóu)的(de)视(shì)觉(jué)、声(shēng)音(yīn)等(děng)数(shù)据(jù)都回传到云端是不现实的，尤其是在对延时、隐私以及可靠性有严格要求的场景，边缘AI势在必行。

以DeepSeek为代表的开源模型，加速了AI从云走向端的进程，其带来的影响之一就是支持边缘设备，使得高性能AI应用能够在边缘设备上顺利运行。达摩院首席科学家、知合计算CEO孟建熠指出，大模型在云端的话，实施成本比较高，只有有限的企业(yè)可(kě)能(néng)在(zài)部(bù)分(fēn)领(lǐng)域应用，而一旦到了端侧，就有大量的应用都会发展起来。

从目前的一些趋势来看，终端AI模型的质量、性能和效率正在显著提高。为此，高通高级副总裁兼技术规划和边缘解决方案业务总经理马德嘉（Durga Malladi）以及市场资深经理Jerry Chang在其博文中从以下四方面进行了总结。

首先，当前先进的AI小模型已具有卓越性能。模型蒸馏和新颖的AI网络架构等新技术能够在不影响质量的情况下简化开发流程，让新模型的表现超越一年前推出的仅能在云端运行的更大模型。其次，模型参数规模正在快速缩小。先进的量化和剪枝技术使开发者能够在不对准确性产生实质影响的情况下，缩小模型参数规模。第三，开发者能够在边缘侧打造更丰富的应用。高质量AI模型快速激增，意味着文本摘要、编程助手和实时翻译等特性在智能手机等终端上的普及，让AI能够支持跨边缘侧规模化部署的商用应用。第四，AI正在成为新的UI。个性化多模态AI智能体将简化交互，高效地跨越各种应用完成任务。

搭载瑞芯微SOC芯片的桌面机器人可作为智能家居的主控中心

芯片是新周期核心驱动力

虽然DeepSeek等大模型通过技术革新降低了端侧AI的门槛，但不足以构成端侧AI起飞的充分条件。作为硬件基础的芯片，通过算力优化和场景适配成为端侧AI落地的核心驱动力。

对于硬件玩家来说，端侧形态各异的设备与(yǔ)丰(fēng)富(fù)应(yīng)用(yòng)，蕴(yùn)藏着巨大的市场空间。为此，相关芯片企业争相在端侧AI领域布局。

大模型、智能体在边缘侧的落地需要具备更高性能和(hé)能(néng)效(xiào)的(de)边(biān)缘(yuán)计(jì)算(suàn)平(píng)台(tái)。2月(yuè)底(dǐ)，Arm发(fā)布(bù)新(xīn)一(yī)代(dài)边(biān)缘(yuán)AI计(jì)算(suàn)平(píng)台(tái)Armv9，可(kě)运(yùn)行(xíng)超(chāo)10亿(yì)参(cān)数(shù)的(de)端(duān)侧(cè)AI模(mó)型(xíng)。此(cǐ)外(wài)，Arm近(jìn)日(rì)与(yǔ)阿(ā)里(lǐ)巴(ba)巴(ba)合(hé)作(zuò)，通(tōng)过(guò) KleidiAI 与(yǔ)通(tōng)义(yì)千(qiān)问(wèn)模(mó)型(xíng)的(de)集成(chéng)，加(jiā)速(sù)端(duān)侧(cè)多(duō)模(mó)态(tài)AI体(tǐ)验(yàn)。多(duō)年(nián)前(qián)高(gāo)通(tōng)就(jiù)已(yǐ)经(jīng)为(wèi)此(cǐ)做(zuò)了(le)准(zhǔn)备(bèi)。高(gāo)通(tōng)早(zǎo)在(zài)十(shí)五(wǔ)年(nián)前(qián)就(jiù)开(kāi)始(shǐ)在(zài)终(zhōng)端(duān)侧(cè)开(kāi)展(zhǎn)针(zhēn)对(duì)AI的(de)研(yán)究(jiū)，其(qí)AI引(yǐn)擎(qíng)已(yǐ)迭(dié)代(dài)到(dào)第(dì)十(shí)代(dài)；去(qù)年(nián)3月(yuè)推(tuī)出(chū)AI HUB，帮(bāng)助(zhù)不(bù)同(tóng)开(kāi)发(fā)者(zhě)优(yōu)化(huà)模(mó)型(xíng)，使(shǐ)其(qí)部(bù)署(shǔ)在(zài)不(bù)同(tóng)平(píng)台(tái)上(shàng)。

对(duì)于(yú)芯(xīn)片(piàn)企(qǐ)业(yè)而(ér)言(yán)，通(tōng)过(guò)硬(yìng)件(jiàn)创(chuàng)新(xīn)推(tuī)动(dòng)端(duān)侧(cè)AI市(shì)场(chǎng)向(xiàng)上(shàng)攀(pān)升(shēng)的(de)同(tóng)时(shí)，也(yě)让(ràng)自(zì)身(shēn)吃(chī)到(dào)更(gèng)多(duō)红(hóng)利(lì)。以(yǐ)我(wǒ)国(guó)AIoT芯(xīn)片(piàn)领(lǐng)域的(de)代(dài)表(biǎo)性(xìng)企(qǐ)业(yè)瑞(ruì)芯(xīn)微(wēi)为(wèi)例(lì)，其(qí)在(zài)端(duān)侧(cè)AI方(fāng)面(miàn)可(kě)提(tí)供(gōng)从(cóng)0.2TOPs到(dào)6TOPs的(de)不(bù)同(tóng)算(suàn)力(lì)水(shuǐ)平(píng)的(de)AIoT芯(xīn)片(piàn)。据(jù)悉(xī)，当(dāng)前(qián)已(yǐ)有(yǒu)多(duō)个(gè)领(lǐng)域的(de)客(kè)户(hù)基(jī)于(yú)瑞(ruì)芯(xīn)微(wēi)主控(kòng)芯(xīn)片(piàn)研(yán)发(fā)在(zài)端(duān)侧(cè)支(zhī)持(chí)AI大(dà)模(mó)型(xíng)的(de)新(xīn)硬(yìng)件(jiàn)，如(rú)教(jiào)育(yù)平(píng)板(bǎn)、AI 玩(wán)具(jù)、桌(zhuō)面(miàn)机(jī)器(qì)人(rén)、算(suàn)力(lì)终(zhōng)端(duān)、会(huì)议(yì)主机(jī)等(děng)产(chǎn)品(pǐn)。根(gēn)据(jù)瑞(ruì)芯(xīn)微(wēi)公(gōng)布(bù)的(de)2024年(nián)业(yè)绩(jī)预(yù)告(gào)，预(yù)计(jì)其(qí)2024年(nián)营(yíng)收(shōu)31亿(yì)元(yuán)到(dào)31.5亿(yì)元(yuán)，同(tóng)比(bǐ)增(zēng)长(zhǎng)45.23%到(dào)47.57%；预(yù)计(jì)实(shí)现(xiàn)净(jìng)利(lì)润(rùn)5.5亿(yì)到(dào)6.3亿(yì)元(yuán)，同(tóng)比(bǐ)增(zēng)长(zhǎng)307.75%到(dào)367.06%。业(yè)绩(jī)增(zēng)长(zhǎng)背(bèi)后(hòu)，是(shì)AI技(jì)术(shù)快(kuài)速(sù)发(fā)展(zhǎn)、应(yīng)用(yòng)场(chǎng)景(jǐng)不(bù)断(duàn)拓(tà)展(zhǎn)对(duì)AIoT业(yè)务(wu)的(de)带(dài)动(dòng)。

业(yè)内(nèi)人(rén)士(shì)向(xiàng)记(jì)者(zhě)表(biǎo)示(shì)，端(duān)侧(cè)AI芯(xīn)片(piàn)的(de)核(hé)心(xīn)需(xū)求(qiú)包(bāo)括(kuò)低(dī)功(gōng)耗(hào)、高(gāo)能(néng)效(xiào)比(bǐ)和(hé)灵(líng)活(huó)适(shì)配(pèi)多(duō)样(yàng)化(huà)场(chǎng)景(jǐng)。伴(bàn)随(suí)端(duān)侧(cè)AI发(fā)展(zhǎn)黄(huáng)金(jīn)期(qī)的(de)到(dào)来(lái)，芯(xīn)片(piàn)行(xíng)业(yè)在(zài)推(tuī)动(dòng)AI应(yīng)用(yòng)普(pǔ)及(jí)的(de)同(tóng)时(shí)，将(jiāng)拥(yōng)有(yǒu)更(gèng)多(duō)成(chéng)长(zhǎng)机(jī)会(huì)。