新闻

AI时代架构创新不断涌现，而DeepSeek的出现为整个AI市场带来了全新活力。近日，达摩院首席科学家、知合计算CEO孟建熠在2025玄铁RISC-V生态大会上表示，DeepSeek在一定程度上改变了行业对AI硬件架构的诉求，模型持续创新是所有算力架构的机会。对RISC-V发展而言，打造标杆产品是关键。

DeepSeek让大模型从云走向端

孟建熠表示，DeepSeek问世之后，业界中产生了三方面不同观点的争论：一是开源架构与闭源架(jià)构(gòu)谁(shuí)更(gèng)好(hǎo)。DeepSeek证(zhèng)明(míng)了(le)开(kāi)源(yuán)架(jià)构(gòu)也(yě)有(yǒu)很(hěn)好(hǎo)的(de)表(biǎo)现(xiàn)。二(èr)是(shì)该(gāi)用(yòng)Dense模(mó)型(xíng)还(hái)是(shì)MoE模(mó)型(xíng)。前(qián)者(zhě)是(shì)通(tōng)用(yòng)全能(néng)的(de)模(mó)型(xíng)，后(hòu)者(zhě)是(shì)更(gèng)好(hǎo)的(de)专(zhuān)家(jiā)模(mó)型(xíng)，二(èr)者(zhě)各(gè)有(yǒu)所(suǒ)长。三是算力敏感与内存容量敏感之争。之前模型对算力的需求非常大，现在是容量很大，算力下降了，所以内存容量成为(wèi)一(yī)项(xiàng)关键指(zhǐ)标(biāo)。

“DeepSeek在(zài)一(yī)定(dìng)程(chéng)度(dù)上(shàng)改(gǎi)变(biàn)了(le)大(dà)家(jiā)对(duì)AI硬(yìng)件(jiàn)架(jià)构(gòu)的(de)诉(su)求(qiú)。”孟(mèng)建(jiàn)熠(yì)认(rèn)为(wèi)。

模(mó)型(xíng)深(shēn)度(dù)优(yōu)化(huà)为(wèi)算(suàn)力(lì)架(jià)构(gòu)带来了全新可能。具体而言，一是MoE模型，以更低激活比达成更低的计算成本，并使模型的单机部署成为可能。二是稀疏计算与模型压缩技术，识别并跳过模型中不重要的计算节点（如权重接近零的部分节点），同时结合模型压信(xìn)技(jì)术(shù)减(jiǎn)少(shǎo)参(cān)数(shù)量(liàng)。三(sān)是(shì)混(hùn)合(hé)精(jīng)度(dù)计(jì)算(suàn)与(yǔ)量(liàng)化(huà)技(jì)术(shù)，浮(fú)点(diǎn)计(jì)算(suàn)转(zhuǎn)化(huà)为(wèi)低(dī)精(jīng)度(dù)计(jì)算(suàn)（如(rú)INT8、FP8、FP16），同(tóng)时(shí)保(bǎo)持(chí)模(mó)型(xíng)精(jīng)度(dù)。四(sì)是(shì)动(dòng)态(tài)计(jì)算(suàn)图(tú)优(yōu)代(dài)技(jì)术(shù)，实(shí)时(shí)调(diào)整(zhěng)计(jì)算(suàn)结(jié)构(gòu)减(jiǎn)少(shǎo)冗(rǒng)余(yú)计(jì)算(suàn)。五(wǔ)是(shì)内(nèi)存(cún)优(yōu)化(huà)与(yǔ)数(shù)据(jù)流(liú)重(zhòng)构(gòu)技(jì)术(shù)，减(jiǎn)少(shǎo)内(nèi)存(cún)访(fǎng)问(wèn)延(yán)迟(chí)以(yǐ)及(jí)數(shù)掘(jué)传(chuán)输(shū)开(kāi)销(xiāo)。六(liù)是(shì)分(fēn)布(bù)式(shì)计(jì)算(suàn)与(yǔ)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)，将(jiāng)大(dà)规(guī)模(mó)模(mó)型(xíng)推(tuī)理(lǐ)任(rèn)务(wu)拆(chāi)分(fēn)到(dào)多(duō)个(gè)计(jì)算(suàn)节(jié)点(diǎn)，并(bìng)通(tōng)过(guò)负(fù)载(zài)均(jūn)衡(héng)技(jì)术(shù)优(yōu)化(huà)任(rèn)务(wu)分(fēn)配(pèi)。

DeepSeek的(de)出(chū)现(xiàn)，推(tuī)动(dòng)行(xíng)业(yè)更(gèng)加(jiā)关注(zhù)底(dǐ)层(céng)硬(yìng)件(jiàn)能(néng)力(lì)的(de)适(shì)配(pèi)。“在(zài)很(hěn)长(zhǎng)一(yī)段(duàn)时(shí)间(jiān)里(lǐ)，大(dà)家(jiā)都(dōu)喜(xǐ)欢(huan)喜(xǐ)欢(huan)‘大(dà)炮(pào)打(dǎ)蚊(wén)子(zi)’，当(dāng)然(rán)这(zhè)样(yàng)是(shì)效(xiào)率(lǜ)很(hěn)高(gāo)。但(dàn)是(shì)今(jīn)天(tiān)我(wǒ)们(men)有(yǒu)了(le)一(yī)个(gè)新(xīn)思(sī)路——可(kě)以(yǐ)用(yòng)软(ruǎn)硬(yìng)件(jiàn)融(róng)合(hé)的(de)视(shì)角(jiǎo)来(lái)看(kàn)待(dài)整(zhěng)个(gè)AI的(de)发(fā)展(zhǎn)。”孟(mèng)建(jiàn)熠(yì)强(qiáng)调(diào)，算(suàn)力(lì)、内(nèi)存(cún)、互(hù)联(lián)之(zhī)间(jiān)原(yuán)有(yǒu)的(de)平(píng)衡(héng)发(fā)生(shēng)了(le)剧(jù)变(biàn)，对(duì)于(yú)新(xīn)的(de)算(suàn)力(lì)架(jià)构(gòu)机(jī)会(huì)而(ér)言(yán)，大(dà)家(jiā)再(zài)次(cì)进(jìn)入(rù)同(tóng)一(yī)起(qǐ)跑(pǎo)线(xiàn)。同(tóng)时(shí)，开(kāi)源(yuán)大(dà)模(mó)型(xíng)单(dān)机(jī)部(bù)署(shǔ)成(chéng)为(wèi)可(kě)能(néng)，进(jìn)一(yī)步(bù)推(tuī)动(dòng)实(shí)际(jì)应(yīng)用(yòng)落(luò)地(de)。

另(lìng)一(yī)个(gè)趋(qū)势(shì)是(shì)大(dà)模(mó)型(xíng)走(zǒu)向(xiàng)趋(qū)同(tóng)，帮(bāng)助(zhù)算(suàn)子(zi)收(shōu)敛(liǎn)。值(zhí)得(de)关注(zhù)的(de)是(shì)，大(dà)模(mó)型(xíng)的(de)参(cān)数(shù)量(liàng)和(hé)计(jì)算(suàn)量(liàng)巨(jù)大(dà),但(dàn)如(rú)今(jīn)算(suàn)子(zi)的(de)个(gè)数(shù)在(zài)逐(zhú)步(bù)收(shōu)敛(liǎn)，主要(yào)以(yǐ)矩(ju)阵(zhèn)计(jì)算(suàn)为(wèi)中(zhōng)心(xīn)，而(ér)且(qiě)通(tōng)过开源相互学习正在走向趋同。

从云端协同的层面，DeepSeek帮助大模型从云走向端，由此也带来了几个变化：一是从算力瓶颈变为存储的带宽和容量瓶颈，容量瓶颈成为全量大模型最关键的因素，比如671B大模型。二是(shì)降(jiàng)低(dī)计(jì)算(suàn)资(zī)源需求，让几T、几十T和几百T的算力成为可能。三是实现单机部署的可能，能够让开源模型被更多私有数据优化，形成私有解决方案。四是支持边缘设备，使得高性能AI应用能够在边缘设备上顺利运行。“大模型在云端的话，实施成本比较高，只有有限的企业可能在部分领域去应用，而一旦到了端侧，就有大量的应用都会发展起来。”孟建熠表示。

模型创新是算力架构的机会

当前算力基础是以GPGPU(CUDA)为代表的传统闭源硬件与生态，而DeepSeek、Llama、Grok等开源大模型不断涌现，给算力架构带来了新机会。当然，这个机会对所有架构都有效，并非只对RISC-V而言。如今，这些开源模型正在吸引更多算力架构，包括X86、Arm这样的传统CPU架构，DSA、ASIC这样的自研架构，以及以RISC-V为代表的开源架构。“我们都在一个新的起点上，现在就看谁能够跑得快。”孟建熠说道。

作为三大主流指令集架构中最灵活、最开放的一个，RISC-V适应了AI时代的技术创新节奏。它在原生(shēng)AI支(zhī)持(chí)上(shàng)，拥(yōng)有(yǒu)开(kāi)源(yuán)与(yǔ)开(kāi)放(fàng)架(jià)构(gòu)、更(gèng)易(yì)实(shí)现(xiàn)的(de)软硬件协同设计、更优的能效比，以及覆盖全球、不断成熟的生态。在孟建熠看来，“RISC-V架构+AI”是以AI原生成为架构创新的最终答案。随着开源RISG-V架构的快速发展，重新自研架构已意义不大，以RISC-V为基础构建处理芯片是未来的主流。

RISC-V在AI领域具备很高的包容性，可以支持做CPU/DSA，也支持做GPU、多核产品或者近内存计算。“大家可以在硬件上不断创新，而生态上统一在RISC-V。尽管目前有不同的实践方案，但最终一定会走向生态统一。”孟建熠表示。

RISC-V如何真正走出来，是备受业界关注的一个问题。发展至今，RISC-V生态已经慢慢建立起来，从IoT等功耗敏感型场景向服务器等高算力场景成长，从纯通用计算向AI计算与通用计(jì)算(suàn)融(róng)合(hé)成长，其中已经有了一些标杆性产品。

打造标杆产品是RISC-V成长路径的关键环节。孟建熠指出，RISC-V发展中的一个新趋势是从“小标杆产品”向“大标杆产品”成长，引领软件生态加速配适，吸引产业资源加大倾斜。

实际上，国内外企业都在尝试打造RISC-V的标杆产品。比如，国内的达摩院2022年发布了基于玄铁C910 RISC-V核的4核产品，推动了包括安卓在内的软件厂商加入RISC-V生态。国际上，Tenstorrent、Vantana和SiFive等企业也推出一些标杆产品。其中，Tenstorrent最新的RISC-V核“Ascalon”采用了CPU中少见的8-Wide指(zhǐ)令(lìng)集解(jiě)码(mǎ)器(qì)设(shè)计(jì)。孟(mèng)建(jiàn)熠(yì)认(rèn)为(wèi)，下(xià)一(yī)代(dài)RISC-V标(biāo)杆(gān)产(chǎn)品(pǐn)在(zài)服(fú)务(wu)器(qì)场(chǎng)景(jǐng)、AI PC场(chǎng)景(jǐng)、AI场(chǎng)景(jǐng)有(yǒu)着(zhe)一(yī)些关键指标。要真正从产业中走出来，性价比很重要。

“标准建设是RISC-V下阶段发展的重中之重。”孟建熠表示，国内产业需要在标准建设中尽快形成合力。目前，国际上在指令架构上的贡献明显高于国内，国内力量的参与度还不够。国内已经建立多个组织，都在进行相关的指令集的制定工作，需要联合起来统一到一个平台工作。另外，技术路线上要考虑相对集中，以AI为目标先做一轮国内制定标准的尝试。此外，计算原语是相类似，所以CPU、GPGPU、TPU在扩展上要形成一定的梯度，不能把指令集做成很多套并行大而全的扩展，这样生态无法形成。