专访北京超算：国产芯片15天左右可跑通大模型，高端算力仍需各方努力

大模型落地应用元年①：

2023，随着ChatGPT的横空出世，大模型迎来了前所未有的关注。2024，业内普遍认为，大模型将迎来落地应用热潮。

大模型落地应用元年，人工智能技术也行至产业应用的临界点。红星资本局采访多家国内大模型企业，聚焦大模型应用行业前沿关键节点。

算力与数据，是支撑超大规模训练模型发展的两大基础设施。面对全球追逐大模型热潮，高端AI芯片短缺，算力问题也成为各行业实现人工智能普惠的最大难点。

近期，北京超级云计算中心运营实体北京北龙超级云计算有限责任公司CTO甄亚楠在接受红星资本局等媒体专访时谈到了超算中心与智算中心转换、大模型使用国产芯片的情况、大模型算力供给等问题。

他告诉红星资本局，目前帮国产大模型“嫁接”国产芯片，只需15天左右就可以跑通。他认为算力共享会是行业大趋势，高端GPU算力资源需要各方努力。

甄亚楠

超算转智算会是趋势吗？

一般来说，算力分为通用算力（基础算力）、智能算力和超算算力三大板块。

其中，基础算力主要由基于CPU芯片的服务器提供，用于支持如云计算和边缘计算等基础通用计算。智能算力则由基于GPU、FPGA、ASIC等AI芯片的加速计算平台提供，主要用于人工智能的训练和推理计算。而超算算力则由超级计算机等高性能计算集群提供，主要用于尖端科学领域的计算。

各类算力中心在计算方式和擅长领域等方面各异，近几年各地也在加快智算中心的建设。

“其实海外并未区分‘超算’‘智算’的概念，他们专门用来做计算的这类机器都叫做super computer（超级计算机）。”甄亚楠认为，智算中心在国内看起来利用率比较高，主要还是供需关系决定的。

“现在做大模型的企业比较多，大家都在‘抢时间’研发，迫切需要有更大量的算力资源，短时间之内高端GPU算力资源大家都是按月或者按年的方式去租赁。所以这个机器只要一上线，就有大量的客户把这些资源拿走去用，这就看起来智算中心的利用率更高一些。”

甄亚楠表示，超算和智算解决的都是同一类问题，即计算密集型问题。“如何给用户提供足够量的资源池，如何提供稳定长时间的计算，如何能够在计算过程中性能是高效的，不管对于超算还是智算，都属于共性问题。”

甄亚楠认为，算力中心的建设就需要具有一定的“适度超前性”，因为要承载未来3~5年的使用诉求。为了应对空闲，北京超算采取的是“分批次”的按需建设模式。“比如需求旺盛的时候，增加建设几百台甚至几千台，当利用率饱和的时候，再进行有效的扩容。”此外，关于超算智算之间的转换，他表示超算架构加上GPU卡就可以服务AI智算。

数据显示，截至去年我国就有十余家超算中心，超30个城市提出或正在建设智算中心。

甄亚楠告诉红星资本局，各个地方建设算力中心，北京超算也在积极关注，“如果地方建设了大型的算力中心，是不是能找到客户、服务好客户？是不是能把平台高效运营起来实现经济效益的转化？这些是我们持续关注的点。”

甄亚楠还提到了另一个关注点，即未来算力产业。“本质上它受限于算法和算力芯片技术的快速迭代和更新。以英伟达来讲，都会有非常明确的算力芯片发展规划。未来高端芯片出来后，是不是低端芯片会逐步被替代掉，这也是一个值得探讨的问题。”

国产芯片跑通大模型有障碍吗？

近年来，我国人工智能算力芯片的市场格局主要由英伟达主导，其占据了80%以上的市场份额，一直保持着无可匹敌的竞争优势。然而，随着美国对高性能芯片出口限制措施不断加强，国产AI芯片肩负起填补市场空缺的重要使命。

“我们也非常关注国产芯片的发展，据了解，国内自研的大模型，甚至一些开源的大模型都在不断往国产芯片上去做移植。”

甄亚楠指出，现在从芯片使用角度来讲，有些模型已经可以跑通运行了，需要追赶的方面主要在类似GPU这种高性能。

“整个的国产化是分层级的，芯片属于硬件这一层，除此之外还有软件的生态。对于国产的芯片来讲，不管是框架还是生态，都需要有一定的培育周期。”甄亚楠呼吁，最终的应用方要给到国产芯片足够的信心。他透露，目前北京超算有专门的团队，在国产芯片各类指导文档比较齐全的情况下，历时15~20天，开展服务器基础环境部署、性能测试到模型移植、性能优化、加速库替换等工作，可以帮助客户完成国产算力的模型移植与部署。”

甄亚楠坦言，从整个生态角度，需要硬件、软件、模型企业共同努力。“本质上来讲还是个非常复杂的系统性问题，国产芯片是可以‘跑起来’，解决‘可用’的问题，但剩下的性能问题，也就是达到‘好用’的程度，则需要大家共同努力。”

大模型算力供给是否存在困难？

红星资本局注意到，从去年开始，就有专家学者指出，大模型时代，智能算力成为“稀缺资产”。如何善用算力资源，发挥其最大效益，已经成为每个参与者必须面对的挑战。

甄亚楠认为，对于大模型需求多少算力，应用上有所区分。

比如，做基座大模型的企业，对算力资源的总量要求比较高，可能动辄就是5000卡，甚至万卡的规模，甄亚楠表示，目前能够拿出空闲5000卡左右的算力资源的智算中心在国内还是非常少的，所以基座大模型企业算力依然紧缺。特别是对于那些顶级的基座大模型研究企业，目前缺卡的情况依然存在。

另外一类是行业大模型或者垂类大模型，一般都是在基座大模型的基础之上，利用自有数据做微调。甄亚楠指出，这种对算力总量需求相对来讲比较小，国内有很多算力服务单位都可以满足，这里存在的就是如何去优选服务的问题。

目前从大模型的算力供给量来讲，是否还存在制约？甄亚楠认为长远看，供需关系会发生变化，但当下，高端算力资源供货周期不可控，导致其依然“难求”。

甄亚楠提到，算力中心的建设投入是最直接的“制约”，周期长，耗资巨大。另一方面，建设多大的算力资源池，与大模型企业的长期规划更是有直接关系。

“我们必须和企业保持及时且长期的沟通，针对他们的业务发展走向，提前做布局。才能在规划时间内储备足够的算力资源池。”

甄亚楠坦言，高端GPU算力资源需要各方努力。“一方面我们自己建，另一方面我们也和国内的运营商、地方政府在洽谈，他们在建设算力方面有资金以及政策支持。算力共享在这个行业里会是大趋势，需要各方共同去谋求算力上的合作。”

红星新闻记者 王田

编辑 杨程

（下载红星新闻，报料有奖！）

国产AI芯片尴尬了？宁愿买阉割80%性能H20，也不买国产？

众所周知，害怕中国AI崛起，于是美国对中国AI芯片进行了限制，像英伟达的H100、H800、A100、A800等等芯片，以及更高端的AI芯片，都不能卖给中国市场。

中国市场这么大，英伟达当然不能放弃啊，于是阉割出一款新的AI芯片，叫做H20，这个H20基于H100而来，但是性能降了80%，只有降这么多后，才符合禁令要求。

所以很多人认为，这样的芯片，中国市场可能不买单，毕竟国内也有竞争对手，比如华为的昇腾芯片，就比英伟达的H20强多了，性能是其2倍以上，何必买H20呢？

数据显示，从性能来看，H20 FP16算力150 TFLOPS，INT8算力300 TOPS，功耗为400W。

而昇腾910B，FP16算力320 TFLOPS，是H20两倍多，INT8算力640 TOPS，也是H20两倍多，功耗310W，还比H20小一些。

后来有媒体报道称，因为910B的畅销，导致H20不好卖，于是降价销售了。在2月份的时候，H20的定价还高于11万，如今已经低于10万了，为的就是和910B竞争。

但近日，研究机构SemiAnalysis称，H20在中国其实非常畅销，好卖的很，SemiAnalysis预计未来几个月会在中国市场交付100万块以上的H20。

而一块芯片1.2万美元-1.3万美元，意味着英伟达卖H20这种阉割芯片，在中国市场就将收入120亿美元的营收，比之前英伟达在中国的营收还要高。

可见，虽然阉割了，英伟达依然在中国市场称王啊。为什么会这样呢？其实有两个原因：

1、那就是英伟达的CUDA生态太厉害了，CUDA垄断了目前AI领域90%以上的市场，目前绝大部分的AI模型，都是CUDA下训练出来的。

大企业们要的是稳定、兼容，如果换成其它生态，很多AI应用要重新来开发训练，还不一定和以前一样，大家不敢冒这个险，所以H20性能差一点，也要买，就是为了稳定，兼容。

2、英伟达有NVlink技术，集群性能优越，缓存与带宽都比910B高，带宽是910B两倍，性能不够，就多加几张卡，多卡搞集群就性能上来了。

对于企业而言，只要性能稳定，生态好，多花一点钱，并不是大问题，大家怕的是花了钱，还不稳定，也没生态，那才是大问题，所以宁愿买H20，也不愿使用生态相对不那么成熟的其它AI芯片。

所以国内很多AI企业，看在CUDA份上，哪怕H20性能不够强，也会买，一张不行，就多买几张搞集群，那么性能就不是问题了，也就是了H20在国内销量超100万的事实。

可见，国产AI芯片厂商们要加油了，在提升性能的同时，一定要解决生态问题，如果生态不能替代CUDA，那么国产AI芯片要全面替代英伟达，也是比较困难的，你觉得呢？

相关问答

新推出的高性能的国产龙芯芯片，相当于Intel什么水平?-ZOL问答

电脑CPU的X86架构就是intel研发的,包括amd的CPU产品也是用了X86架构。我们国内也有采用X86架构的芯片,比如说兆芯,但是由于英特尔、AMD两家巨头压着,兆芯始终难...

中国空间站用的什么芯片?

而令人惊喜的是,眼尖网友发现航天员们竟然凑齐了“麒麟4件套”。包括直播影像中搭载麒麟980的华为P30手机、搭载麒麟A1的FreeBudsStudio降噪耳机(头戴),可能...

国产芯片里面靠谱的蓝牙芯片有哪几款?

国产蓝牙芯片现在势头很猛了,主要得益于技术的普及大陆的可选的就是:杰理、建荣、炬力、博通、恒玄台湾的就是:络达和瑞昱了另外蓝牙芯片种类太多了,蓝牙...

国产自主可控计算机有哪些?

IT自主可控的三巨头一、中国电子信息产业集团中国电子是大央企,成立于1989年,定位是电子信息产业化,主要业务有网络安全、集成电路、信息服务、高新电子等,...

中国超级计算机世界第一芯片也是国产，为什么这种芯片不能普及?

超级计算机不是你家的台式电脑。知道什么是超级计算机吗上图就是超级计算机。你不要误以为超级计算机就是你家里的台式电脑就能明白。超级计算机用的芯片不是...

国产gpu芯片公司排名?

景嘉微:gpu龙头。景嘉微300474,GPU国产化龙头,产品打破国外芯片垄断,其通用GPU产品适用于处理超高清视频。北京君正:公司的主要产品为32位嵌入式GPU芯片,...

国产芯片越居世界第一，老美狼子野心终覆灭，联发科打了谁的脸?

联发科会听我们的还是美国的?联发科会听我们的还是美国的?

国产光芯片排名?

1厦门三安光电(主流全色系超高亮度LED芯片,各项性能指标领先,蓝、绿光ITO(氧化铟锡)芯片的性能指标已接近国际最高指标,在同行内具有较强竞争力)2大...4...

比亚迪igbt芯片是什么水平?

比亚迪IGBT芯片在国际范围内是什么水平,分析这一问题之前需要先了解什么是IGBT名词解释IGBT_insulatedgatebipolartransisitor,释义为绝缘栅双极晶体管;....

中国有自己生产的芯片吗?

近日,美国政府对中兴通讯发出出口禁令,引发舆论对于中国尖端产业自主创新的讨论,并激发了国人对于“中国芯”的思考。那么我们中国有自己生产的芯片吗?芯片产...