产业调研:AI芯片行业真实现状

2023-08-01 18:40:24 来源:网络

①衡量一个优秀的AI芯片企业有四个方面的核心因素;

②有政府需求跑在前面,不管是中小模型还是专用模型,匹配国产算力将来大有可为;

③接下来对于国内厂商来说,能否有可靠可用的算力产品是抢占市场的关键。

近期国君TMT团队邀请了AI算力专家做分享,现将交流内容总结如下:

国外使用 GPT 通用模型,国内现在开发各种各样的专属模型,模型下边会有一个底座,使用异构GPU 算力。把 GPU 放到 AI 里面,就叫它 AI 芯片。

AI 芯片大概分四类:GPU,FPGA,ASIC和类脑,类脑目前还是在实验室研究阶段。市场销售比较多是前三类,大模型背景下面我们能看到 GPU 和 ASIC 出货量最多。国内在大模型出来之前, AI 芯片公司更多关注 ASIC ,因为GPU的研发难度是比较高的,ASIC相对来说是算力小,然后成本低,总结就是便宜、好用、专用。

AI应用海外内差异较大,特别是大模型出来以后,GPU算力落地的行业不太一样。海外和国内的区别在于海外在商业市场落地是比较快的,国内虽然说互联网厂商们一直在囤英伟达的芯片,但是能看到真正在B端能够产生实际应用场景反而是在政府侧。

特殊国情导致很多数字化、信息化的应用,政府会冲在前面。其他国家的政府好像也没有中国在这方面效率高,直观上现在公共安全政务部门对 GPU 的这个算力开始格外关注。另外,考虑到信息安全的问题,政府部门也在关注中国人自己到底能不能做真正的GPU,或者说GPU出来之后能不能好用?能不能低成本使用,能不能用出中国特色,因此国内是政府端的大需求是和互联网厂商同步的。

海外更多的是商业化的应用。德国那边已经研发在用英伟达GPU的算力集群,加上通用模型、加化工行业的专属模型,去做化学材料的加速创新研发,这意味着将来大家的汽车发生事故以后没必要再纠结是否去 4S 店补漆,以后小汽修店把漆补的又亮又硬又漂亮,跟原来的车的颜色一样的。这就是算力落地能够在生活中的一些应用。

国内的芯片公司产品做得再好也需要市场营销。目前国内产品做得再好,哪怕是像华为海思这样,在客户侧的号召力依旧赶不上老大哥Intel、英伟达。所以,产品再优秀,依旧需要市场销售去在客户侧做大量基础工作。芯片这个圈子仅仅靠国内是难以自主循环的,芯片产业是一个全球的产业链,国内最擅长的是芯片设计,我们设计确实是很厉害的,如果没有制裁或者限制,海思会把芯片做得很漂亮,国内也会孵化出很多不错的芯片设计公司。但是在上游 EDA 软件的问题到下游工厂光刻机以及光刻胶的生产等等,目前这些材料一旦到了生产28纳米以下的芯片,就有很多问题存在,国内目前能做到的就是中低端产品,在中低端勉强可以做一些产业链的自给自足,但是一旦制程比较先进的,受限制就会比较大。

国产芯片是特别是 AI 芯片,除了 CPU 之外,更多是生产 ASIC 的这种小芯片。现在来看,这些边缘芯片起家的公司依旧是小而美的公司,有自己专注的行业,然后芯片一代一代再往下迭代,然后量产,整体来说做得也还不错。但是大模型背景下,真正到了 GPU或GPGPU的时候,真正能做出来的厂家就没几个了。

衡量一个优秀的AI芯片企业有四个方面的核心因素。做GPU芯片难度比 ASIC 要高出很多。

团队经验是第一要素。不是说拉一帮人,拉一些风投就能把GPGPU或者GPU做出来的,而是说团队一定要有做过 GPU 的经验,要有设计、量产及迭代的经验才行。再者,不管上市公司或者初创企业,技术路线绝对不能犯错,这种错误基本上是致命性的,所以内部要团结,技术路线也必须要稳定。

长久的时间成本是第二要素。 GPGPU 芯片的团队大概需要1000 人左右,中间不踩坑,至少也要做两年才能做出一颗芯片,还不是训练推理一体的大芯片,只是推理而已。如果要做大模型训推一体的大芯片,那么至少 3 年才能把一颗芯片做出来。如果是渲染、训练、推理都放在一起的话,至少 3 年才能出一个芯片,有可能还不是那么好用,软件还需要花很长的时间去迭代。

人才是第三要素。原来看 1000 人好像挺多,现在看 1000 人只是一个低配,连标配都算不上,特别是现在大模型一出来,既需要做训练,也需要做大量的推理,然后还需要堆人去帮客户去调优你的产品,进一步做迭代等等。另一方面,芯片本身这个硬件不需要太多人,芯片定型了之后就按照迭代往下走就可以了。最难的是软件和生态,非常需要堆人,需要不断的抄作业,需要花时间,需要烧更多钱。

成本是第四要素。目前看国内一些主流的AI芯片设计公司的产品大部分是集中在7纳米,相对来说性价比会高一些,就功耗,计算的速度相对来说还可以。即便这样,一个 1000 人的团队,一颗 7 纳米的芯片,整个团队两年打底不踩坑也要 10- 20 亿人民币成本。所以各位在判断一些初创的 AI 芯片公司的时候,可以参考这几条核心要素。

以下是总结的国内 AI 芯片的初创企业,因为前面三家是上市企业就没有披露名字。重点关注最左侧 GPU 这一栏,其实真正在芯片的硬件架构上是 GPU 的企业并不多,大部分都是做ASIC或者NPU、XPU架构,这种架构没有办法做通用大模型。国内目前使用通用模型的基础是不具备的。首先,中文语料数量少,质量欠佳。再次,中文的逻辑跟英文是不一样的,这也是一个比较大的问题。

另外,微软拥有open AI和联邦学习平台,国内目前还缺乏这样一个平台来去打通各个巨头们的数据。因此,国内芯片厂商们能够做的是应对中小模型和专用模型AI算力。

当下面临英伟达芯片的限制风险。原来英伟达 A100 是可以买,现在只能买A800,本质上是把片间互联的速度限到了400,进一步限制我们做大模型的能力。那最近又听说 A800也要限购,但是还没有落实。同时,有可能将来把片间互联这个接口全部给封死,虽然单卡能力很强,但是没有办法做集群,更没有办法做大模型。这也是国产芯片的一个机会。

中国市场容量巨大,政府需求强烈。虽然说先进芯片上下游会有一些限制,但是中国市场太大了,我们的市场占到英伟达营收的1/ 3,中国整个市场在it、数字化这几个行业基本上都能占到全球的1/3,除美国以外中国是最大的单一市场,而且中国政府对数字化、信息化的这种诉求渴望是非常强烈的,而且政府愿意买单。我们的市场跟海外完全不一样,有政府需求跑在前面,不管是中小模型还是专用模型,匹配国产算力将来大有可为。我们不求和一线的美国厂商们相抗衡,就做好本国的区域市场就已经很不错了。

我们预测到2027年全球 GPU市场,能到 2000 亿美金。有点稍微夸张,但我觉得各种模型对算力的需求很恐怖,所以这个2000亿美金还是值得期待的。

国内在 GPT 出来之前市场预测是 300 亿,GPT问世后数字就翻了好几倍,国内市场预测有1000 亿人民币,其中训练和推理四六开。其实,1000 亿还是一个相对比较保守的数字,我认为国内未来两到三年就会涌现一批做 GPU 芯片的新秀厂商们。

GPT 4 的硬件成本在下降,现在的价格比以前低了不少。只需要H100 服务器 1000 台,成本算下来大概不到 20 亿人民币了。但是这对于国内想做大模型的企业来说是高昂的成本,很多客户难以自建,那么就会租赁。

目前三大运营商已经在寻找可靠的国产GPU 算力,将其放到自己的数据中心。同时国内建了一些政府主导的数据中心,但是利用率不高,基本只有30%的利用率,其中大多还是用于天气预测。现在运营商也好,金融行业也好,政府侧包括智能交通、智慧政务的这种大数据中心已经在迫切考察国产 AI 芯片厂商们的产品能不能用。接下来对于国内厂商来说,能否有可靠可用的算力产品是抢占市场的关键。

GPU 的算力和大模型结合能落地行业中,交通行业值得关注。前两天一个朋友和我说北京和上海吵了 10 年的红绿灯智能化实现了。以前一到节假日或者城市开展会,周边的交通就一塌糊涂,赶上天气糟糕就更差。为什么?大模型给我们提了个醒。原来交管部门能够拿到的数据只是交通部门的数据,比如说文旅行业的数据他拿不到。大模型之所以能够做出很多应用,是因为他把各个行业的数据全部打通了,他把其他行业的数据拿过来,去做赋能。比如它把各个维度的数据都拿过来,然后在路口的红绿灯上去做真正 AI 优化。真正能做到车多的时候红灯亮,车少的时候绿灯亮,行人想过的时候可能手都不用去摁那个红绿灯的按钮,人多了之后绿灯自动放行。

GPT 给国内各个行业真正提了一个醒,就是数据要打通各个行业,然后再去做专用模型才是真AI。既然说有专属模型,那下面匹配的算力就不是原来 CPU 而是变成 GPU 的异构算力。比如说省交通厅或者公安厅或者省政府的大数据中心,它会建训推一体的大芯片算力平台,到下面各个地级市或者县城会用边缘侧推理应用,用到更多的就是这种小芯片,比如说ASIC或者 NPU 架构的推理芯片。所以将来国产 GPU 的市场在5-6 年以后,会是训练占20%,推理占80%的市场比例。

以英伟达作为参考,海外GPU+大模型的落地行业更多的是工业 4.0 的高端制造业。英伟达已经帮台积电把原来两纳米芯片特别高的成本通过异构算力大大降低,降低到了原来的十分之一。现在主流芯片是4纳米,三年以后轻轻松松可以做到2纳米,比我们领先了不止一代,这可能也是他们期望的一个差距;实体制造业里面也是这样,比亚迪投了国内自动驾驶的芯片厂商,帮助其在海外建工厂,将来海外跟国内会布局不同的GPU算力,海外会用英伟达,国内就用国产GPU 算力,主要用来做电池材料的创新研发。无独有偶,丰田已经借助英伟达的GPU算力+算法,优化两个方向的创新研发,一个是电池,一个是氢燃料,极大地提升研发效率。

,产业调研:AI芯片行业真我机器人 实现状

相关:

河北涿州一沿河小区百余人受困,洪水已漫过一楼2023年7月31日,受台风影响,京津冀遭遇强降雨。记者了解到,河北#涿州#市码头镇丹佛尔湾小区内有多位居民被困房屋内,目前急需救援。31日22时,一位受困居民对记者表示,目前水已经淹到一楼的天花板位置,自己在房屋二楼避难。自己手机即将没电,急需救援。三位受访对象向记者证实,水位在下午和晚间上涨,上涨速度在每小时15cm左右。一位受访对象称,最快的一个小时里上涨了40cm。目前水位已停止上涨。记者获得的一份小区居民..

梅德韦杰夫再发核战争警告,白宫回应

山东深耕本土文化资源 推动文创产业高质量发展  中新网济南8月1日电 (吕妍)8月1日,在山东省潍坊市临朐县老刘家手工编织品加工厂内,盖垫、箅子、八角箅等手工艺品琳琅满目。这些精美的产品,大部分出自平安峪村一群平均年龄60岁以上的村民之手。   近几年,潍坊市非遗手工箅子技艺传承人刘岳清通过电商带货打响了平安峪箅子品牌,并将手工箅子融入创意元素,做成箅子钟表等文创产品,拓宽销路。平安峪村村民白金玲是工厂老员工,她介绍说,在家做箅子,她和丈夫俩人一..

“中华先锋人物故事汇”系列丛书发行超过1380万册  中新网8月1日电 (记者 应妮)“学习先锋人物,树立人生榜样——‘中华先锋人物故事汇’系列丛书作家读者交流会”日前在济南第31届全国图书交易博览会上举行。   活动由党建读物出版社、接力出版社共同主办。中国出版协会常务副秘书长吴宝安介绍,这套系列丛书汇聚了各条战线、各个方面有重要影响的先锋人物,有袁隆平、蒋筑英这样的科学家,有黄文秀这样扎根基层、为脱贫努力奋斗的年轻一代,有追梦太空的嫦娥团队、北斗..

索南达杰保护站男“羊妈”:可可西里藏羚羊越来越多  中新网青海果洛8月1日电 题:索南达杰保护站男“羊妈”:可可西里藏羚羊越来越多   作者 刘洋   每年5至7月,“高原精灵”藏羚羊大迁徙拉开序幕,数万只雌藏羚羊将从勒池草原携雌仔,一路向北跨越大山大河,奔赴数百公里外的可可西里——太阳湖、卓乃湖地带产羔生育。 图为索南达杰保护站里的“高原精灵”藏羚羊。 刘洋 摄   位于三江源国家公园可可西里自然保护区的索南达杰保护站里,刚加入管护员队伍的大..

应对“卡努” 福建部分海域渔船撤离人员上岸  中新网福州8月1日电 (记者 龙敏)今年第6号台风“卡努”8月1日5时中心位于钓鱼岛东南方向约650公里的西北太平洋洋面上,中心附近最大风力52米/秒(16级,超强台风级)。福建省气象台预计“卡努”将以每小时15~20公里的速度向西偏北方向移动,强度变化不大。   受台风影响,今天,闽外渔场、闽东渔场中东部和钓鱼岛海域最大风力10~12级阵风12~14级。   福建省防指维持防台风Ⅳ级应急响应并要求,宁德、福州、平潭沿..

国家一级保护鸟类东方白鹳跌落水塘 幸被民警救助  中新网双鸭山8月1日电(王宇 葛春雨 记者姜辉)近日,黑龙江出入境边防检查总站双鸭山边境管理支队新阳边境派出所民警及时救助一只国家一级保护动物——东方白鹳,并将其顺利移交给双鸭山市饶河县林业和草原局进行进一步处理。 东方白鹳翅膀受伤跌落池塘。葛春雨 摄   据新阳边境派出所民警介绍,7月30日,新阳边境派出所接辖区群众报警,饶河县湿地公园附近水塘内发现一只体型硕大类似于鹤类的“大鸟”,“大鸟”长..

中国首枚液氧甲烷火箭成功入轨,挑战“星舰”?商业航天是个长跑项目未来两年依然是成果集中亮相的冲刺期7月12日9时整,中国民营航天企业蓝箭航天自主研制的朱雀二号遥二运载火箭,在酒泉卫星发射中心升空,顺利入轨并完成了飞行任务。这是全球首枚成功入轨的液氧甲烷火箭,标志着中国运载火箭在新型低成本液体推进剂应用方面取得重大突破。今年,关于液氧甲烷火箭入轨,全球已有过两次尝试。4月20日,美国太空探索技术公司(SpaceX)的新型运载火箭“星舰”首次发射,以解体..

四川一公职人员被曝涉不雅聊天,官方通报8月1日凌晨1时03分,四川省泸州市古蔺县皇华镇人民政府就网传“皇华镇政府工作人员王某某聊天记录及利用亲密关系索要钱财”的相关信息发布《情况通报》,回应网友关切。▲情况通报通报称,2023年7月30日,网络平台出现“皇华镇某工作人员网络聊天信息”相关视频,引发网民关注。发现相关信息后,皇华镇派出所立即介入调查。经查,冯某(男)与皇华镇工作人员王某(女)原系男女朋友关系,因感情不和分手后,冯某通过掐头去尾、剪辑..

从特斯拉到蔚小理们:为什么都在囤现金?作者|周一围编辑|安心小鹏汽车最近终于扬眉吐气了一把。7月26日,大众汽车宣布与小鹏汽车签署长期合作技术框架协议。在合作初期,双方将基于各自的核心竞争力和小鹏汽车的 G9 车型平台、智能座舱以及高阶辅助驾驶系统软件,共同开发两款面向中国市场的 B 级纯电动汽车。这些车型将以大众汽车品牌在中国市场销售,在此合作中,小鹏收取的是技术服务费。作为长期战略合作的一部分,大众汽车集团将向小鹏汽车增资约 7 亿美..