【盘中宝】特斯拉上线由1万个H100组成的超级计算机,训练所需的算力呈几何倍增长,这家公司是国产相关领域龙头,JM9系列图形处理芯片已完成测试工作
财联社资讯获悉,特斯拉上线备受期待的,由1万个H100组成的超级计算机。这个GPU集群将用来训练包括特斯拉FSD自动驾驶系统在内的各种AI应用。
一、训练所需的算力呈几何倍增长
(资料图片)
这个GPU集群由一万片英伟达H100 GPU组成,能提供340 FP64 PFLOPS的峰值算力,为AI提供39.58 INT8 ExaFLOPS的峰值算力。
这个算力峰值超过了之前全世界排名第四的超算Leonardo所能提供的算力。凭借这台超级计算机,特斯拉可以迅速训练并更新它的全自动驾驶(FSD)技术。这个H100 集群不仅让特斯拉相比其他汽车制造商更具竞争力,而且将使特斯拉拥有夸张的算力储备。
值得关注的是,在实现AI的过程中,训练和推理是必不可少的。同时相比于推理,训练所需的算力是几何倍的增长。天风证券以A100服务器和H100服务器作为样本,基于GPT-3模型估算了训练阶段的算力得出:
假设应用A100 640GB服务器进行训练,该服务器AI算力性能为5 PFLOPS,最大功率为6.5 kw,则测算训练阶段需要服务器数量=训练阶段算力需求÷服务器AI算力性能=2.96×108台(同时工作1秒),即3423台服务器工作1日。
二、GPU短缺情况至少会持续到明年
受大模型热潮提振,算力市场需求旺盛,算力服务器呈现持续紧缺状态,配货周期偏长。服务器厂商预计普遍要等6个月以上才能拿到最新的GPU,GPU短缺情况至少会持续到明年。
数据显示,以GPU为主的人工智能算力近年来呈快速增长态势。2016年,整个算力结构中,国内人工智能算力比例只占3%左右,而到2022年该比重已超50%。据中信证券测算,为满足现在ChatGPT日常访问使用场景的算力,基于1亿用户保守测算,GPU需求量在23.3亿美元。若搜索平台均搭载类ChatGPT功能,预计对于GPGPU的需求将增加136.3亿美元。
随着在类GPT基础模型上开发的应用程序逐渐增多,有望打开千行百业的海量应用场景,对于算力的需求将显著提升。
三、相关上市公司:海光信息、胜宏科技、景嘉微
海光信息的DCU产品以GPGPU架构为基础,兼容“类CUDA”环境,具备丰富软硬件生态,已在北京大学高性能计算系统及百度飞桨AI大框架中应用落地。
胜宏科技的高密度多层VGA显卡PCB板市场份额全球第一,有为英伟达AI服务器供应PCB。
景嘉微是国产GPU龙头。公司在图形处理芯片领域,成功自主研发了一系列具有自主知识产权的GPU芯片,公司JM9系列图形处理芯片已完成流片、封装阶段工作及初步测试工作。
关键词:
您可能也感兴趣:
为您推荐
商务部:前7月我国有进出口实绩的外贸企业超过55万家
天津东疆潮汐定制公交在哪发车?
周琦10分,李凯尔5中0,中国男篮替补只拿到1分
排行
最近更新
- 【盘中宝】特斯拉上线由1万个H100组成的超级计算机,训练所需...
- 股坛魔术师/绿色科技成增长点 碧瑶前景看好\高 飞
- 美股异动 | 乐信(LX.US)涨超7.5% Q2营收同比增长26.6%
- 东莞官宣“认房不认贷” 广东已有5市落地
- “小块头”迸发大能量——衡山县域经济高质量发展侧记
- 纽约股市三大股指30日上涨
- 有关诚信的手抄报简单(有关诚信的手抄报)
- 波多黎各主帅:今晚我们打出了最好的比赛 执行力&有效训练是胜因
- 卓越商企服务(6989.HK)上半年收入18.4亿元,其中基础物业服务...
- 上好开学第一课,枣庄这所高校开启内涵式高质量倍增发展新蓝图
- 成都车展价格暗战,新车低价入市
- 《孤注一掷》成2023年暑期档票房冠军
- 上半年36.8亿元税惠“红包”落袋 让“重庆制造”加速跑
- 包头文联回应12个文艺家协会被撤销
- 最新 | 天津公积金提取新政!9月起施行
- 延吉城市游园停车场项目稳步推进
- 延边州暨延吉市启动“约‘惠’新消费 共享新生活”
- 制造业利润改善预期提升,工业稳增长政策继续加力
- 牧高笛:2023年半年度净利润约9701万元,同比下降14.28%
- 祝儿子新年快乐的句子(祝儿子新年快乐的句子发朋友圈)
- 祥生控股将延迟刊发2023年中期业绩报告,股票继续停牌
- 金枫酒业上半年扭亏为盈
- 飞机可以带零食吗(飞机可以带零食吗可以带多少)
- 4.5亿!又一储能电站项目签约!
- 上海莱士:上半年净利润12.39亿元 同比增16.77%
- 玉田两条公交线路临时绕行
- 暖雪八荒属性技能一览
- 中建海峡国际工程公司走进印度尼西亚学校
- 韩国统计厅:2022年韩国出生人口数跌破25万 总和生育率0.78创新低
- 连续大幅下跌之后 连续下跌的股票能买吗
今日要闻
- 4.5亿!又一储能电站项目签约!
- 2023/8/31每日星座运势分析
- monsterenergy饮料官网 monsterenergy
- 上半年36.8亿元税惠“红包”落袋 让“重庆制造”加速跑
- 人生不相见动如参与商的参与商指的是什么(人生不相见动如参与商参与商的读音是不是参读shen 商读shang_360)
- 当张凯丽与黄梅莹同框,才发现,60+女人,真就发型+穿搭决定气质
- 齐齐哈尔市碾子山区妇联举行“夏日有约 爱在山城”烤肉广场联谊活动
- 小8跑街|西何家村路一处地面坑洼不平 车辆通行不便
- 《中国(福建)自由贸易试验区临时仲裁指南》在厦发布
- 嘉楠耘智2023年Q2财报:营收环比增长33.7%,矿业收入创新高