你的Mac电脑也能在PyTorch练习顶用GPU加速了

2022-05-19 14:17:37 来源:网络

原标题:炼丹速度×7!你的Mac电脑也能在PyTorch训练中用GPU加速了

一直以来,Pytorch在Mac上仅支持使用CPU进行训练。

就在刚刚,Pytorch官方宣布,其最新版v1.12可以支持GPU加速了。

只要是搭载了M1系列芯片的Mac都行。

这也就意味着在Mac本机用Pytorch“炼丹”会更方便了!

训练速度可提升约7倍

此功能由Pytorch与Apple的Metal工程团队合作推出。

它使用Apple的Metal Performance Shaders(MPS) 作为PyTorch的后端来启用GPU加速训练。

为了优化计算性能,MPS还针对Metal GPU系列的独特特性对每个内核进行了微调。

Metal是一个类似OpenGL的框架,只不过OpenGL适用于各平台的移动端GPU渲染和计算,Metal专用于iOS/MacOS平台,不过也兼顾了性能和易用性。

MPS就是一套基于Metal框架的库,直接调用即可使用GPU的高性能进行图形处理、构建卷积神经网络等工作。

苹果官方在搭载了M1 Ultra、20核CPU、64核GPU、128GB RAM和2TB SSD的Mac Studio上进行了测试。

(这阵容差不多能算是豪华配置了)。

他们分别训练了batch size为128的ResNet50、batch size为64的HuggingFace BERT,以及batch size=64的VGG16

从下图中我们可以发现,相比使用CPU加速,使用GPU可将模型训练速度提高约7倍,评估(evaluation)速度则最高能提约20倍。

看到这儿,有网友开始好奇它与搭载了Nvidia GPU的laptop相比性能如何。

有人表示,虽说目前M1的原始计算性能比不上英伟达的产品,但功耗方面还不错。未来苹果很有可能慢慢追上性能。

总的来说,Mac Studio现在看起来实在太香了

他进一步解释道:

“毕竟它是你花4800美元就能买到的最便宜、包含128GB GPU内存的机器。现在有了基于GPU加速的PyTorch支持,完全可以用来训练大模型、配置大的batch size。

对于我所做的那种DL工作,数据加载比实际的原始计算能力更容易成为瓶颈。”

你心动了吗?

现在就试试?

只需保证你的macOS操作系统在12.3版本及以上,且安装了arm64原生Python,然后去官网下载最新的Pytorch预览版就可以了。

,你的Mac电脑也能青松股份 在PyTorch练习顶用GPU加速了

相关:

“东亚怪物房”:冷战 从未竣事自己有强大的实力,才会有底气。 最近,俄罗斯的日子不好过。在乌克兰苦战几个月,还不能一锤定音。原本奉行中立的芬兰、瑞典,公开宣布要加入北约。其实每个人都明白:这是在针对俄罗斯。要知道,先前北约一直拉拢芬兰、瑞典,但这两个国家忌惮俄罗斯,一直不愿意。这次可能没多大悬念,两个国家可能很快会加入北约。芬兰和俄罗斯陆地边界长达1300公里。芬兰加入北约,会使北约和俄罗斯的陆地边界直接翻一番,而且北约更加接..

逾50万人活在饥馑中 古特雷斯催促俄释放乌粮食据新加坡《联合早报》5月19日报道,联合国秘书长古特雷斯周三(5月18日)警告称,若不应对愈演愈烈的全球粮食危机,将出现多年的大规模饥饿和饥荒,他敦促俄罗斯释放乌克兰的粮食。据法新社报道,古特雷斯在纽约举行的联合国峰会上发表讲话,指出乌克兰的战争正在加剧全球粮食不安全情况,而这种情况已因气温升高和冠病疫情恶化。古特雷斯说,在短短两年内,面临严重粮食危机的人数增加了一倍,即从疫情前的1.35亿增加到目前的2...

《一路露营吧》:“动吃”挑战趣味进级  由爱奇艺出品,鱼子酱、江苏卫视联合出品,爱奇艺安可工作室共同制作的户外潮流露营真人秀《一起露营吧》第四期在本周四与观众如约相见。陈伟霆、黄雅莉、王子异、杨迪、章若楠和飞行嘉宾王源将分为两队,在三亚进行一场别开生面的“动吃”大战,究竟哪一队能获得最终的胜利?让我们拭目以待。   王源杨迪互爆黑历史,王子异海边疯狂整活   海岛露营的第一夜,露营家族们围坐一团吃火锅的欢乐场景给观众们留下了深刻印..

有聊|王媛可:“出圈”可遇不成求,连结热爱就足够  中新文娱北京5月19日电(刘越)由张新建执导、高满堂编剧的年代剧《运河风流》日前收官,剧中豪迈爽朗的女主角“一片云”令不少观众眼前一亮;而饰演“一片云”的王媛可,也向观众展现了她作为演员更多的可能性。 《运河风流》剧照。受访者提供   《运河风流》以民国初年为背景,通过讲述为官刚正的黄子荣、侠义痴情的“一片云”、诚信经商的宋鲁生等人物故事,体现了齐鲁大地运河流域跨越近三十年、风云际会的历史变迁。 ..

山西交城某化肥厂发生爆炸 致3死2伤  中新网吕梁5月19日电 (范丽芳 高瑞峰)19日,记者从山西省交城县宣传部门获悉,5月18日晚,该县贾家寨村一化肥厂锅炉房发生爆炸,致3人遇难2人受伤。   据了解,现场救援已结束,事故原因正在调查当中。   交城县化肥产业起步于20世纪70年代,公开数据显示,该县化肥出口产品包括硝酸铵钙、硝酸钙、硝酸镁等30多个品种,销往加拿大、智利、日本等数十个国家和地区。因其钙肥国内市场占有率高,在业界有“中国钙都”之..

河南:6月底前实现“场所码”全笼盖  河南:6月底前实现“场所码”全覆盖   “场所码”是流调的关键,是落实常态化疫情防控的重要举措。记者从河南省新冠肺炎疫情防控指挥部了解到,5月20日前,河南各地“场所码”系统要与省平台对接到位;5月底前,郑州市实现“场所码”全覆盖;6月底前,其他省辖市、济源示范区要实现“场所码”全覆盖。   根据《河南省“场所码”推广实施方案》,对有多个入口的商场、超市、酒店、写字楼等场所,实行一门一码;大型商业..

四川广安市48小时内将新改建一个800张床位的方舱病院  四川广安市48小时内将新改建一个800张床位的方舱医院   记者从今日(19日)中午召开的广安市疫情防控发布会上获悉,广安市应急指挥部决定5月19日开始进场施工,用48小时将华泰医院改建为方舱医院,改建床位约800张,全力保障新冠病毒患者应收尽收、应治尽治。   广安市按照集中患者、集中专家、集中资源和集中救治的原则,将所有确诊病例和无症状感染者闭环转运至定点医院和方舱医院隔离观察治疗。在定点医院隔离病区统..

蔡健雅确诊传染新冠 今朝正在隔离身体状况精采5月19日,据台媒报道,台湾女歌手蔡健雅确诊感染新冠。经纪公司透露她在上周14日快筛阳性,隔天收到医院PCR阳性通知,目前正在台湾的家中隔离,“目前身体状况都还好,没有什么不适,谢谢大家的关心。”据悉,因为她必须隔离7+7天,所以28日在台北小巨蛋的Hito颁奖典礼她将无法到场。不过,蔡健雅昨日刚收到好消息入围金曲奖最佳女歌手,并斩获包括最佳作曲人奖、年度歌曲奖、最佳年度专辑奖在内的八项提名,她也发文表达了自己的喜悦。

2022云智手艺论坛 | 百度智能云全新发布智能对话平台UNIT 7.05月18日,百度智能云“2022云智技术论坛-智能对话专场”全新发布了智能对话平台UNIT 7.0。UNIT 7.0包含跨模态对话引擎、知识引擎、洞察引擎等三大引擎。跨模态对话引擎提升智能对话产品的服务效率与用户体验;知识引擎增强企业知识生产、组织和应用效率;洞察引擎帮助企业了解用户特征和行为,掌握服务质量和产品反馈。会上,“对话+X”生态布局亮相,金融、运营商、能源等领域的生态伙伴也分享富有成效的合作案例。百度智能云..

国产摄像头在美或将全数下架?美国被迫害妄想症何时根治原标题:国产摄像头在美或将全部下架,美国的恐慌由何而来?文|马渭淞编辑|常亮 陈俊一题图|unsplash据美国科技类网站TechCrunch报道,从2021年末开始,美国零售商开始陆续下架中国产安防产品。或许,中国产监控技术产品不久之后便会在北美市场销声匿迹。中国安防产品在北美遭遇“寒冬”其实也在预料之中。早在2018年,在制裁中兴的议案后附加增补提案中,美国众议院便以国家安全为由,禁止美国联邦政府采购某些中国制造的视..