AI教程网 - 未来以来,拥抱AI;新手入门,从AI教程网开始......

如何提高PyTorch“炼丹”速度?这位小哥总结了17种方法,可直接上手更改的那种

AI前沿 AI君 9℃

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

如何提升PyTorch“炼丹”速度?

最近,有一位名叫Lorenz Kuhn的小哥,分享了他在炼丹过程中总结的17种投入最低、效果最好的提升训练速度的方法,而且基本上都可以直接在PyTorch中进行更改,无需引入额外的库。

不过需要注意的是,这些方法都是假设是在GPU上训练模型。

这一分享在Reddit上得到了600的热度。

接下来,我们便从提速高低开始,依次对这些方法来做介绍。

1、选择合适的学习率时间表。

选择的学习率时间表对收敛速度以及模型的泛化性能有很大影响。

Leslie Smith提出的周期性学习速率(CLR)以及 1cycle 策略可以令复杂模型的训练迅速完成。

比如在 cifar10 上训练 resnet-56 时,通过使用 1cycle,迭代次数可以减少10倍,得到与原论文相同的精度。

在最好的情况下,与传统的相比,这个时间表实现了大规模的提速。不过有一个缺点,它们引入了一些额外的超参数。

为什么这样做有效?一种可能的解释是,定期增加学习率有助于更快地穿越损失函数中的鞍点。

2、在DataLoader中使用多个工作程序并固定内存。

使用时torch.utils.data.DataLoader,请设置num_workers > 0,而不是默认值0,和pin_memory=True,而不是默认值False。

英伟达高级工程师Szymon Micacz使用了4个工作程序和固定内存,在单个训练时期内将速度提高了两倍。

需要注意的是,在选择worker数量时,建议将设置为可用GPU数量的四倍。

worker数量的多和少都会导致速度变慢,数量越多还会增加CPU内存消耗

3、批量最大化。

这一方法极具争议。但在通常情况下,使用GPU内存允许的最大批处理量可以加快训练速度。

如果要修改批量大小,还需要调整其他的超参数,比如,学习率。一般来说,将批量大小增加一倍,学习率也提高一倍。

此前有人进行了了一些不同批量大小的实验,通过将批量大小从64增加到512实现了4倍的加速。

4、使用自动混合精度(AMP)。

PyTorch 1.6版本就包括了对 PyTorch 的自动混合精度训练的本地实现。

与其他地方使用的单精度(FP32)相比,某些操作可以在半精度(FP16)上运行得更快,并且不会损失准确性。

随后,让AMP自动决定应以什么样的格式执行操作,这样既可以加快训练速度,也可以减少内存占用。

有研究者发现,在NVIDIA V100 GPU上对一些常见的语言和视觉模型进行基准测试时,使用AMP要比常规的FP32训练的速度提升2倍,最高可提升5.5倍。

目前,只有CUDA ops 可以通过这种方式进行自动广播。

5、使用不同的优化器

比如AdamW,AdamW是带有权重衰减(而不是L2正则化)的Adam,它在错误实现、训练时间都胜过Adam。

此外,还有一些非本地的优化器值得关注,比如,LARS和LAMB。

NVIDA的APEX实现了一些常见优化器(比如Adam)的融合版本,比如Adam。与Adam的PyTorch实现相比,它避免了多次进出GPU内存的过程,产生了5%左右的速度提升。

6、打开cudNN基准测试。

如果你的模型架构保持固定,输入大小保持不变,则可以设置torch.backends.cudnn.benchmark = True,启动 cudNN 自动调整器。

它将对cudNN中计算卷积的多种不同方法进行基准测试,以获得最佳的性能指标。

7、防止CPU和GPU之间频繁传输数据。

注意要经常使用tensor.cpu()将tensors从GPU传输到CPU,.item()和.numpy()也是如此,使用.detach()代替。

如果正在创建一个张量,就可以使用关键字参数device=torch.device(‘cuda:0’)直接将其分配给你的GPU。

如果到传输数据的情境下,可以使用.to(non_blocking=True),只要你在传输后没有任何同步点。

8、使用梯度/激活检查点。

检查点的工作原理,是用计算换取内存。检查点部分不是讲整个计算图的所有中间激活都存储起来向后计算,而不是保存中间激活,在后传中重新计算。

它可以应用到模型的任何部分。

具体来说,在前向传递中,函数将以torch.no_grad()的方式运行,即不存储中间的激活。相反,前向传递会保存输入元组和函数参数。

在后向传递中,检索保存的输入和函数,然后再次对函数进行前向传递计算,现在跟踪中间激活,使用这些激活值计算梯度。

虽然这可能会略微增加你在给定批量大小下的运行时间,但你会显著减少你的内存占用。这反过来又会让你进一步增加你所使用的批次大小,提高GPU的利用率。

9、使用梯度累积。

另一种增加批次大小的方法是在调用optimizer.step()之前,在多个.backward()通道中累积梯度。

这个方法主要是为了规避GPU内存限制而开发的,但不清楚是否有额外的.backward()循环之间的权衡。

10、使用DistributedDataParallel进行多GPU训练。

加速分布式训练的方法可能需要单独写一篇文章,但一个简单的方法是使用 torch.nn.DistributedDataParallel 而不是 torch.nn.DataParallel。

这样做可以让每个GPU将由一个专门的CPU核驱动,避免了DataParallel的GIL问题。

11、将梯度设置为None而不是0。

使用.zero_grad(set_to_none=True)而不是.zero_grad()。

这样做会让内存分配器来处理梯度,而不是主动将它们设置为0,这样会适度加速。

注意,这样做并不是没有副作用的。

12、使用 .as_tensor 而不是 .tensor()

torch.tensor() 总是复制数据。如果你有一个要转换的 numpy 数组,使用 torch.as_tensor() 或 torch.from_numpy() 来避免复制数据。

13、如果不需要,请关闭调试API。

Pytorch提供了很多调试工具,例如autograd.profiler,autograd.grad_check和autograd.anomaly_detection,确保在需要的时候使用它们,不需要时将其关闭,否则他们会拖慢你的训练速度。

14、使用梯度剪裁。

剪裁梯度,可以加速加速收敛。最初是用来避免RNNs中的梯度爆炸,可以使用orch.nn.utils.clipgrad_norm来实现。

目前尚不清楚哪些模型能靠梯度剪裁能够加速多少,但它似乎对RNNs、基于 Transformer 和 ResNets 的架构以及一系列不同的优化器都非常有用。

15、在BatchNorm之前关闭偏置。

这是一个非常简单的方法,在BatchNormalization图层之前关闭图层的偏置。

对于二维卷积层,可以通过将bias关键字设置为False:来完成torch.nn.Conv2d(…, bias=False, …)

16、在验证过程中关闭梯度计算。

在验证期间设置torch.no_grad() 。

17、使用输入和批次归一化。

额外提示,使用JIT来融合逐点操作。

如果你有相邻的逐点操作,可以使用PyTorch JIT将其合并成一个FusionGroup,然后在单个内核上启动,这样可以节省一些内存读写。

不少网友在表达感谢的同时,还分享了自己训练时的小Tips。

比如这位炼丹师分享了第“18”个方法,下载更多的RAM。

还有人提出了两点建议:

1、数据变换 (用于数据增强) 可成为速度提升的另一个来源。一些只使用简单 Python 语句的变换可以通过使用 numba 包来加速。

2、将数据集预处理成单个文件,对速度也有好处。

除了这些,你还有哪些可以提升训练速度的方法?欢迎与我们分享~

作者:杨净_量子位
原文链接:https://mp.weixin.qq.com/s?__biz=MzIzNjc1NzUzMw==&mid=2247565658&idx=4&sn=55ef070be5609a0150f0625078abfaeb&chksm=e8d17628dfa6ff3e2d16da8c4d97b8c3096df65a298a4386f40c5bd88129acbc0530929ba6a3&mpshare=1&

转载请注明:www.ainoob.cn » 如何提高PyTorch“炼丹”速度?这位小哥总结了17种方法,可直接上手更改的那种

喜欢 (0)or分享 (0)