PyTorch终于能用上谷歌云TPU,推理性能提升4倍,该如何薅羊毛?

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。
Facebook在PyTorch开发者大会上正式推出了PyTorch1.3,并宣布了对谷歌云TPU的全面支持,而且还可以在Colab中调用云TPU。
之前机器学习开发者虽然也能在Colab中使用PyTorch,但是支持云TPU还是第一次,这也意味着你不需要购买昂贵的GPU,可以在云端训练自己的模型。
而且如果你是谷歌

TPU、GPU、CPU深度学习平台哪家强?有人做了一个基准测试研究

GPU、TPU、CPU都可以用于深度学习模型的训练,那么这几个平台各适用于哪种模型,又各有哪些瓶颈?在本文中,来自哈佛的研究者设计了一个用于深度学习的参数化基准测试套件——ParaDnn,旨在系统地对这些深度学习平台进行基准测试。

ParaDnn能够为全连接(FC)、卷积(CNN)和循环(RNN)神经网络生成端到端的模型。研究者使用6个实际模型对谷歌的云TPUv2/v3、英伟达的V100GP