TPU、GPU、CPU深度学习平台哪家强?有人做了一个基准测试研究

GPU、TPU、CPU都可以用于深度学习模型的训练,那么这几个平台各适用于哪种模型,又各有哪些瓶颈?在本文中,来自哈佛的研究者设计了一个用于深度学习的参数化基准测试套件——ParaDnn,旨在系统地对这些深度学习平台进行基准测试。

ParaDnn能够为全连接(FC)、卷积(CNN)和循环(RNN)神经网络生成端到端的模型。研究者使用6个实际模型对谷歌的云TPUv2/v3、英伟达的V100GP

如何正确地做误差分析,NLP研究人员们需要学习一下

笔者按:尝试分析机器学习模型在什么时候、以什么方式、由于什么原因失效,我们把这称为「误差分析(erroranalysis)」。对科研人员来说,他们需要通过误差分析选择后续的改进方向;模型的实际使用者们也需要根据误差分析来确定模型部署的许多细节。由于误差分析对后续的行动方向有显著的影响,如果误差分析中出现了偏倚,或者误差分析不完整,很可能会带来我们不想看到的后果。
NLP任务误差分析的现状
但是

未来几年,人工智能研究绕不过去的3个关键问题

目前,人工智能正在大力促进产业升级、提高产品质量和核心能力。但人工智能要实现真正的“无处不在”,它就需要能够在电力和热能有限的终端设备上运行。

科技分析师、J.Gold联合咨询公司创始人兼总裁杰克•戈德(JackGold)表示:
“人工智能已经开始发展,但还远未达到稳定状态,离顶峰还很远。”
事实上,就目前来说,人工智能带来的东西虽然有用,但其实只是冰山一角。从某种意义上来说,它只能实现定制