AI教程网 - 未来以来,拥抱AI;新手入门,从AI教程网开始......

TensorFlow被曝存严重bug,搭配Keras可能丢失权重,至今仍未修复

AI前沿 AI君 8℃

 

本文经AI新媒体量子位(公众号ID:QbitAI)授权转载,转载请联系出处。

最近,一位从事NLP工程师Gupta发现了TensorFlow存在的一个严重bug:

每个在自定义层中使用Keras函数式API的用户都要注意了!使用用Keras的Functional API创建的权重,可能会丢失。

这一话题在Reddit机器学习板块上被热议,引起不少TensorFlow用户共鸣。

TensorFlow被曝存严重bug,搭配Keras可能丢失权重,至今仍未修复

具体来说,就是在API中使用自定义层,会导致trainable_variables中的权重无法更新。而且这些权重也不会放入non_trainable_variables中。

也就是说,原本需要训练的权重现在被冻结了。

让这位工程师感到不满的是,他大约一个月前在GitHub中把这个bug报告给谷歌,结果谷歌官方到现在还没有修复

TensorFlow被曝存严重bug,搭配Keras可能丢失权重,至今仍未修复

解决办法

如何检验自己的代码是否会出现类似问题呢?请调用model.trainable_variables来检测自己的模型:

  1. for i, var in enumerate(model.trainable_variables): 
  2.     print(model.trainable_variables[i].name) 

看看你所有的可变权重是否正确,如果权重缺失或者未发生变化,说明你也中招了。

Gupta还自己用Transformer库创建模型的bug在Colab笔记本中复现了,有兴趣的读者可以前去观看。

https://colab.research.google.com/gist/Santosh-Gupta/40c54e5b76e3f522fa78da6a248b6826/missingtrainablevarsinference_var.ipynb

对此问题,Gupta给出的一种解决方法是:改为使用Keras子类创建模型。改用此方法后,所有的权重都将出现在trainable_variables中。

为了绝对确保用函数式API和子类方法创建的模型完全相同,Gupta在每个Colab笔记本底部使用相同的输入对它们进行了推理,模型的输出完全相同。

但是,使用函数式API模型进行训练会将许多权重视为冻结,而且这些权重也没有出现在non_trainable_variables中,因此无法为这些权重解冻。

为了检查谷歌最近是否修复了该漏洞,Gupta还安装了Nightly版的TF 2.3.0-rc1,保持框架处于最新状态,但如今bug依然存在。

网友:还是用PyTorch吧

刚刚,Keras创始人在Twitter上回复,这不是Keras的bug,并建议程序员使用单元测试。

TensorFlow被曝存严重bug,搭配Keras可能丢失权重,至今仍未修复

对于Gupta所说的bug,有网友说,他在TensorFlow和Keras之间传递权重的时候,出现了类似的错误,从此转而使用PyTorch。

另外还有不少网友也反映,谷歌的框架不太完善,管理方式一团糟,是在让用户帮他们测试TensorFlow的bug。

反观PyTorch,说明文档通俗易懂,最近官方还出了免费电子书,难道用PyTorch不香吗?

你现在在使用哪种深度学习框架,你也遇到过类似的严重bug吗?

作者:晓查_量子位
原文链接:https://www.toutiao.com/i6849591996072329731/

转载请注明:www.ainoob.cn » TensorFlow被曝存严重bug,搭配Keras可能丢失权重,至今仍未修复

喜欢 (0)or分享 (0)