AI教程网 - 未来以来,拥抱AI;新手入门,从AI教程网开始......

用Keras+LSTM+CRF的实践命名实体识别NER

AI前沿 AI君 8℃

文本分词、词性标注和命名实体识别都是自然语言处理领域里面很基础的任务,他们的精度决定了下游任务的精度,其实在这之前我并没有真正意义上接触过命名实体识别这项工作,虽然说读研期间断断续续也参与了这样的项目,但是毕业之后始终觉得一知半解的感觉,最近想重新捡起来,以实践为学习的主要手段来比较系统地对命名实体识别这类任务进行理解、学习和实践应用。

当今的各个应用里面几乎不会说哪个任务会没有深度学习的影子,很多子任务的发展历程都是惊人的相似,最初大部分的研究和应用都是集中在机器学习领域里面,之后随着深度学习模型的发展,也被广泛应用起来了,命名实体识别这样的序列标注任务自然也是不例外的,早就有了基于LSTM+CRF的深度学习实体识别的相关研究了,只不过与我之前的方向不一致,所以一直没有化太多的时间去关注过它,最近正好在学习NER,在之前的相关文章中已经基于机器学习的方法实践了简单的命名实体识别了,这里以深度学习模型为基础来实现NER。

命名实体识别属于序列标注任务,其实更像是分类任务,NER是在一段文本中,将预先定义好的实体类型识别出来。

NER是一种序列标注问题,因此他们的数据标注方式也遵照序列标注问题的方式,主要是BIO和BIOES两种。这里直接介绍BIOES,明白了BIOES,BIO也就掌握了。

先列出来BIOES分别代表什么意思:

  1. B,即Begin,表示开始  
  2. I,即Intermediate,表示中间  
  3. E,即End,表示结尾  
  4. S,即Single,表示单个字符  
  5. O,即Other,表示其他,用于标记无关字符 

比如对于下面的一句话:

  1. 姚明去哈尔滨工业大学体育馆打球了 

标注结果为:

  1. 姚明 去 哈尔滨工业大学 体育馆 打球 了  
  2. B-PER E-PER O B-ORG I-ORG I-ORG I-ORG I-ORG I-ORG E-ORG B-LOC I-LOC E-LOC O O O 

简单的温习就到这里了,接下来进入到本文的实践部分,首先是数据集部分,数据集来源于网络获取,简单看下样例数据,如下所示:

train_data部分样例数据如下所示:

  1. 当 O  
  2. 希 O  
  3. 望 O  
  4. 工 O  
  5. 程 O  
  6. 救 O  
  7. 助 O  
  8. 的 O  
  9. 百 O  
  10. 万 O  
  11. 儿 O 
  12. 童 O  
  13. 成 O  
  14. 长 O  
  15. 起 O  
  16. 来 O  
  17. , O  
  18. 科 O  
  19. 教 O  
  20. 兴 O  
  21. 国 O  
  22. 蔚 O  
  23. 然 O  
  24. 成 O  
  25. 风 O  
  26. 时 O  
  27. , O  
  28. 今 O  
  29. 天 O  
  30. 有 O  
  31. 收 O  
  32. 藏 O  
  33. 价 O  
  34. 值 O  
  35. 的 O  
  36. 书 O  
  37. 你 O  
  38. 没 O  
  39. 买 O  
  40. , O  
  41. 明 O  
  42. 日 O  
  43. 就 O  
  44. 叫 O  
  45. 你 O  
  46. 悔 O  
  47. 不 O  
  48. 当 O  
  49. 初 O  
  50. !O 

test_data部分样例数据如下所示:

  1. 高 O  
  2. 举 O  
  3. 爱 O  
  4. 国 O  
  5. 主 O  
  6. 义 O 
  7. 和 O  
  8. 社 O  
  9. 会 O  
  10. 主 O  
  11. 义 O  
  12. 两 O  
  13. 面 O  
  14. 旗 O  
  15. 帜 O  
  16. , O  
  17. 团 O  
  18. 结 O  
  19. 全 O  
  20. 体 O  
  21. 成 O  
  22. 员 O  
  23. 以 O  
  24. 及 O  
  25. 所 O  
  26. 联 O  
  27. 系 O  
  28. 的 O  
  29. 归 O  
  30. 侨 O 
  31. 、 O  
  32. 侨 O  
  33. 眷 O  
  34. , O  
  35. 发 O  
  36. 扬 O  
  37. 爱 O  
  38. 国 O  
  39. 革 O  
  40. 命 O  
  41. 的 O  
  42. 光 O  
  43. 荣 O  
  44. 传 O  
  45. 统 O  
  46. , O  
  47. 为 O  
  48. 统 O  
  49. 一 O  
  50. 祖 O  
  51. 国 O  
  52. 、 O  
  53. 振 O  
  54. 兴 O  
  55. 中 B-LOC  
  56. 华 I-LOC  
  57. 而 O  
  58. 努 O  
  59. 力 O  
  60. 奋 O  
  61. 斗 O  
  62. ;O 

简单了解训练集数据和测试集数据结构后就可以进行后面的数据处理,主要的目的就是生成特征数据,核心代码实现如下所示:

  1. with open('test_data.txt',encoding='utf-8') as f:  
  2.     test_data_list=[one.strip().split('\t') for one in f.readlines() if one.strip()]  
  3. with open('train_data.txt',encoding='utf-8') as f:  
  4.     train_data_list=[one.strip().split('\t') for one in f.readlines() if one.strip()]  
  5. char_list=[one[0] for one in test_data_list]+[one[0] for one in train_data_list]  
  6. label_list=[one[-1] for one in test_data_list]+[one[-1] for one in train_data_list]  
  7. print('char_list_length: ', len(char_list))  
  8. print('label_list_length: ', len(label_list))  
  9. print('char_num: ', len(list(set(char_list))))  
  10. print('label_num: ', len(list(set(label_list)))) 
  11. char_count,label_count={},{}  
  12. #字符频度统计  
  13. for one in char_list:  
  14.     if one in char_count:  
  15.         char_count[one]+=1  
  16.     else:  
  17.         char_count[one]=1  
  18. for one in label_list:  
  19.     if one in label_count:  
  20.         label_count[one]+=1  
  21.     else:  
  22.         label_count[one]=1    
  23. #按频度降序排序  
  24. sortedsorted_char=sorted(char_count.items(),key=lambda e:e[1],reverse=True 
  25. sortedsorted_label=sorted(label_count.items(),key=lambda e:e[1],reverse=True)   
  26. #字符-id映射关系构建  
  27. char_map_dict={}  
  28. label_map_dict={}  
  29. for i in range(len(sorted_char)):  
  30.     char_map_dict[sorted_char[i][0]]=i  
  31.     char_map_dict[str(i)]=sorted_char[i][0]  
  32. for i in range(len(sorted_label)):  
  33.     label_map_dict[sorted_label[i][0]]=i  
  34.     label_map_dict[str(i)]=sorted_label[i][0]  
  35. #结果存储  
  36. with open('charMap.json','w') as f:  
  37.     f.write(json.dumps(char_map_dict))  
  38. with open('labelMap.json','w') as f:  
  39.     f.write(json.dumps(label_map_dict)) 

代码实现的很清晰,关键的部分也都有对应的注释内容,这里就不多解释了,核心的思想就是将字符或者是标签类别数据映射为对应的index数据,这里我没有对频度设置过滤阈值,有的实现里面会过滤掉只出现了1次的数据,这个可以根据自己的需要进行对应的修改。

charMap数据样例如下所示:

labelMap数据样例如下所示:

在生成上述映射数据之后,就可以对原始的文本数据进行转化计算,进而生成我们所需要的特征数据了,核心代码实现如下所示:

  1. X_train,y_train,X_test,y_test=[],[],[],[]  
  2. #训练数据集  
  3. for i in range(len(trainData)):  
  4.     one_sample=[one.strip().split('\t') for one in trainData[i]]  
  5.     char_list=[O[0] for O in one_sample]  
  6.     label_list=[O[1] for O in one_sample]  
  7.     char_vec=[char_map_dict[char_list[v]] for v in range(len(char_list))]  
  8.     label_vec=[label_map_dict[label_list[l]] for l in range(len(label_list))]  
  9.     X_train.append(char_vec)  
  10.     y_train.append(label_vec)  
  11. #测试数据集  
  12. for i in range(len(testData)):  
  13.     one_sample=[one.strip().split('\t') for one in testData[i]] 
  14.     char_list=[O[0] for O in one_sample]  
  15.     label_list=[O[1] for O in one_sample]  
  16.     char_vec=[char_map_dict[char_list[v]] for v in range(len(char_list))]  
  17.     label_vec=[label_map_dict[label_list[l]] for l in range(len(label_list))]  
  18.     X_test.append(char_vec)  
  19.     y_test.append(label_vec)  
  20. feature={}  
  21. feature['X_train'],feature['y_train']=X_train,y_train  
  22. feature['X_test'],feature['y_test']=X_test,y_test  
  23. #结果存储  
  24. with open('feature.json','w') as f:  
  25.     f.write(json.dumps(feature)) 

到这里我们已经得到了我们所需要的特征数据,且已经划分好了测试集数据和训练集数据。

接下来就可以构建模型了,这里为了简化实现,我采用的是Keras框架,相比于原生态的Tensorflow框架来说,上手门槛更低,核心代码实现如下所示:

  1. #加载数据集  
  2. with open('feature.json') as f:  
  3.     F=json.load(f)  
  4. X_train,X_test,y_train,y_test=F['X_train'],F['X_test'],F['y_train'],F['y_test']  
  5. #数据对齐操作 
  6.  X_train = pad_sequences(X_train, maxlen=max_lenvalue=0 
  7. y_train = pad_sequences(y_train, maxlen=max_lenvalue=-1)  
  8. y_train = np.expand_dims(y_train, 2)  
  9. X_test = pad_sequences(X_test, maxlen=max_lenvalue=0 
  10. y_test = pad_sequences(y_test, maxlen=max_lenvalue=-1)  
  11. y_test = np.expand_dims(y_test, 2)  
  12. #模型初始化、训练  
  13. if not os.path.exists(saveDir):  
  14.     os.makedirs(saveDir)  
  15. #模型初始化  
  16. model = Sequential() 
  17. model.add(Embedding(voc_size, 256, mask_zero=True))  
  18. model.add(Bidirectional(LSTM(128, return_sequences=True)))  
  19. model.add(Dropout(rate=0.5))  
  20. model.add(Dense(tag_size))  
  21. crf = CRF(tag_size, sparse_target=True 
  22. model.add(crf)  
  23. model.summary() 
  24. model.compile('adam', loss=crf.loss_function, metrics=[crf.accuracy])  
  25. #训练拟合  
  26. history=model.fit(X_train,y_train,batch_size=100,epochs=500,validation_data=[X_test,y_test])  
  27. model.save(saveDir+'model.h5')  
  28. #模型结构可视化  
  29. try: 
  30.      plot_model(model,to_file=saveDir+"model_structure.png",show_shapes=True 
  31. except Exception as e:  
  32.     print('Exception: ', e) 
  33.  #结果可视化  
  34. plt.clf()  
  35. plt.plot(history.history['acc'])  
  36. plt.plot(history.history['val_acc'])  
  37. plt.title('model accuracy')  
  38. plt.ylabel('accuracy')  
  39. plt.xlabel('epochs')  
  40. plt.legend(['train','test'], loc='upper left' 
  41. plt.savefig(saveDir+'train_validation_acc.png')  
  42. plt.clf()  
  43. plt.plot(history.history['loss'])  
  44. plt.plot(history.history['val_loss'])  
  45. plt.title('model loss')  
  46. plt.ylabel('loss')  
  47. plt.xlabel('epochs')  
  48. plt.legend(['train', 'test'], loc='upper left' 
  49. plt.savefig(saveDir+'train_validation_loss.png')  
  50. scores=model.evaluate(X_test,y_test,verbose=0 
  51. print("Accuracy: %.2f%%" % (scores[1]*100))  
  52. modelmodel_json=model.to_json()  
  53. with open(saveDir+'structure.json','w') as f:  
  54.     f.write(model_json)  
  55. model.save_weights(saveDir+'weight.h5')  
  56. print('===Finish====') 

训练完成后,结构目录文件结构如下所示:

模型结构图如下所示:

训练过程中准确度曲线如下所示:

训练过程中损失值曲线如下所示:

由于训练计算资源占用比较大,且时间比较长,我这里只是简单地设置了20次的迭代计算,这个可以根据自己的实际情况设置更高的或者是更低的迭代次数来实现不同的需求。

简单的预测实例如下所示:

到这里,本文的实践就结束了,后面有时间继续深入研究,希望对您有所帮助,祝您工作顺利,学有所成!

作者:佚名_Python中文社区
原文链接:https://mp.weixin.qq.com/s/wCX20n8Al6E8Ny8NFUAw9w

转载请注明:www.ainoob.cn » 用Keras+LSTM+CRF的实践命名实体识别NER

喜欢 (0)or分享 (0)