BERT

电力大文本中存在大量专业词汇缩写和别名等不规则表达，现有分词工具无法有效识别电气工程领域专业词汇，这对非结构化文本的分析和利用造成很大影响。首先，根据电气工程领域非结构化文本特点，提出一种电气工程领域词汇索引规则，基于该索引规则构建的索引集进行分词能够有效改善分词效果，为电力文本特征提取提供基础。其次，利用有效的长文本分割算法保留原始文本语义信息，将基于BERT模型提取的文本特征信息与Word2Vec提取的电力词汇特征信息进行联合嵌入，从而提取到准确的电力非结构化大文本特征。最后，通过实验证明了所提出的电力非结构化大文本特征提取方法的有效性。

SDH光传输系统是支撑大电网安全运行的关键电力通信设施,当前对于实时严重告警的排查主要依赖通信调度人员的经验开展关联分析,该模式存在排查速度慢、业务协同差等不足。为了解决以上问题,提出了一种面向SDH光传输系统告警的领域知识图谱构建方法。针对告警文本中实体嵌套和边界难以确定的问题,构建BERT+Bi-LSTM+CNN模型进行命名实体识别。采用Multi-Attention+TextRNN模型进行关系抽取,并基于GCN+Self-Attention进行知识图谱融合。以某线路的通信设备告警文本为实验对象,采用所提出的方法进行知识抽取和融合,实体识别准确率达到91.42%,知识融合的hits@1能达到38.1%,验证了针对SDH光传输系统告警场景的领域知识图谱构建方法的有效性。