|
|
|
题名
|
作者
|
年代
|
出处
|
被引量
|
| 1 | 自然语言处理中的文本表示研究显示文摘自然语言处理是人工智能的核心技术,文本表示是自然语言处理的基础性和必要性工作,影响甚至决定着自然语言处理系统的质量和性能.探讨了文本表示的基本原理、自然语言的形式化、语言模型以及文本表示的内涵和外延.宏观上分析了文本表示的技术分类,对主流技术和方法,包括基于向量空间、基于主题模型、基于图、基于神经网络、基于表示学习的文本表示,进行了分析、归纳和总结,对基于事件、基于语义和基于知识的文本表示也进行了介绍.对文本表示技术的发展趋势和方向进行了预测和进一步讨论.以神经网络为基础的深度学习以及表示学习在文本表示中将发挥重要作用,预训练加调优的策略将逐渐成为主流,文本表示需要具体问题具体分析,技术和应用融合是推动力. | 赵京胜 宋梦雪 高祥 朱巧明 | 2022 | 软件学报2022,33,1: | 33 |
| 2 | 基于双向长短期记忆网络和自注意力机制的食品安全裁判文书分类方法显示文摘目前食品安全领域裁判文书数量持续增长,而其类别标签的缺失导致检索困难。针对将裁判文书自动化分类的问题,提出一种结合self-attention机制和BLSTM(bi-long short-term memory)网络的分类方法,该方法使用自训练注意力机制,对向量化的文本进行加权表示,从而对裁判文书中的重要特征重点关注。同时,由两个方向相反的LSTM网络组成的BLSTM网络,能够更好地学习上下文信息,提高网络性能。通过实验,准确率达到了95. 23%,相较于传统的机器学习方法,所提方法能够更好地完成食品安全领域裁判文书分类任务。 | 姜同强 万忠赫 张青川 | 2019 | 科学技术与工程2019,19,29: | 11 |
| 3 | 基于深度残差长短记忆网络交通流量预测算法显示文摘针对多步交通流量预测任务中时间空间特征提取效果不佳和预测未来时间交通流量精度低的问题,提出一种基于长短时记忆(LSTM)网络、卷积残差网络和注意力机制的融合模型。首先,利用一种基于编解码器的架构,通过在编解码器中加入LSTM网络来挖掘不同尺度的时间域特征;其次,构建基于注意力机制挤压激励(SE)模块的卷积残差网络嵌入到LSTM网络结构中,从而挖掘交通流量数据中的空间域特征;最后,将编码器中获得的隐状态下的信息输入到解码器中,实现高精度多步交通流量的预测。基于真实交通数据进行实验测试和分析,实验结果表明,相较于原始的基于图卷积的模型,所提模型在北京和纽约两个交通流量公开数据集上的均方根误差(RMSE)分别获得了1.622和0.08的下降。所提模型能够高效且精确地对交通流量作出预测。 | 刘世泽 秦艳君 王晨星 苏琳 柯其学 罗海勇 孙艺 王宝会 | 2021 | 计算机应用2021,41,6: | 7 |
| 4 | 基于位置注意力机制的字词双维度卷积神经网络违法违规行为语义分类模型显示文摘针对核辐射安全监管部门检查建议所含违法违规行为自动识别并分类难的问题,建立语义分类自动研判模型,辅助有关部门丰富智能化管理体系,依靠数据进行科学决策,实现监管效率及质量的有效提高。将词和字符两个不同嵌入级别的特征向量输入到双路卷积神经网络中,并引入语义位置注意力机制,建立基于字词双维度语义分析的违法违规研判模型。该方法不仅能够有效防止信息丢失,还能提取出更丰富的文本特征,强化领域关键词汇对分类准确率的帮助。实验结果表明本文建立的模型优于传统语义分类模型,能够有效提高分类准确度。 | 徐清越 左敏 张青川 蔡圆媛 | 2020 | 科学技术与工程2020,20,25: | 2 |
| 5 | 融合pointwise及深度学习方法的篇章排序显示文摘智能问答是让信息获取变得更加智能和便捷的重要途径,其中面向智能问答的篇章排序,对于准确把握用户查询意图,提升用户体验及答案反馈精度都有着十分重要意义。使用深度学习技术来捕获问题及篇章的语义信息,并以此构建到标签的映射模型,然后用训练好的模型来预测新的问题与篇章间的相关度,最后利用预测得到的篇章和问题的相关度指标来对同一问题对应的多个答案篇章进行排序。实验表明该方法在DCG@3指标上可以达到3.979,DCG@5达到5.396。 | 庞博 刘远超 | 2018 | 山东大学学报(理学版)2018,53,3: | 2 |
| 6 | 一种基于对数位置表示和自注意力的机器翻译新模型显示文摘在机器翻译任务中,自注意力机制由于高度可并行化的计算能力而减少了模型的训练时间,并且可以有效地捕捉到上下文中所有单词之间的语义相关度而受到了广泛的关注。然而,不同于循环神经网络,自注意力机制的高效源于忽略上下文单词之间的位置结构信息。为了使模型能够利用单词之间的位置信息,基于自注意力机制的机器翻译模型Transformer使用正余弦位置编码方式表示单词的绝对位置信息,然而,这种方法虽然能够反应出相对距离,但却缺乏方向性。文中将对数位置表示方法与自注意力机制相结合,提出一种机器翻译新模型。该模型不仅继承了自注意力机制的高效性,还可以保留单词之间的距离信息与方向性信息。研究表明,与传统的自注意力机制模型以及其它模型相比,文中所提新模型能够显著地提高机器翻译的准确性。 | 纪明轩 宋玉蓉 | 2020 | 计算机科学2020,47,S02: | 1 |
| 7 | 基于改进DeepAR的变电站防汛风险概率预测显示文摘变电站防汛风险概率的准确预测对提高电网防汛能力、健全汛情预警系统有着重要意义。变电站防汛影响因素不仅有动态气象数据,还有变电站集水井容积、水泵排水量、防汛物资储备及地势、水文特征等静态数据,动静结合给防汛风险预测带来困难。作者提出一种多因素融合的变电站防汛风险概率预测方法。首先对变电站多维防汛数据进行预处理及特征优选;然后利用优选的自回归循环神经网络(Autoregressive recurrent neural network,DeepAR),构建防汛风险概率预测模型,并通过注意力机制加强模型对多维防汛动态气象数据时序特征的挖掘能力,同时采用动态L2正则化策略加强对多维防汛数据的适应性,提高模型泛化能力;最后在实际站点数据上的实验表明,相较于主流机器学习和深度学习预测算法,文中算法预测结果更准确,为变电站防汛风险预警奠定基础。 | 毛诗淼 石英 齐庆周 | 2023 | 武汉理工大学学报2023,45,2: | 0 |
| 8 | 基于读者意图的图书馆智能问答方法显示文摘传统的问答方法已经不能满足读者不断变化的需求。基于此,文章提出一种基于读者意图的图书馆智能问答深度学习方法。该方法首先对读者的意图进行识别,发现读者所提出问题的背景和焦点,其次对读者的问题进行相似度计算,从FAQ数据库中找出最相关的问题,最后利用融合读者意图的CPT模型进行答案句生成。在已有的数据集上进行实验,结果表明在图书馆问答方法中加入读者的意图,对答案生成具有一定的促进作用。 | 段苏凌 | 2023 | 图书馆研究与工作2023,,5: | 0 |
| 9 | 基于聚类和双向门控循环单元-条件随机场的多类型流式文档结构识别显示文摘流式文档结构识别对于文档自动排版和优化、信息检索等领域有着重要作用。以往针对流式文档结构识别主要集中于学术论文领域,对于其他诸如公文、报告等多类型的文档结构识别研究较少。针对此现状,使用聚类的方法对文档进行分类,在此基础上提出了针对不同文档分类的、基于双向门控循环单元-条件随机场(bidirectional gated recurrent unit-conditional random field,BIGRU-CRF)的文档结构识别方法,以此来解决多类型文档结构识别的问题。实验结果表明,该方法不仅能够提高学术论文结构识别的效果,对其他类型的文档结构也能够进行较好地识别。 | 王娟 李宁 姜雨彤 田英爱 | 2021 | 科学技术与工程2021,21,17: | 0 |
| 10 | 融合多种神经网络与多特征的答案排序方法显示文摘针对答案排序问题,提出并构建融合多种神经网络与多特征的答案排序模型。将问题和候选答案的词向量送入使用Leaky Relu激活函数的卷积神经网络进行学习,得到的学习结果与词汇特征、主题特征等相互拼接,输入到双向门控循环单元,其输出结果经由多层感知器进行处理后,通过softmax分类器得出最终答案排序的结果。实验结果表明,该模型在WikiQACorpus数据集上取得了较好实验结果,准确率略高于已有基线模型,达到74.43%。 | 王龙 段利国 李爱萍 | 2021 | 计算机工程与设计2021,42,3: | 0 |