A task in a suit and a tie:paraphrase generation with semantic augmentation解读
2024-08-31 00:21:49
1.该算法核心:在seq2seq模型的编码器中增加语义的frame 和 roles
2.上图为算法整个流程:
1).首先输入一句话s,SLING会使用frame和role label注释输入语句s,然后将这些label转换成token,因此会有三个对齐向量:tokens,frames,roles;(使用SLING目的:预测结构语义表示,生成表示输入文本含义的框架图表示frame graph representing)
2).每个向量会有一个独立的channel,每个channel中有一个独立的Transformer编码器,每个编码器会输出一个向量,一共有三个输出向量(Transformer:使用位置信息进行并行编码,避免token-by-token编码;编码器的构成要素是多头注意力层,之后是一个前馈层,其中都包含剩余的链路和层规范)
3).步骤2生成的三个向量,会经过一个线性层,该层接受三个向量,输出一个向量,是输入的线性组合(我理解的)
4).将步骤3中输出的一个向量,放入解码器中,最终会输出不改变s原意的一句话。
最新文章
- linux下打开、关闭tomcat,实时查看tomcat运行日志
- centos 6.5 中部署开源的Lepus(天兔)监控
- python sqlite中通过字段名获取查询结果
- <;<;人性的弱点>;>;读书笔记
- 深入了解javascript事件流
- 聊聊GISer的职业发展
- MySQL 命令行导出、导入Select 查询结果
- [系统] 安装Ubuntu 双系统 - 失败
- javascript里面技巧整理
- C#条件语句、循环语句
- java的math常用方法
- 关于文件的复制(用InputStream和OutputStream)
- Android项目开发全程(四)-- 将网络返回的json字符串轻松转换成listview列表
- (三)Boost库之字符串处理
- 【APP UI 设计模式】(一)APP UI 设计原则和流程
- 201521123097《Java程序设计》第九周学习总结
- HDU 5909 Tree Cutting
- 一位6年老Android面经总结
- Python 游戏之旅(Pygame)
- VS2017 对com组件调用返回错误hresult e_fail
热门文章
- 常用sql 2018.08.31
- PIE-SDK For C++栅格数据的金字塔创建
- python2.6升级python2.7后,yum不能用了,如何解决
- anki
- Response与ServletContext对象
- Docker最全教程——从理论到实战(九)
- 题解【AcWing177】噩梦
- office2019与Visio2016不能共存解决办法
- 后台异常 - sql语句查询出的结果与dao层返回的结果不一致
- Redis 数据结构的底层实现 (一) RealObject,embstr,sds,ziplist,quicklist