LSTM based Conversation Models

本文介绍一种会话语言模型,结合了局部、全局的上下文,以及参与者的角色。

问题提出者 倾向于用“任何人”、“如何”来提出问题。

问题回答者 倾向于使用指令性词汇(you, you’re)、模糊限制语(may, might)和与解决问题相关的词汇(sudo, check)。

Luan, Yi , Y. Ji , and M. Ostendorf . "LSTM based Conversation Models." (2016).

Yi Luan1, Yangfeng Ji2, Mari Ostendorf1

华盛顿大学,佐治亚理工学院

笔记

Most similar to our work is the Semantic Controlled LSTM (SC-LSTM) proposed by Wan et al. [11], where a Dialogact component is introduced into the LSTM cell to guide the generated content.

In this work, we utilize the role information to bias response generation without modifying LSTM cells.

POSTER:对话中的用户,通过提出一个技术问题来初始化对话;

RESPONDER:试图提供技术支持的其他用户。

没有过滤掉表情符号,而是把它们当作单个标记。

训练了一个LDA模型,超参数是:单词向量K、隐层维度H、LDA模型的主题的个数M。

使用网格搜索,使用困惑度在开发集优化模型,使用随机梯度下降初始化学习率。

评估的方法是Recall@K,并预留了\(n\)-gram,为以后的工作打基础。

Experiments are conducted with Ubuntu chat logs, using language model perplexity and response ranking, as well as qualitative analysis.

最新文章

  1. replace实现正则过滤替换非法字符
  2. MULTITHREADING AND CHIP MULTIPROCESSORS
  3. QT-4.8.6 编译配置过程
  4. POJ 2023 Choose Your Own Adventure(树形,dfs,简单题)
  5. POJ2004 Mix and build Trie树? dp?
  6. angularJs--<ui-select>
  7. CSS content内容生成技术以及应用(转)
  8. 湖南省第六届大学生程序设计大赛原题 F Biggest Number (UVA1182)
  9. Quartus14.1中Qsys创建custom component时编译出错原因
  10. 比较实用的webpack配置代码
  11. input输入框控制字数
  12. TabBarController和其他view无法建立Relationship segue的原因
  13. javascript中使用"<"符号,比较大小的是字符串或对象时正确的处理方法
  14. db mysql / mysql cluster 5.7.19 / performance
  15. 2017-11-04 Sa Oct 消参
  16. koa : Express出品的下一代基于Node.js的web框架
  17. 雷林鹏分享:XML 教程
  18. mysql再探
  19. 【Beta阶段】第四次Scrum Meeting!
  20. error MSB6006: "CL.exe" exited with code -1073741819.

热门文章

  1. 每天进步一点点------verilog语言实现的分频
  2. 前端分页神器,jquery grid的使用(前后端联调),让分页变得更简单。
  3. C++实现索引堆及完整测试代码
  4. 445. 两数相加 II
  5. [Python]python中assert和isinstance的用法
  6. SpringCloud Netflix Eureka
  7. IntelliJ IDEA 2017.3尚硅谷-----主题
  8. SQL 杂项
  9. 多种方式实现平均分栏布局(有间距)div平分行宽
  10. yii2 components