0
点赞
收藏
分享

微信扫一扫

seq2seq模型学习总结【用作query rewrite问题生成模型】

一、概述

鱼与熊掌兼得:融合检索和生成的SimBERT模型:https://kexue.fm/archives/7427
SimBERTv2来了!融合检索和生成的RoFormer-Sim模型:https://kexue.fm/archives/8454
在这里插入图片描述

代码
v1:https://github.com/ZhuiyiTechnology/simbert/blob/master/simbert.py
v2:https://github.com/ZhuiyiTechnology/roformer-sim

二、代码说明
2.1 利用ulilm模型做seq2seq
从语言模型到Seq2Seq:Transformer如戏,全靠Mask:https://kexue.fm/archives/6933
在这里插入图片描述

2.2 seq2seq解读
https://kexue.fm/archives/5861
输入:X,Y[:-1]
输出:Y[1:]
在这里插入图片描述

2.3 beamsearch
在这里插入图片描述

举报

相关推荐

0 条评论