草庐IT

TRANSFER

全部标签

Deep Transfer Learning综述阅读笔记

这是一篇linkedin发表的深度迁移学习综述,里面讲了一些对于search/recommendsystem中的迁移学习应用.有不少指导性的方法,看完后摘录出来对于ranking方向的TL,主要有两种transfer方式:Modeltransfer对于参数量非常大的预训练模型,Fine-tuning训练代价比较大,这里基本没介绍,不太可行.更适合应用的方式是multi-tasktraining.(尤其是在多个产品线通过user来联系的场景)Crossdomain:适用场景为冷启问题(新用户/新场景),提升accuracy(减少数据稀疏性,学到更多的健壮特征),增强用户模型,主要有下面这几种实现

Deep Transfer Learning综述阅读笔记

这是一篇linkedin发表的深度迁移学习综述,里面讲了一些对于search/recommendsystem中的迁移学习应用.有不少指导性的方法,看完后摘录出来对于ranking方向的TL,主要有两种transfer方式:Modeltransfer对于参数量非常大的预训练模型,Fine-tuning训练代价比较大,这里基本没介绍,不太可行.更适合应用的方式是multi-tasktraining.(尤其是在多个产品线通过user来联系的场景)Crossdomain:适用场景为冷启问题(新用户/新场景),提升accuracy(减少数据稀疏性,学到更多的健壮特征),增强用户模型,主要有下面这几种实现

Deep Transfer Learning综述阅读笔记

这是一篇linkedin发表的深度迁移学习综述,里面讲了一些对于search/recommendsystem中的迁移学习应用.有不少指导性的方法,看完后摘录出来对于ranking方向的TL,主要有两种transfer方式:Modeltransfer对于参数量非常大的预训练模型,Fine-tuning训练代价比较大,这里基本没介绍,不太可行.更适合应用的方式是multi-tasktraining.(尤其是在多个产品线通过user来联系的场景)Crossdomain:适用场景为冷启问题(新用户/新场景),提升accuracy(减少数据稀疏性,学到更多的健壮特征),增强用户模型,主要有下面这几种实现

Deep Transfer Learning综述阅读笔记

这是一篇linkedin发表的深度迁移学习综述,里面讲了一些对于search/recommendsystem中的迁移学习应用.有不少指导性的方法,看完后摘录出来对于ranking方向的TL,主要有两种transfer方式:Modeltransfer对于参数量非常大的预训练模型,Fine-tuning训练代价比较大,这里基本没介绍,不太可行.更适合应用的方式是multi-tasktraining.(尤其是在多个产品线通过user来联系的场景)Crossdomain:适用场景为冷启问题(新用户/新场景),提升accuracy(减少数据稀疏性,学到更多的健壮特征),增强用户模型,主要有下面这几种实现