简述

需求背景
多任务学习的需求比较普遍, 比如给定一篇doc(如博客, 微博, 短新闻) 的文本信息和数字信息(如长度, 图片数, 发表日期), 来预测点赞, 转发, 点击率 等若干个回归值.
为什么可以多任务训练
有些隐藏特征可以共用, 这是各output可以公用前几层的理论假设.
除了一石二鸟, 训练一次实现多种用途以外, 多个 output 之间也会相互平衡, 像正则项一样, 比单一任务达到更好的泛化效果.

网络结构

figure multi-input-multi-output-graph

compile in keras

keras.engine.training.Model#compile(self, optimizer, loss, metrics=None, loss_weights=None, sample_weight_mode=None, weighted_metrics=None, target_tensors=None, **kwargs)

loss
可以传一个list, 对应每个output 的损失函数.
loss_weights
可选的, 指定每个output所用损失函数的权重.
The loss value that will be minimized by the model will then be the weighted_sum of all individual losses.

fit in keras

fit(x,y)函数中的y传一个list, 与各output对应即可.

参考

keras official guide doc multi-input-and-multi-output-models

神经网络中的多任务学习相关推荐

Nat. Mach. Intell. | 深度神经网络中的捷径学习
今天给大家介绍来自德国蒂宾根大学的Robert Geirhos和加拿大多伦多大学的Claudio Michaelis等人发表在Nature Machine Intelligence的文章"S ...
深度学习中的多任务学习(一)
任务学习-Multitask Learning概述 Reference https://blog.csdn.net/u010417185/article/details/83065506 1.单任务学 ...
深度学习核心技术精讲100篇（八）-keras 实战系列之深度学习中的多任务学习(Multi-task learning)
多任务学习(Multi-task learning)简介多任务学习(Multi-task learning)是迁移学习(Transfer Learning)的一种,而迁移学习指的是将从源领域的知识( ...
[译]深度神经网络的多任务学习概览(An Overview of Multi-task Learning in Deep Neural Networks)...
译自:http://sebastianruder.com/multi-task/ 1. 前言在机器学习中,我们通常关心优化某一特定指标,不管这个指标是一个标准值,还是企业KPI.为了达到这个目标,我 ...
DNN中多任务学习概述
为什么大公司搜索推荐都用CTR/CVR Cotrain的框架? 一元@炼丹笔记我们平时做项目/竞赛的时候,一般都是单指标优化的问题,很多时候我们模型的评估指标也是单个指标,例如AUC, GAUC, ...
神经网络的多任务学习概览
译自:http://sebastianruder.com/multi-task/ 转载自:https://www.cnblogs.com/shuzirank/p/7141017.html 1. 前言 ...
综述翻译：多任务学习-An Overview of Multi-Task Learning in Deep Neural Networks
An Overview of Multi-Task Learning in Deep Neural Networks 文章目录 An Overview of Multi-Task Learning i ...
深度学习之----多任务学习
介绍在机器学习(ML)中,通常的关注点是对特定度量进行优化,度量有很多种,例如特定基准或商业 KPI 的分数.为了做到这一点,我们通常训练一个模型或模型组合来执行目标任务.然后,我们微调这些模型,直 ...

神经网络中的多任务学习

简述

网络结构

compile in keras

fit in keras

参考

神经网络中的多任务学习相关推荐

最新文章

热门文章