Taskonomy:解耦任务迁移学习
arXiv 1804.08328v2(replace-cross)提出一种完全计算化的方法,对26种2D、2.5D、3D与语义视觉任务在潜空间中求解一阶与高阶迁移学习依赖关系,生成一张任务迁移学习的计算分类学图谱。作者利用该结构中的非平凡关系降低标注需求:求解10个任务所需的有标注数据点总数较独立训练减少约2/3,性能基本持平。论文同时提供计算与探查该结构的工具,包括供用户设计监督策略的求解器。
发布于 10-22 10:57来源:arXiv cs.RO
转载 · 官方发布原文:arXiv cs.RO ·《Taskonomy: Disentangling Task Transfer Learning》查看原链
视觉任务之间是否存在关系,还是彼此无关? 例如,拥有表面法线能否简化图像深度估计? 直觉对这些问题给出肯定回答,暗示视觉任务之间存在某种结构。 了解这种结构具有显著价值;它是迁移学习背后的核心概念,并为识别任务间的冗余提供了有原则的方法,例如在相关任务之间无缝复用监督信号,或在一个系统中解决多个任务而无需叠加复杂度。
我们提出一种完全计算化的方法来建模视觉任务空间的结构。 该方法通过在潜空间中对二十六种2D、2.5D、3D和语义任务构成的字典寻找(一阶与高阶)迁移学习依赖关系来实现。 产物是一张用于任务迁移学习的计算分类学图谱。 我们研究了这种结构的后果,例如涌现出的非平凡关系,并利用它们来降低对标注数据的需求。
例如,我们展示:在保持性能几乎不变的情况下,求解一组10个任务所需的有标注数据点总数可比独立训练减少约2/3。 我们提供了一套用于计算和探查该分类学结构的工具,包括一个求解器,用户可用其为自己的用例设计高效的监督策略。
