admin 管理员组

文章数量: 1184232

论文笔记:Bootstrap Your Own Latent A New Approach to Self-Supervised Learning

abstract:

介绍了BYOL网络(原理):依赖两个网络,一个online和target网络,互相之间相互影响相互学习。从图像增强地视角下看online和target网络,在同一张图片,我们训练了online网络去预测target网络的representation。与此同时,At the same time, we update the target network with a slow-moving average of the online network.(没有看懂这里的 a slow-moving average)。
对比于其他网络: 我们与一些顶级的自监督网络相比我们不需要负样本,在imagenet上我们取得了很好的成绩。

Introduction

背景1:好的特征提取是计算机视觉的主要任务,而且好的特征提取对下游任务比较重要。
背景2:已经提出了许多不同的方法来进行特征提取,依赖着前置任务。
同时我顺便介绍目前的自监督学习方法
例如:
原文链接:原文

  1. Reconstruction方法

本文标签: 笔记 论文 bootstrap Latent Supervised