对比学习、自监督学习的理解「建议收藏」

对比学习、自监督学习的理解「建议收藏」自监督学习定义:自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息来提高学习表征的质量,通过这种构造监督信息对网络进行训练,从而可以学习到对下游任务具有价值的表征。辅助任务(pretext):可以认为是一种为达到特定训练任务而设计的间接任务。pretext任务的好处是为了简化原任务的求解,在深度学习中就是避免人工标记样本,实现无监督的语义提取。Pretext任务可以进一步理解为:对目标任务有帮助的辅助任务。主要pretexttask包括:图像旋转、图像着色、图像修复。下游任务:图

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

自监督学习定义:
自监督学习主要是利用辅助任务从大规模的无监督数据中挖掘自身的监督信息来提高学习表征的质量,通过这种构造监督信息对网络进行训练,从而可以学习到对下游任务具有价值的表征。

辅助任务(pretext):
可以认为是一种为达到特定训练任务而设计的间接任务。pretext任务的好处是为了简化原任务的求解,在深度学习中就是避免人工标记样本,实现无监督的语义提取。Pretext任务可以进一步理解为:对目标任务有帮助的辅助任务。主要pretext task包括:图像旋转、图像着色、图像修复。

下游任务:图像分类、目标检测等等等

对比学习:
自监督学习算法分为两种:对比方法和生成方法。对比学习属于自监督学习,所以对比学习是没有标签的。对比学习是通过构造正负样例来学习特征。如何构造正负样例对对比学习来说很重要。对于一个输入样本x来说,存在与之相似的样本x+以及与之不相似的样本x-,对比学习要做的就是学习一个编码器f,这个编码器f能够拉近x与其正样本间的距离,推远x与其负样本之间的距离。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/193903.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 邻接矩阵与关联矩阵「建议收藏」

    邻接矩阵与关联矩阵「建议收藏」【邻接矩阵】定义:设无向图G=(V,E)G=(V,E)G=(V,E),其中顶点集V=v1,v2,…,vnV=v1,v2,…,vnV={v_1,v_2,…,v_n},边集E=e1,e2,…,eεE=e1,e2,…,eεE={e_1,e_2,…,e_\varepsilon}。用aijaija_{ij}表示顶点viviv_i与顶点vjvjv_j之间的边数,可能取值为0,1…

    2022年10月29日
  • eclipse安装yuicompressor插件

    eclipse安装yuicompressor插件eclipse安装yuicompressor插件

  • Linux安装MySQL8.0.11

    Linux安装MySQL8.0.111.去官网下载安装包下载链接:点击打开链接https://dev.mysql.com/downloads/mysql/如果你的系统是32位选择第一个,64位选择第二个也可以用wget下载wgethttps://dev.mysql.com/get/Downloads/MySQL-8.0/mysql-8.0.11-linux-glibc2.12-i686.tar.gz…

  • 帝国cms“建立目录不成功,请检查目录权限”的解决方法

    帝国cms“建立目录不成功,请检查目录权限”的解决方法

    2021年11月17日
  • Werkzeug_wilczek

    Werkzeug_wilczekWerkzeug简介什么是Werkzeug官网的描述是WerkzeugisaWSGIutilitylibraryforPython.It’swidelyusedandBSDlicensed.– Zerkzeug什么又是WSGI呢?WSGI的全称是WebServerGatewayInterface,它是用来定义web服务器接口的一

  • FTP服务器搭建详细步骤

    FTP服务器搭建详细步骤前言:FTP服务器(FileTransferProtocolServer)是在互联网上提供文件存储和访问服务的计算机,它们依照FTP协议提供服务。FTP是FileTransferProtocol(文件传输协议)。顾名思义,就是专门用来传输文件的协议。简单地说,支持FTP协议的服务器就是FTP服务器。(FTP服务器)IIS是一种Web(网页)服务组件,其中包括Web服务器、FTP服务…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号