Singular Value Thresholding (SVT) 奇异值阈值

Singular Value Thresholding (SVT) 奇异值阈值这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

大家好,又见面了,我是你们的朋友全栈君。

[本文链接:http://blog.csdn.net/shanglianlm/article/details/46009387,转载请注明出处]

为了求解问题

这里写图片描述

因为它是非凸的,我们求解一个它的近似算法

这里写图片描述

对于一个大的 τ 值,它可以用下列等式接近

这里写图片描述

其中第一项为核范式(奇异值的和),第二项为Frobenius范式。

  1. Singular Value Thresholding (SVT) 奇异值阈值

    * 奇异值收缩(singular value shrinkage)*

    首先我们考虑一个秩为 r 的矩阵

    XRn1xn2
    的奇异值分解如下:
    SVD
    其中 U

    V
    分别为 n1×r n2×r 的正交矩阵,奇异值为 ρi 非负的。

    对于每个 τ0 ,我们有软阈值操作 Dτ :
    SVS
    其中 t+ 表示的 t 非负部分,即

    t+=max(0,t)
    。换句话说,这个软阈值操作仅仅应用于矩阵 X <script type=”math/tex” id=”MathJax-Element-56″>X</script> 的奇异值上,使它们趋于零。这也是为什么我们将其成为奇异值收缩(singular value shrinkage)的原因。

    * Singular Value Thresholding (SVT) 奇异值阈值*

    又因为奇异值收缩(singular value shrinkage)是核范式的近似操作(具体证明见[3]),因此上式可以转化为:
    这里写图片描述

    它的迭代方式为:
    这里写图片描述

    这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。

  2. 用拉格朗日乘子法解释

    原问题为:

    这里写图片描述

    其拉格朗日函数为:

    这里写图片描述

    强对偶成立,且拉格朗日函数的鞍点是原函数与对偶问题的最优解,即

    这里写图片描述

    其迭代解为:

    这里写图片描述

参考或延伸材料
[1] 斯坦福SVT软件
[2] Generalized Singular Value Thresholding
[3] A singular value thresholding algorithm for matrix completion
[4] Exact Matrix Completion via Convex Optimization

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/137392.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)
blank

相关推荐

  • jQuery和Vue的区别[通俗易懂]

    jQuery和Vue的区别[通俗易懂]1.jQuery首先要获取到dom对象,然后对dom对象进行进行值的修改等操作2.Vue是首先把值和js对象进行绑定,然后修改js对象的值,Vue框架就会自动把dom的值就行更新。3.可以简单的理解为Vue帮我们做了dom操作,我们以后用Vue就需要修改对象的值和做好元素和对象的绑定,Vue这个框架就会自动帮我们做好dom的相关操作4.这种dom元素跟随JS对象值的变化而变化叫做单向数据绑…

    2022年10月16日
  • 文本挖掘的介绍

    文本挖掘的介绍1、文本挖掘的定义文本挖掘是指从大量文本的集合C中发现隐含的模式p。如果将C看作输入,将p看作输出,那么文本挖掘的过程就是从输入到输出的一个映射ξ:C→p。2、文本挖掘过程包含的技术文本特征的提取、信息检索、自然语言处理、文本挖掘、文本分类、文本聚类、关联分析等等3、文本挖掘的一般过程3.1 数据预处理技术预处理技术主要包括Stemming(英文)/分词(中文

  • vuex-Actions的用法

    vuex-Actions的用法

  • apktool反编译详细使用教程「建议收藏」

    apktool反编译详细使用教程「建议收藏」apktool反编译详细使用教程,包括每个细节。还有为什么反编译不成功,反编译出现的各种情况将为大家详细写出来,如有写的不好的地方还请见谅,这些都是本人自学的,曾经请教过大神,让我悲剧的是尽然无一人为我解答,后只有自己琢磨,所以本人看不惯那些大神的高傲姿态,不就会个反编译,会做美化包,整个内核,相信我写完教程后大家都将会自己制作美化包。学完反编译后你们就可以自己制作美化包了。当然有一些大神除外..

  • linux网络攻击威胁分析以及linux安全技巧 学习笔记

    linux网络攻击威胁分析以及linux安全技巧 学习笔记

  • Js类型转换之相等运算符[初级]「建议收藏」

    Js类型转换之相等运算符[初级]「建议收藏」Js类型转换之相等运算符[初级]

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号