大家好,又见面了,我是你们的朋友全栈君。
[本文链接:http://blog.csdn.net/shanglianlm/article/details/46009387,转载请注明出处]
为了求解问题
因为它是非凸的,我们求解一个它的近似算法
对于一个大的 τ 值,它可以用下列等式接近
其中第一项为核范式(奇异值的和),第二项为Frobenius范式。
-
Singular Value Thresholding (SVT) 奇异值阈值
* 奇异值收缩(singular value shrinkage)*
首先我们考虑一个秩为 r 的矩阵
的奇异值分解如下:
X∈Rn1xn2
其中 U 和
分别为 n1×r 和 n2×r 的正交矩阵,奇异值为 ρi 非负的。
V
对于每个 τ≥0 ,我们有软阈值操作 Dτ :
其中 t+ 表示的 t 非负部分,即
。换句话说,这个软阈值操作仅仅应用于矩阵 X <script type=”math/tex” id=”MathJax-Element-56″>X</script> 的奇异值上,使它们趋于零。这也是为什么我们将其成为奇异值收缩(singular value shrinkage)的原因。
t+=max(0,t)
* Singular Value Thresholding (SVT) 奇异值阈值*
又因为奇异值收缩(singular value shrinkage)是核范式的近似操作(具体证明见[3]),因此上式可以转化为:
它的迭代方式为:
这个算法受到压缩感知中迭代算法的启发,在迭代过程中对矩阵进行SVD,然后将较小的奇异值设置为0,生成新的矩阵进行迭代。该算法运算速度快,对于高位低秩矩阵的恢复非常有效。
-
用拉格朗日乘子法解释
原问题为:
其拉格朗日函数为:
强对偶成立,且拉格朗日函数的鞍点是原函数与对偶问题的最优解,即
其迭代解为:
参考或延伸材料:
[1] 斯坦福SVT软件
[2] Generalized Singular Value Thresholding
[3] A singular value thresholding algorithm for matrix completion
[4] Exact Matrix Completion via Convex Optimization
发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/137392.html原文链接:https://javaforall.cn
【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛
【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...