矩阵乘以其矩阵转置「建议收藏」

矩阵乘以其矩阵转置「建议收藏」在推导公式和计算中,常常能碰到矩阵乘以其矩阵转置,在此做个总结。1.假设矩阵A是一个m∗nm∗nm*n矩阵,那么A∗ATA∗ATA*A^T得到一个m∗mm∗mm*m矩阵,AT∗AAT∗AA^T*A得到一个n∗nn∗nn*n的矩阵,这样我们就能得到一个方矩阵。看一个例子:Xθ=HXθ=HX\theta=H求解θθ\theta.XTXθ=XTHXTXθ=XT…

大家好,又见面了,我是你们的朋友全栈君。

在推导公式和计算中,常常能碰到矩阵乘以其矩阵转置,在此做个总结。

1.假设矩阵A是一个 m ∗ n m*n mn 矩阵,那么
A ∗ A T A*A^T AAT 得到一个 m ∗ m m*m mm 矩阵, A T ∗ A A^T*A ATA 得到一个 n ∗ n n*n nn 的矩阵,这样我们就能得到一个方矩阵。
看一个例子:

X θ = H X \theta =H Xθ=H 求解 θ \theta θ.
X T X θ = X T H X^TX\theta =X^TH XTXθ=XTH 这个矩阵X我们不能确定是否是方矩阵,所以我们在其左侧同时乘以X矩阵的转置,这样 就在 θ \theta θ 的左侧得到一个方矩阵。
( X T X ) − 1 X T X θ = ( X T X ) − 1 X T H (X^TX)^{-1}X^TX\theta =(X^TX)^{-1}X^TH (XTX)1XTXθ=(XTX)1XTH 再在等式的两边乘以 X T X X^TX XTX的逆,就变成了单位矩阵 I I I θ \theta θ相乘,这样我们就得到了 θ \theta θ的解:
θ = ( X T X ) − 1 X T H \theta=(X^TX)^{-1}X^TH θ=(XTX)1XTH

2.对称矩阵
如果方阵A满足 A T = A A^T=A AT=A,就称A为对称矩阵。
假设 A = X T X A=X^TX A=XTX,A的转置 A T = ( X T X ) T = X T X = A A^T=(X^TX)^T=X^TX=A AT=(XTX)T=XTX=A,所以我们可以说 ( X T X ) (X^TX) (XTX)是一个对称矩阵。对称矩阵的特征向量两两正交。 1

3.奇异值分解(SVD)
我们可以用与A相关的特征分解来解释A的奇异值分解。A的左奇异向量是 A A T AA^T AAT的特征向量,A的右奇异向量是 A T A A^TA ATA的特征向量,A的非零奇异值是 A T A A^TA ATA特征值的平方根,同时也是 A A T AA^T AAT特征值的平方根。 2

Reference:


  1. https://blog.csdn.net/BingeCuiLab/article/details/47209037 ↩︎

  2. Goodfellow I, Bengio Y, Courville A, et al. Deep learning[M]. Cambridge: MIT press, 2016. ↩︎

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/147360.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(1)


相关推荐

  • linux 查看文件内容 显示行号

    linux 查看文件内容 显示行号怎么在linux系统中查看文件时显示行号?1.使用vi或者vim命令打开文件打开后的文件内容日如下2.直接输入以下命令,按Ente健显示文件行号:setnu或者:setnumber成功后显示如下…

  • 华为服务器装系统怎么选pxe,服务器设置pxe启动

    华为服务器装系统怎么选pxe,服务器设置pxe启动服务器设置pxe启动内容精选换一换全量复制会把源端服务器所有数据都复制到目的端,复制速度取决源端服务器出网带宽和目的端服务器入网带宽(两者取较小者)。开始服务器复制后,禁止重启源端及Agent,否则会导致迁移失败。已设置目的端,参考设置迁移目的端。当“迁移阶段”为时才可启动全量复制。或勾选待迁移的服务器,单击服务器名称/ID上方的“开始”,弹出“开始”窗口,单击“确定”,本节介绍在设置目的端时,…

  • 汇编语言中各种移位指令的区别与联系

    汇编语言中各种移位指令的区别与联系本文转载自:https://blog.csdn.net/richerg85/article/details/27558005SHL、SHR、SAL、SAR:移位指令;SHL(ShiftLeft):   逻辑左移;SHR(ShiftRight):   逻辑右移;SAL(ShiftArithmeticLeft):算术左移;SAR(Shift…

  • laravel实现第三方登录(qq登录)

    laravel实现第三方登录(qq登录)

    2021年10月25日
  • html协议属于哪层,smtp协议在什么层

    SMTP:简单邮件传输协议SMTP:SimpleMailTransferProtocol)SMTP是一种提供可靠且有效电子邮件传输的协议。SMTP是建模在FTP文件传输服务上的一种邮件服务,主要用于传输系统之间的邮件信息并提供来信有关的通知。SMTP协议简介1.介绍SMTP称为简单Mail传输协议(SimpleMailTransferProtocal),目标是向用户…

  • 全国职称计算机考试取消了吗,全国职称计算机考试取消必考模块 考生自选[通俗易懂]

    全国职称计算机考试取消了吗,全国职称计算机考试取消必考模块 考生自选[通俗易懂]全国职称计算机考试不再设必考模块,考生可选择自己擅长的模块进行考试。本月起,鞍山专业技术人员计算机应用能力考试系统将进行升级。调整后的题库中共有20个考试模块供考生选择报考。此前,职称计算机考试要设一个必考模块,调整后取消必考项目,考生可自主选择两个模块作为应考模块。据介绍,调整后的20个模块分别为:中文WindowsXP操作系统、Word2003中文字处理、Excel2003中文电子表格、Pow…

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号