广义最小二乘法是加权最小二乘法的特例_简述广义最小二乘法

广义最小二乘法是加权最小二乘法的特例_简述广义最小二乘法所谓回归分析实际上就是根据统计数据建立一个方程,用这个方程来描述不同变量之间的关系,而这个关系又无法做到想像函数关系那样准确,因为即使你重复全部控制条件,结果也还有区别,这时通过让回归方程计算值和试验点结果间差值的平方和最小来建立 回归方程的办法就是最小二乘法,二乘的意思就是平方。最小二乘就是指回归方程计算值和实验值差的平方和最小。首先普通最小二乘法是作为回归来使用,将预测值和真实值…

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE使用 1年只要46元 售后保障 童叟无欺

所谓回归分析实际上就是根据统计数据建立一个方程, 用这个方程来描述不同变量之间的关系, 而这个关系又无法做到想像函数关系那样准确, 因为即使你重复全部控制条件,结果也还有区别, 这时通过让回归方程计算值和试验点结果间差值的平方和最小来建立 回归方程的办法就是最小二乘法,二乘的意思就是平方。 最小二乘就是指回归方程计算值和实验值差的平方和最小。

首先普通最小二乘法是作为回归来使用,将预测值和真实值去比较,是这个误差函数最小,至于为什么叫二乘,因为这里取得是预测值和真实值的平方。

普通最小二乘法经常会引起欠拟合,因为普通最小二乘法将所有的序列值设置为相同的权重;但是对于实际中来说,一个时间序列,最近发生的应该比先前发生的更加重要,所以我们应该将最近发生的赋予更大的权重,先前发生的赋予小一点的权重,这种就变成了加权最小二乘法。

对于普通最小二乘法,因为种种原因(原因以后分析。。)残差项要满足很多的条件,如同方差性,但是因为现实中的数据可能达不到这样那样的要求,所以这个时候就出现了广义最小二乘法,所以如下引用:

1.如果存在外部协方差,即协方差阵不是对角阵,就是广义最小二乘

2.如果协方差阵是对角阵,且对角线各不相等,就是权重最小二乘

3.如果协方差阵是对角阵,且对角线相同,就是普通最小二乘

另外在知乎上看到一个比较形象的解释:

简单举个例子,具体就不用符号了,推来推去太复杂。假设你有一把尺子,去测量一个物体的长度。你用同一把尺子测量n次,每次的测量误差就是这个尺子的误差(忽略其他因素),这就是我们所说的最小二乘里的同方差假定。
现在你换一种方法,还是测量n次,但是你每次测量用的尺子精度不一样,有点大,有的小。这就是说所谓的“异方差”,这个时候你用普通最小二乘,就会导致估计不一致,这个时候,你想到一个办法就是,对于估计量中的样本,除以相应样本的那把尺子的误差,这样处理之后,就又变成同方差了。

作者:gurudk
链接:https://www.zhihu.com/question/37930145/answer/140471525
来源:知乎
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

将看到的比较好的解释放在这里:

机器学习笔记—-最小二乘法,局部加权,岭回归讲解

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/179255.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 搭建云计算平台(云计算管理平台搭建)

    搭建云计算平台Openstack是一个开源项目。任何公司或个人都可以构建自己的云计算环境,这已经打破了亚马逊等少数公司的垄断,意义重大。简介:如果你是开源社区的CTO或代码贡献者,你一定听说过openstack。Openstack是由网络主机服务提供商Rackspace和NASA联合发起的一个开源项目。其目的是开发一套开源软件标准。任何公司或个人都可以建立自己的云计算环境(IAAs),这打破了亚…

  • html使用toast弹窗,jQuery常用工具之message和toast弹窗插件「建议收藏」

    html使用toast弹窗,jQuery常用工具之message和toast弹窗插件「建议收藏」常用工具message和toast弹窗图片预览常用工具message和toast弹窗浏览器适配支持Chrome所有版本支持Firefox所有版本支持Safari所有版本不支持IE任何版本常用工具message和toast弹窗使用教程默认调用:alert(‘请打开麦克风’)支持多参数:alert({title:’我是标题’,content:’请打开https://huajiakeji.com/’…

  • 清除浏览器缓存(js、css等)

    清除浏览器缓存(js、css等)有时候写web项目,改了js或者css文件,但是浏览器就是不刷新,就很头疼o(╥﹏╥)o。那是因为浏览器还有缓存存在的原因,下面来看如何清除缓存。1.找到目标网页,鼠标右击,点击检查;或者Ctrl+Shift+i;进入检查界面(我用的是谷歌浏览器)。2.点击Network,然后选择要清除什么文件(js、css等等)的缓存,当然也可以选择All,这样就全部加载出来了3.如果没有东西出来,就刷新一次网页,然后找到你的目标文件,右击,选择Clearbrowsercashe清..

  • 解决启动IIS发生意外错误 0x8ffe2740「建议收藏」

    解决启动IIS发生意外错误 0x8ffe2740「建议收藏」有时候也不知怎么搞的,你会突然间发现你的IIS启动不了了,提示“发生意外错误0x8ffe2740”这样的东东主要原因是80端口被程序占用了,请确认一下有没有程序占用了80端口,不知道怎么确认?可以用TcpView查看占用的端口然后终止这人端口其实大多情况下都是因为Xunlei或者数据库(SqlServer,Oracle)占用了,所以先把X…

  • ExtJs自学教程(1):一切从API開始

    ExtJs自学教程(1):一切从API開始

  • 代理IP池(sqlmap外部代理ip池)

    这些公共代理是完全免费提供的,不需要任何授权。免费代理通常是开放的、流行的公共代理。与私人代理不同,公共代理不需要注册或密码。事实上,它们是负责安装在计算机上的代理服务器并且不关心更改默认设置的系统管理员的错误或疏忽。因此,服务器通过特殊的扫描仪快速定位到网络中,成为渴望匿名的公众的财产。这些信息足以安全地浏览全球网络,而无需显示您的真实IP地址。这些代理有很大的优势:他们有一个简单的设置-这些代理不需要授权并且设置简单他们是免费的!没有流量限制或使用目的但是,除了所有这些优点之外,这

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号