线性回归 均方误差_线性回归模型中随机误差项的意义

线性回归 均方误差_线性回归模型中随机误差项的意义刚开始学习机器学习的时候就接触了均方误差(MSE,MeanSquaredError),当时就有疑惑,这个式子是怎么推导的,但是因为懒没有深究。今天看到了唐宇迪老师的机器学习课程,终于理解他是怎么推导的了。问题描述我们有工资和年龄两个特征,要预测银行会带宽给我们多少钱。1.拟合函数假设:年龄:x1x_1x1​工资:x2x_2x2​年龄的参数:θ1θ_1θ1​工资的参数:θ2θ_2θ2​那么有拟合函数:(1)将它转化为矩阵表达形式为:(2)其中x0全为1。2.误差真实值和预

大家好,又见面了,我是你们的朋友全栈君。如果您正在找激活码,请点击查看最新教程,关注关注公众号 “全栈程序员社区” 获取激活教程,可能之前旧版本教程已经失效.最新Idea2022.1教程亲测有效,一键激活。

Jetbrains全系列IDE稳定放心使用

刚开始学习机器学习的时候就接触了均方误差(MSE,Mean Squared Error),当时就有疑惑,这个式子是怎么推导的,但是因为懒没有深究。今天看到了唐宇迪老师的机器学习课程,终于理解他是怎么推导的了。一定要一步一步看下去,别看他公式这么多,随便认真看一下就能理解的!

问题描述

我们有工资和年龄两个特征,要预测银行会贷款给我们多少钱?

1. 拟合函数

假设:
年龄: x 1 x_1 x1
工资: x 2 x_2 x2
年龄的参数: θ 1 θ_1 θ1
工资的参数: θ 2 θ_2 θ2
那么有拟合函数:
在这里插入图片描述(1)

将它转化为矩阵表达形式为:
在这里插入图片描述(2)
其中x0全为1。

2. 误差

真实值和预测值之间通常情况下是会存在误差的,我们用ε来表示误差,对于每个样本都有:
在这里插入图片描述(3)
上标i表示第i个样本。
误差ε是独立并且具有相同的分布,并且服从均值为0,方差为 θ 2 θ^2 θ2的正态分布。
由于误差服从正态分布,那么有:
在这里插入图片描述(4)
将(3)带入(4)中有:
在这里插入图片描述(5)

3. 似然函数

似然函数用于参数估计,即求出什么样的参数跟我们给出的数据组合后能更好的预测真实值,有:
在这里插入图片描述(6)
取(6)式对数,将连乘转化为加法,这也是一般似然函数的求解方法:
在这里插入图片描述(7)
将(7)式展开并化简有:
在这里插入图片描述(8)
(8)式等式右侧的第一项为一个常量,似然函数要取最大值,因而第二项越小越好,有:
在这里插入图片描述(9)
(9)式相当于最小二乘法的式子,即是均方误差的表达式。下一步我们要解出 θ θ θ的表达式

4. 求导

我们将(9)时表示为矩阵的形式,有:
在这里插入图片描述(10)
接下来需要对矩阵求偏导,矩阵求偏导方法移至矩阵求偏导,过程如下:
在这里插入图片描述(11)
最后解出:
在这里插入图片描述(12)

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/187664.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

  • 车载以太网之 DHCP协议「建议收藏」

    车载以太网之 DHCP协议「建议收藏」车载以太网与传统以太网的主要区别在于二者的物理层,前者的物理层采用一对双绞线的100BASE-T1,而后者的物理层采用两对双绞线的方式,比如100BASE-TX。而二层以上的协议栈,车载网络则基本借鉴传统网络,区别并不大。下图是基于车载以太网的车载网络所使用的各种通信协议,在这篇文章中我将简要介绍一下位于7层上的DHCP协议。车载以太网涉包含的各种协议DHCP的全称是DynamicHostConfigurationProtocol,翻译作动态主机配置协议。它的用途是为网络节点自动配置I

  • 2018/12/2 今日思想关于复杂度

    2018/12/2 今日思想关于复杂度

  • JavaScript动画基本原理

    JavaScript动画基本原理JavaScript动画基本原理在现在做页面很多时候都会用上动画效果。比如下拉菜单,侧边搜索栏,层的弹出与关闭等等。通常我们实现这些动画效果可以采用JavaScript与CSS3两种方式来实现。本文主要介绍JavaScript动画,CSS3的动画下次在总结。对于JavaScript动画目前有很多的动画插件库,如:Jquery等等.以下就简单介绍以下JavaScript动画的实现原理。1.动

    2022年10月16日
  • HandlerSocket_handler的使用

    HandlerSocket_handler的使用HandlerSocket的原理http://www.mysqlops.com/2011/10/19/handlersocket-principle.htmlHandlerSocket的性能测试http://www.mysqlops.com/2011/10/20/handlersocket-perf.htmlHandlerSock

  • elk的搭建和使用_搭建云服务器教程

    elk的搭建和使用_搭建云服务器教程首先准备安装包传输到linux下找个目录存放安装elasticsearch-head作为web展示所以首先安装nodejs主要是利用npm1安装wgetyuminstall-ywget2.镜像淘宝下载node-v11wgethttps://npm.taobao.org/mirrors/node/v11.0.0/node-v11.0.0.tar.gz3.解压tar-…

    2022年10月21日
  • Js的长轮询[通俗易懂]

    Js的长轮询[通俗易懂]长轮询是与服务器保持持久连接的最简单的方式,它不使用任何特定的协议,例如WebSocket或者ServerSentEvent。它很容易实现,在很多场景下也很好用。

    2022年10月15日

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号