CDA LEVEL 1 考试，知识点汇总《一元线性回归》一、相关关系二、相关系数三、最小二乘法四、评价与检验五、例题精讲：CDALEVEL1考试

原标题：CDALEVEL1考试，知识点汇总《一元线性回归》
一、相关关系散点图的绘制与解读、相关系数的概念与特征
用于衡量两类现象在发展变化的方向与大小方面存在一定的关联（不包括因果和共变关系）。
1.正线性相关
例如销售额中涵盖了销售利润和各类成本等，从数据大致可以看出，销售利润随着销售额的增长而增长，由于各类不确定因素，数据点基本落在直线周围，我们称之为正线性相关。

文章图片
2.负线性相关
例如通常情况下，某地区的犯罪率越高，则该地区的房价越低，但由于供需环境等其他不确定因素，数据点基本落在直线周围，我们称之为负线性相关。

文章图片
3.完全线性相关
虽然所有点都在直线上，但是我们不能说两个变量是函数关系，这是因为我们看到的是样本，并且我们假设两个变量是随机变量，而我们需要推导的是两个总体的关系。

文章图片
4.非线性相关
例如虽然网站的点击量随着网站的广告投入的增加而增加，但其数据点分布在对数线周围，呈现出对数相关性。

文章图片
估计标准误差与相关系数的关系
一元线性回归中，对于同一个问题，估计标准误差就意味着样本点到回归线的距离越近，那么两个变量的线性相关性就越强，相关系数越大。
二、相关系数【CDA LEVEL 1 考试，知识点汇总《一元线性回归》一、相关关系二、相关系数三、最小二乘法四、评价与检验五、例题精讲】1.相关系数
一般情况下，如果不做特殊说明，指的就是线性相关。如果相关系数是根据变量的样本数据计算的，即为了推断总体，那么则称为样本相关系数（虽然有的时候在部分资料里并不严格说明），记为r（有的教材里也称为Pearson相关系数）

文章图片

文章图片
虽然没有严格的规定，但是我们往往习惯按照下面的方式对相关性强度进行分级：

文章图片
由于r只是样本线性相关系数，无论其数值等于多少，我们需要推断的始终是总体的相关性如何，这时候我们就需要运用显著性检验的知识了。我们运用R.A.Fisher提出的t检验方法来检验两个变量总体之间是否存在线性相关关系。
原假设：H0：?=0 ，两变量间无直线相关关系检验统计量：

文章图片
适用条件：数据间相互独立，包括观测间相互独立与变量间相互独立；变量为连续变量（积差相关的条件）；两变量间的关系是线性的。
2.散点图提供如下特征：
（1）散点的密集程度，反应相关性的大小；
（2）散点是否具有线性关系，或线性趋势，还是其他形式，如果是其他形式是否可以转换成线性形式；
（3）线性关系之外是否存在异常值及其存在与线性趋势的哪个方向；
（4）数据是否存在稀疏问题。

文章图片
3.一元线性回归方程回归分析的概念和特点
回归分析能解决什么问题？
探索影响因变量的可能因素；
利用回归模型进行预测。
相关与回归间的关系？
相关分析侧重反映散点的疏密程度。
回归分析侧重反映散点的趋势程度。
三、最小二乘法1.线性回归的基本过程

文章图片

文章图片
四、评价与检验第一步：总平方和分解

文章图片
第二步：计算判定系数

文章图片
第三步：残差标准误
由于SSE是一个求和表达式。样本越多， SSE的取值就往往会越大，因此， SSE并不适合相对客观的反映估计值与样本值的偏离程度，我们需要将SSE处理成相对值。于是我们令