应用回归分析（知识点整理）（一）

一、回归分析概述

1、回归分析、相关分析的联系与区别

联系：回归分析与相关分析都是研究变量间关系的统计系课题。
区别：
（1）在回归分析中，变量y为因变量；在相关分析中，y与x处于平等的地位。
（2）在回归分析中，y是随机变量，x可以是随机变量也可以是非随机的确定变量；
在相关分析中，y与x均为随机变量
（3）回归分析不仅解释了自变量x对因变量y的影响大小，还可以由回归方程进行回归与预测
相关分析主要是为了刻画两类变量间的线性相关的密切程度

2、建模的基本步骤

实际问题——确立指标变量——收集分析数据——构造理论模型——参数估计——统计诊断——模型应用

二、一元线性回归

1、模型的基本假设

通常一元线性回归模型的线性形式为：y=a+bx+c,
其中a和b是未知参数，a是回归常数，b是回归系数，c表示为其它随机因素的影响（误差项）
（1）误差项c一般满足等方差及不相关条件（高斯马尔科夫条件）：
E（c(i)）= 0 ; i=1,2,3……n
var(c(i))= s^2 ; i=1,2,3……n
cov(c(i),c(j)) = 0 ; i 和 j不相等 ; i=1,2,……n ; j=1,2……n
（2）因变量y和误差项c是都是相互独立的随机变量，自变量x则非随机变量，是确定性变量，其值可以精确测量和控制
（3）为了方便对参数进行区间估计和假设检验；通常假定误差项服从正态分布：c(i)~N(0,s^2) ; i=1,2,3……n
误差项c服从正态分布，进一步的随机变量y也服从正态分布：y(i)~N(a+bx(i),s^2) ; i=1,2,3……n

2、参数估计方法（思想，性质（最小二乘和极大似然估计））