科百科
当前位置: 首页 范文大全

回归分析截距的意义(回归分析之共线性诊断)

时间:2023-08-01 作者: 小编 阅读量: 1 栏目名: 范文大全

共线性诊断简介共线性是多元回归分析时存在的一个普遍问题。自变量一般程度上的相关不会对回归结果造成严重的影响。相关系数判断:依据相关系数确定自变量之间的是否具有共线性,一般认为,两个自变量的相关系数超过0.9,认为两个自变量会出现共线性。但仅为初步判断,不全面。SPSS实现共线性诊断示例:研究表明在血清中低密度脂蛋白增高和高密度值蛋白降低是引起动脉硬化的一个重要原因。

序曲

杨柳枝词

【唐】白居易

一树春风千万枝,嫩于金色软于丝。

永丰西角荒园里,尽日无人属阿谁?

这是一首写景寓意诗,前两句写景,极写柳树的美态,诗人所抓的着眼点是柳条,写出了动态、形态和色泽显出它的材质之美。后两句写的是诗人对柳树遭遇及自己的评价,因为柳树所生之地不得其位,而不能得到人的欣赏,寓意怀才不遇而鸣不平,含蓄地抨击了当时的人才选拔机制和相关政府官员。

这首咏物诗,抒发了对永丰柳的痛惜之情,实际上就是对当时政治腐败、人才埋没的感慨。生活的时期,由于朋党斗争激烈,不少有才能的人都受到排挤。诗人自己,也为避朋党倾轧,自请外放,长期远离京城。此诗所写,亦当含有诗人自己的身世感慨在内。

此诗将咏物和寓意熔在一起,不着一丝痕迹。全诗明白晓畅,有如民歌,加以描写生动传神,当时就"遍流京都"。后来写《洞仙歌》词咏柳,有"永那畔,尽日无人,谁见金丝弄晴昼"之句,隐括此诗,读来仍然令人有无限低回之感,足见其艺术力量感人至深了。

共线性诊断简介

共线性是多元回归分析时存在的一个普遍问题。共线性是指自变量之间存在近似的线性关系,即某个自变量能近似地用其他自变量的线性函数来表示。在实际回归分析应用中,自变量间完全独立很难,所以共线性问题并不少见。自变量一般程度上的相关不会对回归结果造成严重的影响。然而,当共线性趋势非常明显时,它就会对模型的拟合带来严重影响,使得模型的预测精度会大大地降低,甚至会得到专业上无法解释或专业意义上完全相悖的回归方程。

(1) 回归系数的估计值大小甚至是方向明显与常识不相符

(2) 从专业角度看对应变量有影响的因素,却不能选入方程中

(3) 去除一两个记录或变量,方程的回归系数发生剧烈的变化,非常不稳定

(4) 整个模型的检验有统计学意义,而模型包含的所有自变量均无统计学意义。

当出现以上情况时,就需要考虑是不是变量之间存在共线性关系。

共线性诊断方法

SPSS中可以通过以下指标来辅助判断有无共线性的存在。

  • 相关系数判断:依据相关系数确定自变量之间的是否具有共线性,一般认为,两个自变量的相关系数超过0.9,认为两个自变量会出现共线性。但仅为初步判断不全面
  • 容许度(Tolerance):即以每个自变量作为因变量对其他自变量进行回归分析时得到的残差比例,大小用1减决定系数来表示,指标越小,说明该自变量被其余变量预测的越精确,共线性越严重;根据经验来说,若某个自变量的容忍度小于0.1则可能存在共线性问题。
  • 方差膨胀因子(Variance Inflation Factors, 简记作VIF):诊断共线性严重程度的常用指标之一,是容忍度的倒数,VIF越大,显示共线性越严重。通常情况下,当VIF>=5VIF>=10,可认为自变量间存在严重共线性
  • 特征根(Eigenvalue):若特征根接近于0,则提示自变量间存在严重的共线性。特征根为0的个数即为共线性数目
  • 条件指数(Condition Index):当某些维度的指标大于30时,则提示存在共线性
  • 变异构成:指回归模型中各项(包括常数项)的变异被各主成分所能解释的比例,或者说各主成分对模型各项的贡献。若某个主成分对两个或多个自变量的共享均较大(如大于0.5),则说明这几个自变量间存在一定程度的共线性。
SPSS实现共线性诊断

示例:研究表明在血清中低密度脂蛋白增高和高密度值蛋白降低是引起动脉硬化的一个重要原因。现测量30名怀疑患有动脉硬化的就诊患者的载脂蛋白A、载脂蛋白B、载脂蛋白E、载脂蛋白C、低密度脂蛋白中的胆固醇、高密度脂蛋白中的胆固醇含量,数据如下表所示,是分析低密度脂蛋白中胆固醇含量中与载脂蛋白A/B/E/C的线性回归方程。

1. 打开 分析—回归—线性

2. 参数选择

(1) 主页面说明

  • 如下图所示,将 低密度脂蛋白 放入因变量框,载脂蛋白A/B/E/C为自变量,方法选择 输入法

(2)"统计"页面

  • 选择 估算值、模型拟合、R方变化量、德宾-沃森、个案诊断、共线性诊断

(3)"图"页面

  • 标准化残差(ZRESID)放入Y 轴框,标准化预测残差ZPRED)放入X 轴框,同时勾选残差直方图正态概率图。此步目的是验证残差是否正态,反映Y 是否独立

(4)"保存"页面

  • 选择 未标准化值、单值,如下图所示

(5)"选项"页面

  • 保持默认选项,如下图所示

3. 结果输出与解释:

(1) 模型摘要

  • 由下图可知,调整后的R方为0.494,表示可以解释49.4% 的变异。

(2) 共线性诊断

  • 从图A中可看出,各自变量的VIF均小于5,说明各变量间不存在共线性
  • 但从图B中可看出,载脂蛋白B和载脂蛋白E在第4个主成分上的贡献>=0.5,说明两变量间存在一定程度的共线性。

4. 共线性解决方法

  • 增大样本含量,可部分解决多重共线性问题
  • 自变量筛选方法拟合模型,建立最优的回归方程,但同时会丢失部分可利用的信息
  • 专业知识角度出发,去除专业上认为次要的,或者缺失值比较多测量误差较大的共线性因子
  • 进行主成分分析,提取公因子代替原变量进行回归分析
  • 进行岭回归分析,可有效解决多重共线性问题
  • 进行路径分析(Path Analysis),可对应/自变量间的复杂关系精细刻画

5. 语法

********************回归分析******************.REGRESSION/MISSING LISTWISE/STATISTICS COEFF OUTS R ANOVA COLLIN TOL CHANGE/CRITERIA=PIN(.05) POUT(.10)/NOORIGIN/DEPENDENT y1/METHOD=ENTER x1 x2 x3 x4/SCATTERPLOT=(*ZRESID ,*ZPRED)/RESIDUALS DURBIN HISTOGRAM(ZRESID) NORMPROB(ZRESID)/CASEWISE PLOT(ZRESID) OUTLIERS(3).

    推荐阅读
  • 无锡江南大学江阴校区规划详情 江南大学江阴校区规划图

    建设时间节点建成使用时间:预计2020年秋季新生入学、新校区投用目前,江阴校区筹建工作正紧锣密鼓进行,以2020年秋季新生入学、新校区投用为时间节点,加大工作力度、加快工作节奏,举全市之力、以最大诚意、用最快速度,高起点、高标准、高质量实施江阴校区建设,确保江阴校区早日建成、早日启用。

  • 宝宝上火吃什么水果好(宝宝上火吃什么水果好?)

    因为一些水果中含糖量太高,多吃会使宝宝食欲不振,还会影响消化功能和其他营养素的摄取。

  • 小腿有水淌出来的感觉(究竟是什么原因)

    入院后完善相关检查,结合患者病史、症状、体征及辅助检查,诊断为右侧胫骨骨折术后,慢性骨髓炎并窦道形成,贴骨瘢痕增生。治疗上行创口处死骨病灶清除、VSD负压吸引术,之后在显微镜下行游离股前外侧皮瓣移植术,术后恢复良好后并出院。另外,游离皮瓣移植术还可以降低修复区域内感染几率,消除骨质与软组织之间的感染,降低手术并发症的风险和骨不愈合发生率,值得推广。

  • 鉴真东渡去了几次(鉴真东渡的历史真相)

    可是,鉴真东渡的申请没有得到朝廷批准。衙门闻讯大惊,立即派人拘捕了鉴真等人。虽然经审问后鉴真被无罪释放,但所造的船被没收。日本僧人被囚禁了四个月后,奉旨送还本国。但航行到舟山群岛海面时,船触礁沉没,鉴真一行人流落荒岛。五天后被人救起,送往余姚阿育王寺安顿。于是官府将日僧荣睿拘捕,押送京城。此次东渡对鉴真的打击最为沉重。

  • 乌纱帽的历史来源你知道吗(乌纱帽的由来)

    乌纱帽,古代官吏戴的一种帽子。不过,宋代乌纱帽仍然是民间比较普通的便帽。明朝以后,乌纱帽才正式成为做官为宦的代名词。清顺治帝入关时,一些明代降臣仍戴乌纱帽,等到清廷统治巩固下来,才下令将乌纱帽改为红缨帽。但人们仍习惯使用乌纱帽一词,久而久之,乌纱帽成为官位的代称,丢掉乌纱就意味着被免职了。

  • 剥板栗的简单方法(怎么剥板栗)

    准备小半锅水,加入一勺盐后煮开。把洗干净的板栗倒入开水中,马上关火,盖好焖七八分钟。滚烫的盐水可以让板栗壳快速变软,这时候的板栗没有划刀口,所以进入果肉的盐分少之又少,无需担心板栗会变咸或者变熟。把板栗趁热捞出后,用剪刀沿着板栗的底部这个位置剪半圈。剪开口子以后轻轻掰开,板栗壳就完整地分离出来了。这样剥板栗壳操作简单,不费力,不伤手,个个完整又光滑。

  • 给男生送礼物大全(给男生送礼物的超全清单)

    给男生送礼物的超全清单,。

  • 幼儿园学校自主管理方法(想要高效管理幼儿园)

    纵观当前我国的幼儿园管理实践,还是存在一些具有一定的典型性与代表性的问题。在实际的操作过程中,将常规训练中出现的问题彻底的消灭。

  • 怎样注意饮食预防结肠炎的发生(这6个原因或可导致结肠炎)

    过敏性反应,是受致敏物质刺激,自身免疫引起反应。长沙东大肛肠医院提醒,结肠炎的发生与多种因素有关,因此生活中应尽量避免上述致病因素。

  • 胃酸过多的原因和调理方法(胃酸过多怎么办)

    反酸所致的症状和危害可有①烧心;②食管痛;③吞咽痛;④吞咽困难;⑤呼吸道症状。适宜胃酸过多身重乏力,食少,恶心呕吐患者。冰糖蒸莲子材料:干莲子300克、冰糖150克、猪网油1张、棉纸1张。