SPSS做拟合分析如何设置因当有三个变量时,怎么拟合回归的取值范围?

在构建回归模型时,如果自变量X为连续性变量,回归系数β可以解释为:在其他自变量不变的条件下,X每改变一个单位,所引起的因变量Y的平均变化量;如果自变量X为二分类变量,例如是否饮酒(1=是,0=否),则回归系数β可以解释为:其他自变量不变的条件下,X=1(饮酒者)与X=0(不饮酒者)相比,所引起的因变量Y的平均变化量。但是,当自变量X为多分类变量时,例如职业、学历、血型、疾病严重程度等等,此时仅用一个回归系数来解释多分类变量之间的变化关系,及其对因变量的影响,就显得太不理想。此时,我们通常会将原始的多分类变量转化为哑变量,每个哑变量只代表某两个级别或若干个级别间的差异,通过构建回归模型,每一个哑变量都能得出一个估计的回归系数,从而使得回归的结果更易于解释,更具有实际意义。本文将向大家详细介绍哑变量的相关知识,同时结合SPSS软件的应用,来介绍在不同的回归模型中如何设置哑变量。哑变量哑变量(Dummy Variable),又称为虚拟变量、虚设变量或名义变量,从名称上看就知道,它是人为虚设的变量,通常取值为0或1,来反映某个变量的不同属性。对于有n个分类属性的自变量,通常需要选取1个分类作为参照,因此可以产生n-1个哑变量。将哑变量引入回归模型,虽然使模型变得较为复杂,但可以更直观地反映出该自变量的不同属性对于因变量的影响,提高了模型的精度和准确度。举一个例子,如职业因素,假设分为学生、农民、工人、公务员、其他共5个分类,其中以“其他职业”作为参照,此时需要设定4个哑变量X1-X4,如下所示:X1=1,学生;X1=0,非学生;X2=1,农民;X2=0,非农民;X3=1,工人;X3=0,非工人;X4=1,公务员;X4=0,非公务员;那么对于每一种职业分类,其赋值就可以转化为以下形式:什么情况下需要设置哑变量1. 对于无序多分类变量,引入模型时需要转化为哑变量举一个例子,如血型,一般分为A、B、O、AB四个类型,为无序多分类变量,通常情况下在录入数据的时候,为了使数据量化,我们常会将其赋值为1、2、3、4。从数字的角度来看,赋值为1、2、3、4后,它们是具有从小到大一定的顺序关系的,而实际上,四种血型之间并没有这种大小关系存在,它们之间应该是相互平等独立的关系。如果按照1、2、3、4赋值并带入到回归模型中是不合理的,此时我们就需要将其转化为哑变量。2. 对于有序多分类变量,引入模型时需要酌情考虑例如疾病的严重程度,一般分为轻、中、重度,可认为是有序多分类变量,通常情况下我们也常会将其赋值为1、2、3(等距)或1、2、4(等比)等形式,通过由小到大的数字关系,来体现疾病严重程度之间一定的等级关系。但需要注意的是,一旦赋值为上述等距或等比的数值形式,这在某种程度上是认为疾病的严重程度也呈现类似的等距或等比的关系。而事实上由于疾病在临床上的复杂性,不同的严重程度之间并非是严格的等距或等比关系,因此再赋值为上述形式就显得不太合理,此时可以将其转化为哑变量进行量化。3. 对于连续性变量,进行变量转化时可以考虑设定为哑变量对于连续性变量,很多人认为可以直接将其带入到回归模型中即可,但有时我们还需要结合实际的临床意义,对连续性变量作适当的转换。例如年龄,以连续性变量带入模型时,其解释为年龄每增加一岁时对于因变量的影响。但往往年龄增加一岁,其效应是很微弱的,并没有太大的实际意义。此时,我们可以将年龄这个连续性变量进行离散化,按照10岁一个年龄段进行划分,如0-10、11-20、21-30、31-40等等,将每一组赋值为1、2、3、4,此时构建模型的回归系数就可以解释为年龄每增加10岁时对因变量的影响。以上赋值方式是基于一个前提,即年龄与因变量之间存在着一定的线性关系。但有时候可能会出现以下情况,例如在年龄段较低和较高的人群中,某种疾病的死亡率较高,而在中青年人群中,死亡率却相对较低,年龄和死亡结局之间呈现一个U字型的关系,此时再将年龄段赋值为1、2、3、4就显得不太合理了。因此,当我们无法确定自变量和因变量之间的变化关系,将连续性自变量离散化时,可以考虑进行哑变量转换。还有一种情况,例如将BMI按照临床诊断标准分为体重过低、正常体重、超重、肥胖等几种分类时,由于不同分类之间划分的切点是不等距的,此时赋值为1、2、3就不太符合实际情况,也可以考虑将其转化为哑变量。如何选择哑变量的参照组在上面的内容中我们提到,对于有n个分类的自变量,需要产生n-1个哑变量,当所有n-1个哑变量取值都为0的时候,这就是该变量的第n类属性,即我们将这类属性作为参照。例如上面提到的以职业因素为例,共分为学生、农民、工人、公务员、其他共5个分类,设定了4个哑变量,其中职业因素中“其它”这个属性,每个哑变量的赋值均为0,此时我们就将“其它”这个属性作为参照,在最后进行模型解释时,所有类别哑变量的回归系数,均表示该哑变量与参照相比之后对因变量的影响。在设定哑变量时,应该选择哪一类作为参照呢?1. 一般情况下,可以选择有特定意义的,或者有一定顺序水平的类别作为参照例如,婚姻状态分为未婚、已婚、离异、丧偶等情况,可以将“未婚”作为参照;或者如学历,分为小学、中学、大学、研究生等类别,存在着一定的顺序,可以将“小学”作为参照,以便于回归系数更容易解释。2. 可以选择临床正常水平作为参照例如,BMI按照临床诊断标准分为体重过低、正常体重、超重、肥胖等类别,此时可以选择“正常体重”作为参照,其他分类都与正常体重进行比较,更具有临床实际意义。3. 还可以将研究者所关注的重点类别作为参照例如血型,分为A、B、O、AB四个类型,研究者更关注O型血的人,因此可以将O型作为参照,来分析其他血型与O型相比后对于结局产生影响的差异。接下来我们将结合SPSS软件,向大家介绍在回归模型中如何实现哑变量的设置,并对引入哑变量后的模型结果进行解读。Logistic /Cox回归在SPSS中,Logistic回归和Cox回归设置哑变量的方式是一致的,因此本文以Logistic回归为例进行说明。一、研究实例某研究人员拟探讨不同种族人群中某疾病发病风险有无差异,收集了4种不同种族人群的相关数据资料(1=Black美国黑人,2=White美国白人,3=Indian美国印第安人,4=Asian亚裔美国人)。根据数据类型判断,种族为无序多分类资料,需要将种族转化为哑变量后,进行Logistic回归。二、SPSS操作1. Analyze → Regression → Binary Logistic,进入到Logistic回归模块2. 将Event选入Dependent框中,将Gender、Age、Race选入Covariates框中3. 点击Categorical进入定义分类变量的对话框,将需要转化的变量Race选入Categorical Covariates框中,点击Contrast旁的下拉框选择Indicator,Reference Category设置为First,即设定第一个分类为参照。在本次研究中,Race=1为黑人,即我们选择黑人作为参照。最后再点击Change确认更改为Race(Indicator(first))。在选择哑变量编码方式时,Contrast下拉选项一共提供了7种编码方式:(1) Indicator(指示对比):用于指定某一分类为参照,指定的参照取决于Reference Category中选择Last还是First,即只能以该变量的第一类或者最后一类作为参照。Indicator为默认方法,也是我们最常用的设置参照类的方法。(2) Simple(简单对比):Simple和Indicator两个方法虽然参数编码不同,但其实质是一样的,均为各分类分别与参照进行相比。(3) Difference(差异对比):即该分类变量的某个分类,与前面所有分类的平均值进行比较,此法与Helmert法相反,因此也叫做反Helmert法。此选项常用于有序分类变量。(4) Helmert(赫尔默特对比):即该分类变量的某个分类,与其后面所有分类的平均值进行比较,同样也适用于有序分类变量。原文内容较长,本篇文章仅摘录了部分内容,感兴趣的伙伴,可以去医咖会官网查看全文。}
回归是研究因变量Y对自变量X的依赖关系。当因变量Y为二值定类变量时,我们通常会选择使用logit回归,实际上还有一种方法是Probit回归。这两个区别在于模型中随机扰动项的先验服从什么分布:如果是正态分布就是probit模型,若为logistic分布就是logit模型。1 概述1.1 背景介绍一般情况下,在我们研究的回归模型中,都隐含的假定了因变量(Y)是定量的,而解释变量(X)是定量、定性(或虚拟变量)。当因变量(Y)为二值定性的情况:比如一个家庭是否拥有一所住房,如拥有 Y=1,不拥有 Y=0,则被称为线性概率模型。当因变量为二值时,X 与 Y 的关系如图中的点:要预测的值y为期望令1.2 线性概率模型若用线性概率模型拟合因变量时,则会存在以下问题:由于 E(Yi / Xi) 度量给定 X 事件下 Y 发生的概率,因此概率必须落在0与1之间,LPM无法保证的估计值落在 0 与 1 之间;对于给定的 X,Y = 0 或Y= 1,因此所有的 Y 值必须落在 X 轴或者 Y=1 的一条直线上。而线性模型则无法很好的模拟这样的散点。线性回归模型假定 Y 估计值随 X 而线性增加,即 X 的边际或临界效应(X连续增加的每一单位中所得到的Y增量)一直保持不变(一般边际效用是递减的)。1.3 Logit模型标准累计 Logistic 分布的函数:建立 logit 与线性回归的关系:可变换为可解决上述线性概率模型的问题,可以很好的进行拟合。1.4 Probit模型当回归中因变量取 0 或 1 时,很容易使用 CDF(累计分布函数)取建立回归模型。当选用 logistic 时,称为logit模型;选用正态分布函数时,则是profit模型。Logit模型是Logistic函数的累积概率函数,同样的,正态函数记为 \phi Probit 变换与 Probit 回归模型如下:对应的累计概率函数,即标准正态分布的累积概率函数:如下图绿色曲线为Probit,红色曲线为Logit,可见Probit模型与Logit模型很相似,可用于解决上面的二分类问题。1.5 极大似然法估计参数个体(非群组)数据的 Probit 模型的极大似然估计,假设我们对给定个人收入 X 的情况下估计一个人拥有住房的概率感兴趣,我们还假定这个概率可由 Probit 函数表示:我们不能实际观测Pi,只能观测到结果 Y=1(有房)和 Y=0(无房)。每个Pi都是一个伯努利随机变量,所以可写成:假设我们有一个 n 次观测的随机样本。令fi(Yi)表示Yi=1或 0 的概率,观测到 n 个 Y 值的联合概率,即f(Y1,...,Yn)为:每个 Yi 都是独立的,而且有相同的 logistic 密度函数,所以可以将联合密度函数写成个别密度函数的乘积。我们对(1)取对数,便得到对数似然函数LLF:2 案例介绍根据员工满意度、月均工作小时、工伤事故、薪资水平四个影响因素(自变量)研究员工是否离职。3 软件操作4 结果解读4.1 二分类因变量基本汇总上表展示了因变量各分组的分布情况。当因变量分类水平的数据量出现严重不平衡时,建议对数据进行过采样或者欠采样。4.2 模型评价模型的似然比卡方检验的结果显示,显著性 值0.000***,水平上呈现显著性,拒绝原假设,因而模型是有效的。4.3 二分类概率单位回归结果● 对于连续自变量的边际效应值的意义为:该自变量每增加一个单位,带来因变量的概率上升或下降多少百分比。● 对于哑变量化的0-1分类自变量的边际效应值意义为:该变量每升高一个单位(即分类水平从0变为1),发生因变量的概率上升或下降了多少百分比。员工满意度显著性 值为0.000***,水平上呈现显著性,拒绝原假设,因此员工满意度会对是否离职产生显著性影响,意味着员工满意度每增加一个单位,离职概率比不离职的几率增加或减少了62.581%。其他字段不会对是否离职产生显著性影响。4.4 混淆矩阵热力图4.5 ROC曲线● ROC曲线图把灵敏度(TPR)和特异度(FPR)结合,可以同时衡量两者关系。理想情况下,TPR应该接近1,FPR应该接近0。● 灵敏度:实际为正样本的结果中,预测为正样本的比例。● 特异度:实际为负样本的结果中,预测为正样本的比例。4.6 分类评价指标上表中展示了分类评价指标,进一步通过量化指标来衡量逻辑回归的分类效果。5 注意事项因变量 Y 是二分类变量有至少1个自变量,自变量可以是连续变量,也可以是分类变量每条观测间相互独立。分类变量(包括因变量和自变量)的分类必须全面且每一个分类间互斥自变量之间无多重共线性自变量中分类变量较多时,可考虑使用Logistic回归当自变量中连续变量较多且符合正态分布时,使用Probit回归相关推荐}

我要回帖

更多关于 当有三个变量时,怎么拟合回归 的文章

更多推荐

版权声明:文章内容来源于网络,版权归原作者所有,如有侵权请点击这里与我们联系,我们将及时删除。

点击添加站长微信