R - 协方差分析

我们使用回归分析来创建描述预测变量的变化对响应变量的影响的模型.有时,如果我们有一个分类变量,其值为Yes/No或Male/Female等.简单回归分析为分类变量的每个值提供多个结果.在这种情况下,我们可以通过将分类变量与预测变量一起使用并比较分类变量的每个级别的回归线来研究分类变量的影响.这种分析被称为协方差分析,也称为 ANCOVA .

示例

考虑R内置的数据集mtcars.在其中我们观察到"am"字段代表传输类型(自动或手动).它是一个值为0和1的分类变量.除了马力值("hp")之外,汽车的每加仑英里值(mpg)也可以取决于它.

我们研究"am"的值对"mpg"和"hp"之间的回归的影响.这是通过使用 aov()函数,然后使用 anova()函数来比较多次回归来完成的.

输入数据

从数据集mtcars中创建一个包含字段"mpg","hp"和"am"的数据框.这里我们把"mpg"作为响应变量,"hp"作为预测变量,"am"作为分类变量.

input <- mtcars[,c("am","mpg","hp")]
print(head(input))

当我们执行上面的代码时,它产生以下结果 :

                   am   mpg   hp
Mazda RX4          1    21.0  110
Mazda RX4 Wag      1    21.0  110
Datsun 710         1    22.8   93
Hornet 4 Drive     0    21.4  110
Hornet Sportabout  0    18.7  175
Valiant            0    18.1  105

ANCOVA分析

我们创建一个回归模型,以"hp"作为预测变量,"mpg"为响应变量考虑了"am"和"hp"之间的相互作用.

具有分类变量和预测变量之间相互作用的模型

# Get the dataset.
input <- mtcars

# Create the regression model.
result <- aov(mpg~hp*am,data = input)
print(summary(result))

当我们执行上面的代码时,它会产生以下结果:

            Df Sum Sq Mean Sq F value   Pr(>F)    
hp           1  678.4   678.4  77.391 1.50e-09 ***
am           1  202.2   202.2  23.072 4.75e-05 ***
hp:am        1    0.0     0.0   0.001    0.981    
Residuals   28  245.4     8.8                     
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

该结果表明,马力和传动类型对每加仑英里数有显着影响,因为两种情况下的p值均小于0.05。 但是这两个变量之间的相互作用并不显着,因为p值大于0.05。

Comparing Two Models

现在我们可以比较两个模型,以得出变量的相互作用是否真正重要的结论。 为此,我们使用anova()函数。

# Get the dataset.
input <- mtcars

# Create the regression models.
result1 <- aov(mpg~hp*am,data = input)
result2 <- aov(mpg~hp+am,data = input)

# Compare the two models.
print(anova(result1,result2))

当我们执行上面的代码时,它会产生以下结果:

Model 1: mpg ~ hp * am
Model 2: mpg ~ hp &plus; am
  Res.Df    RSS Df  Sum of Sq     F Pr(>F)
1     28 245.43                           
2     29 245.44 -1 -0.0052515 6e-04 0.9806

当p值大于0.05时,我们得出结论:马力与传递类型之间的相互作用并不显着。 因此,在汽车和手动变速器模式下,每加仑的里程数将以类似的方式取决于汽车的马力。