R lm() 中的 poly()：原始与正交之间的区别

默认情况下，使用raw = FALSE，poly()计算正交多项式.它用原始编码x，x^2，x^3...首先，然后zoom 列，使每列与前一列正交.这不会改变拟合值，但有一个优点，即可以看到多项式中的某个阶数是否显著改善了较低阶数的回归.

考虑简单的cars数据，响应停止distANCE和驱动speed.物理上，这应该是一个二次关系，但在这个(旧)数据集中，二次项并不重要:

m1 <- lm(dist ~ poly(speed, 2), data = cars)
m2 <- lm(dist ~ poly(speed, 2, raw = TRUE), data = cars)

在正交编码中，在summary(m1)中可以得到以下系数:

                Estimate Std. Error t value Pr(>|t|)    
(Intercept)       42.980      2.146  20.026  < 2e-16 ***
poly(speed, 2)1  145.552     15.176   9.591 1.21e-12 ***
poly(speed, 2)2   22.996     15.176   1.515    0.136    

这表明存在非常显著的线性效应，而二阶效应不显著.后一个p值(即多项式中的最高阶之一)与原始编码中的p值相同:

                            Estimate Std. Error t value Pr(>|t|)
(Intercept)                  2.47014   14.81716   0.167    0.868
poly(speed, 2, raw = TRUE)1  0.91329    2.03422   0.449    0.656
poly(speed, 2, raw = TRUE)2  0.09996    0.06597   1.515    0.136

但较低阶的p值变化很大.原因是，在模型m1中，回归系数是正交的，而在m2中，回归系数是高度相关的:

cor(model.matrix(m1)[, 2], model.matrix(m1)[, 3])
## [1] 4.686464e-17
cor(model.matrix(m2)[, 2], model.matrix(m2)[, 3])
## [1] 0.9794765

因此，在原始编码中，只有在模型中保留speed^2时，才能解释p值speed.由于这两个回归系数高度相关，其中一个可以忽略.然而，在正交编码中，speed^2仅捕获尚未被线性项捕获的二次部分.然后很明显，线性部分是显著的，而二次部分没有额外的显著性.