利用JMP进行偏最小二乘回归分析！JMP系列学习（二）

shenweis

       上一期：利用JMP实现主成分回归分析！JMP系列学习（一），详细请参考：
       http://www.jmpforum.net/forum.php/forum.php?mod=viewthread&tid=1657&extra=page%3D1
       本次对上一期的数据利用偏最小二乘法进行回归分析。



       偏最小二乘的度娘解释（不是100%准确）：
       偏最小二乘回归法（PLSR：partial least squares regression)：是一种新型的多元统计数据分析方法，它主要研究的是多因变量对多自变量的回归建模，特别当各变量内部高度线性相关时，用偏最小二乘回归法更有效。另外，偏最小二乘回归较好地解决了样本个数少于变量个数等问题。
       偏最小二乘法是集主成分分析、典型相关分析和多元线性回归分析3种分析方法的优点于一身。它与主成分分析法都试图提取出反映数据变异的最大信息，但主成分分析法只考虑一个自变量矩阵，而偏最小二乘法还有一个“响应”矩阵，因此具有预测功能。
       研究认为，集多元线性回归分析、典型相关分析、主因子分析等方法于一体的偏最小二乘回归方法( PLS) 更适用于FM 分析, 可以避免数据非正态分布、因子结构不确定性( factor indeterminacy) 和模型不能识别等潜在问题。


       与上述不同的是，本例只有一个因变量，并非上述多因变量，实际上偏最小二乘法对单因变量同样适用。请看更专业的解释：



       分析平台：



按默认执行：



不同因子规格的模型比较汇总：



所用的计算方法：

shenweis

带3个因子的回归方程：

shenweis

带2个因子的回归方程：

shenweis

带1个因子的回归方程：

shenweis

给一个练习：


练习结果：


JMP数据：

shenweis

有兴趣的，可以对练习采用主成分回归的方法建模。祝大家进步！

如发现分析方法错误，请不吝指正，谢谢！

核桃木瓜

坐看连载，楼主好有心！

niksong

shenweis 发表于 2014-4-14 22:00
有兴趣的，可以对练习采用主成分回归的方法建模。祝大家进步！

如发现分析方法错误，请不吝指正，谢谢！

针对只有一个因变量的情况,可以考虑对因子提取主成分(主要是消除多重共线性)后再进行回归,针对多个因变量的情况则建议使用偏最小二乘法,因为只是单纯提取主成分进行回归,可能导致一些对因变量有重要影响的自变量的效应被削减甚至反转. 从这个意义上来说,偏最小二乘法很好地解决了这一问题,另外验证的方法如果数据量不是太多,可以考虑留一法.

wtmswxl

学习了。。

rocluo5566

温故而知新。
谢谢分享。