请教这种问题如何回归分析，捉急啊！！

haitundao1

请教两个问题：
     一、用仪器检测了50多个样品，每个样品有12个指标（x1-x12），想建立样品得分（Y）与指标间的回归模型。我做了回归分析，但结果不理想，逐步回归的话只有两个因素进入回归模型。

     二、样品和指标与上面的一样，只是检测的时候按时间检测，每隔零点零几秒检测一次，这样每个指标就有近3000个结果。同样想建立12个指标与得分间的回归模型。这个不知道用什么方法建立。


请高手、大侠帮忙分析下。非常感谢。


附件Excel工作表1为第一个问题的数据，工作表2为第二个问题的数据。

shenweis

试一下偏最小二乘法，这个预测也不是很精确，你看能不能接受，或改用其它方法，在此仅讨论，我也在学习，不保证方法完全正确。

niksong

看了一下,这个指标之间的多重共线性并不太严重,所以使用偏最小二乘法反而不太理想,如果使用,则模型所得的最低因子数居然是0,不建议使用偏最小二乘.
如果使用最小二乘法则得到的各因子系数的VIF最大为5点几,且只有两个系数大于5,所以可以考虑先使用筛选模型,经过一番筛选回归后,其R平方值可以达到62.7%,调整的R平方可以达到55.7%,关键项有x1,x2,x5,x6,x8,x9,x2*x8,x6*x9,x8*x9.
当然,这种处理方法也可能并不完美,但是相对而言还是不错的,因为即使使用神经网络也才达到百分之六十几.

haitundao1

非常感谢shenweis和niksong的帮助！！！我再琢磨琢磨，再次感谢！

shenweis

niksong 发表于 2014-5-14 15:02
看了一下,这个指标之间的多重共线性并不太严重,所以使用偏最小二乘法反而不太理想,如果使用,则模型所得的最 ...

请兄弟用这个案例，说一下偏最小二乘的使用前提，这样以后就会减少出错机率。谢谢！

niksong

shenweis 发表于 2014-5-14 15:45
请兄弟用这个案例，说一下偏最小二乘的使用前提，这样以后就会减少出错机率。谢谢！

实际上偏最小二乘法是主成分分析,典型分析和回归分析的综合应用,以下仅从个人的角度来说明此方法的应用范围,不对之处敬请指正:1)当有多个Y(Y之间要存在多重共线性,如果Y之间独立则还是单独使用最小二乘)要进行回归分析时;2)当样本量小于因子X的个数时;3)当X或Y存在严重的多重共线性时(至于有多严重,不好说,估计也没确定性的标准).
就这个例子,如果使用偏最小二乘时其预测误差平方和是随着因子个数的增加不断增加的没有明显的下降趋势,且最小的预测误差对应的因子数是0,很显然,意思就是说没法执行下一步的分析了,因为没有因子可以提取了.至于原因,我个人觉得还是因为X间的多重共线性并不明显,所以不好提取因子成分,即使强制提取,效果也不会理想.

haitundao1

大侠们，第二个问题分析的思路是什么啊，是按样品分析还是按时间分析。谢谢！

shenweis

niksong 发表于 2014-5-14 16:04
实际上偏最小二乘法是主成分分析,典型分析和回归分析的综合应用,以下仅从个人的角度来说明此方法的应用范 ...

JMP默认执行是是0个因子，对如何正确使用偏最小二乘还是不很清楚，加紧学习王惠文的《偏最小二乘回归的线性与非线性方法》，有问题还得多问兄弟，别吝啬指教啊！

niksong

shenweis 发表于 2014-5-14 16:55
JMP默认执行是是0个因子，对如何正确使用偏最小二乘还是不很清楚，加紧学习王惠文的《偏最小二乘回归的线 ...

兄弟谦虚了,相互学习,很多地方我也不太懂,继续努力!

shenweis

niksong 发表于 2014-5-14 19:29
兄弟谦虚了,相互学习,很多地方我也不太懂,继续努力!

现在正学习王惠文的偏最小二乘回归的线性与非线性方法，这块一定要完全攻下来。