从PCA、PLS-DA、OPLS-DA学习线性代数和矩阵
一、一些基本的线性代数和矩阵的概念
1、正交:
正交定义:
正交是线性代数的概念，是垂直这一直观概念的推广。作为一个形容词，只有在一个确定的内积空间中才有意义。若内积空间中两向量的内积为0，则称它们是正交的。如果能够定义向量间的夹角，则正交可以直观的理解为垂直。物理中：运动的独立性，也可以用正交来解释。
对于一般的希尔伯特空间， 也有内积的概念， 所以人们也可以按照上面的方式定义正交的概念。 特别的， 我们有n维欧氏空间中的正交概念， 这是最直接的推广。
和正交有关的数学概念非常多， 比如正交矩阵、正交补空间、施密特正交化法、最小二乘法等等。
欧几里得空间的例子
在二维或三维的欧几里得空间中，两个向量正交当且仅当他们的点积为零，即它们成90°角。可以看出正交的概念正是在此基础上推广而来的。三维空间中，一条直线的正交子空间是一个平面，反之亦然。四维空间中，一条直线的正交子空间则是一个超平面。 [2]
两个向量a = [a1, a2,…, an]和b = [b1, b2,…, bn]的点积定义为：
a·b=a1b1+a2b2+……+anbn。
2、点积
点积在数学中，又称数量积（dot product; scalar product），是指接受在实数R上的两个向量并返回一个实数值标量的二元运算。它是欧几里得空间的标准内积。
3、因子载荷
因子载荷 aij 的统计意义就是第i个变量与第 j 个公共因子的相关系数即表示 Xi 依赖 Fj 的份量（比重）。统计学术语称作权，心理学家将它叫做载荷，即表示第 i 个变量在第 j 个公共因子上的负荷，它反映了第 i 个变量在第 j 个公共因子上的相对重要性。
因子载荷简介
在因子分析中，通常只选其中m个（m<p）主因子，即根据变量的相关选出第一主因子ƒ1，使其在各变量的公共因子方差中所占的方差贡献为最大，然后消去这个因子的影响，而从剩余的相关中，选出与之不相关的因子，使其在各个变量的剩余因子方差贡献中为最大，如此往复，直到各个变量公共因子方差被分解完毕为止。
因子分析
因子分析是简化、分析高维数据的一种统计方法。这里不多叙述,因为基本功不扎实,看了也看不懂,先只做了解.
二、OPLA-DA原理及简介
OPLS 简介
正交偏最小二乘法（Orthogonal projections to latent structures (OPLS)）是一种新型的多元统计方法，它由Johan Tryggde等人于2002年首次提出。近十年来，这种方法在理论和应用方面得到了迅速的发展，并在计量化学中有大量的应用。OPLS是一种多因变量对多自变量的回归建模方法，其最大的特点是可以去除自变量X中与分类变量Y无关的数据变异，使分类信息主要集中在一个主成分中，从而模型变得简单和易于解释，其判别效果及主成分得分图的可视化效果更加明显。
OPLS 原理
OPLS从给定的数据集X中移除系统正交变量，并把这些正交变量和非正交变量区分开来，可以对这些正交变量单独进行分析。OPLS方法利用响应变量Y中的信息把X分成三部分。即
其中，TP表示X的预测的得分矩阵，PTP表示X的预测载荷矩阵，TPPTP表示预测部分，TO表示X与Y的正交成分（称为OPLS成分）的得分矩阵，PTO表示对应的载荷矩阵，TOPTO表示与Y正交的部分，E为残差矩阵。
OPLS方法的实现通过两步完成：
第二步，对XP进行偏最小二乘分析。
OPLS-DA 图表简述
OPLS-DA的得分图
OPLS-DA 得分图的横坐标表示OSC过程中的主要成分的得分值（Tp），所以从横坐标的方向可以看到组间的差异；纵坐标表示OSC过程中的正交成分的得分值(TO)；所以从纵坐标上看出组内的差异（组内样本间的差异）。
图2 OPLS-DA得分图
OPLS-DA 的S-plot图
S-plot图的横坐标表示主成份与代谢物的协相关系数，纵坐标表示主成份与代谢物的相关系数。S-plot图一般用来挑选与OSC过程中主要成分的相关性比较强的代谢物，从另一方面同时也可以挑选与Y相关性强的代谢物。越靠近两个角的代谢物重要度越强。红色的点表明这些代谢物的VIP值大于等于1，绿色的点表示这些代谢物的VIP值小于等于1。
图3 OPLS-DA S-plot
OPLS-DA的模型验证permutation Test图
模型验证permutation Test图的横坐标表示模型的准确率，纵坐标表示200次permutation Test中200个模型的准确率的频数，箭头表示本OPLS-DA模型准确率所在的位置，其中R2X和R2Y分别表示所建模型对X和Y矩阵的解释率，Q2表示模型的预测能力，理论上R2、Q2数值越接近1说明模型越好，越低说明模型的拟合准确性越差，通常情况下，R2、Q2高于0.5较好，高于0.4即可接受。从图中可以看出Q2为0.994，R2Y为1，R2X为0.685，Q2和R2Y的P值均为0.005，说明permutation Test中只有1个随机分组模型结果优于本OPLS-DA模型，一般情况下P<0.05时模型最佳。
图4 OPLS-DA 的验证图
image.png
图5 OPLS-DA 分析流程思维导图转自:http://www.360doc.com/showweb/0/0/900071290.aspx
