比较随机森林（RF）和支持向量机（SVM）两种机器学习方法筛选m

最近要中期了，再加上CSC申请即将开始，忙碌而充实的日子又开始了。忙里偷闲更个简书～
今天的主题是我课题的一部分，通过五折交叉验证比较随机森林（RF）和支持向量机（SVM）两种机器学习方法筛选marker能力，并将ROC曲线绘制在一张图上。

1. 加载R包
   library(tidyverse)
   library(glmnet)
   library(sigFeature)
   library(e1071)
   library(caret)
   library(randomForest)

2.制作表达量矩阵，X是样本名，Y是基因名，type2是类别（cancer or normal）

image.png

3. 在做RF和SVM之前，我先做个秩和检验用于初筛，至于为啥是秩和不是T，我个人认为秩和更为柔和。
   把秩和检验中P<0.05的基因挑出来，得到矩阵TCGA_expr_2

pvalue<-sapply(2:262,function(i){wilcox.test(TCGA_expr_1[which(TCGA_expr_1$type2==1),i], TCGA_expr_1[which(TCGA_expr_1[,1]==2),i])[[3]]})
m<-which(pvalue<0.05)+1
TCGA_expr_2<-TCGA_expr_1[,c(1,m)]

4. 划分训练集和验证集，运用的是caret包，训练：验证=0.75: 0.25

inTrain<-createDataPartition(y=TCGA_expr_2[,1],p=0.25,list=F)
test<-TCGA_expr_2[inTrain,]
train<-TCGA_expr_2[-inTrain,]

5. 五折交叉验证做SVM，并得到预测值

folds<-createFolds(y=train[,1],k=5)
max=0
num=0
fc<-as.numeric()
mod_pre<-as.numeric()
for(i in 1:5){
fold_test<-train[folds[[i]],]
fold_train<-train[-folds[[i]],]
model<-svm(as.factor(type2)~.,data=fold_train)
model_pre<-predict(model,newdata = fold_test)
fc<-append(fc,as.numeric(as.character(fold_test$type2)))
mod_pre<-append(mod_pre,as.numeric(as.character(model_pre)))
}
df<-cbind(fc,mod_pre)

得到的fc, mod_pre分别是实际值和通过SVM的预测值

6. 五折交叉验证做RF，并得到预测值

folds<-createFolds(y=Expr_all_2[,1],k=5)
max=0
num=0
fc<-as.numeric()
mod_pre<-as.numeric()

for(i in 1:5){
fold_test<-Expr_all_2[folds[[i]],]
fold_train<-Expr_all_2[-folds[[i]],]
model<-randomForest(as.factor(type2)~.,data=fold_train,proximity=T,importance=T)
model_pre<-predict(model,type = "prob",newdata = fold_test)
fc<-append(fc,as.numeric(fold_test$type2))
mod_pre<-append(mod_pre,as.numeric(as.character(model_pre[,2])))
}
df<-cbind(df,cbind(fc,mod_pre))

7. 画ROC曲线

x<-plot.roc(df[,1],df[,2],
smooth=F,
lwd=2,
ylim=c(0,1),
xlim=c(1,0),
legacy.axes=T,
main="",
col=mycol[2])
x<-plot.roc(df[,3],df[,4],
smooth=T,
add=T,
lwd=2,
ylim=c(0,1),
xlim=c(1,0),
legacy.axes=T,
main="",
col=mycol[3])

image.png

PS1: 好丑的图，画成这样并非我所愿，相信你能画的更美 （手动滑稽脸）
PS2: 本帖可能会有点什么问题，恳请各位批评指正。（什么问题我也不知道）

image.png

最后再附上RF和SVM的误差图，RF的代码我在另一个帖子https://www.jianshu.com/p/dd4f9555dc64中给出过，但是SVM的这段代码有版权，不能公开，I am so sorry， 大家就欣赏下吧。