sklearn是基于numpy和scipy的一个机器学习算法库，设计的非常优雅，它让我们能够使用同样的接口来实现所有不同的算法调用。本文首先介绍下sklearn内的模块组织和算法类的顶层设计图。

库结构

（1）结构：

由图中，可以看到库的算法主要有四类：分类，回归，聚类，降维。其中：

常用的回归：线性、决策树、SVM、KNN ；集成回归：随机森林、Adaboost、GradientBoosting、Bagging、ExtraTrees

常用的分类：线性、决策树、SVM、KNN，朴素贝叶斯；集成分类：随机森林、Adaboost、GradientBoosting、Bagging、ExtraTrees

常用聚类：k均值（K-means）、层次聚类（Hierarchical clustering）、DBSCAN

常用降维：LinearDiscriminantAnalysis、PCA

（2）图片中隐含的操作流程：

这个流程图代表：蓝色圆圈内是判断条件，绿色方框内是可以选择的算法。你可以根据自己的数据特征和任务目标去找到一条自己的操作路线，一步步做就好了。

三大模块

监督学习（supervised learning）

1.

neighbors：近邻算法

svm：支持向量机

kernel-ridge：核——岭回归

discriminant_analysis：判别分析

linear_model：广义线性模型

2.

ensemle：集成方法

tree：决策树

naive_bayes：朴素贝叶斯

cross_decomposition：交叉分解

gaussian_process：高斯过程

3.

neural_network：神经网络

calibration：概率校准

isotonic：保序回归

feature_selection：特征选择

multiclass：多类多标签算法

无监督学习（unsupervised learning）

1.

decomposition：矩阵因子分解

cluster：聚类

manifold：流形学习

mixture：高斯混合模型

2.

neural_network：无监督神经网络

density：密度估计

covariance：协方差估计

数据变换

1.

feature_extraction：特征抽取

feature_selection：特征选择

preprocess：预处理

2.

random_projection：随机投影

kernel_approximation：核逼近

pipline：管道流（这个严格说不算是数据变换模块）

统一的API接口

 在sklearn里面，我们可以使用完全一样的接口来实现不同的机器学习算法，通俗的流程可以理解如下：

数据加载和预处理

定义分类器（回归器等等），譬如svc = svm.svc()

用训练集对模型进行训练，只需调用fit方法，svc.fit(X_train, y_train)

用训练好的模型进行预测：y_pred=svc.predict(X_test)

对模型进行性能评估：svc.score(X_test, y_test)