机器学习D1--Machine Learning知识总结

2021-05-27 本文已影响0人 Ms_萧月

写作目的：

之前报班学习DataScience已经差不多有一年多的时间，但一直没有什么输出，学习起来也比较一知半解，所以这次以倒逼自己输出为目的写一系列自己学习的总结和思考。不一定都正确，但希望能和大家有互动交流，我会虚心接收大家的批评指教~谢谢。

数据科学最大的一块就是在Machine learning models这一块，我从以下四个角度来总结了我所学过的内容。将来希望能对具体的模块进行更详细的输出。

这四个角度分别是：模型的种类，数据分析的流程，模型理解的基本角度和概念，机器学习的概念。

以下是四个总结的思维导图：

机器学习的底层基础是找到自变量X与因变量Y之间的关系，在现实中，我们往往会获得多个观测值来进行预测，所以大部分的机器学习模型都是over determined equation.

Model的重大作用之一就是它的可解释性，所以我们需要关注对于已有数据建立模型后，模型对现实的解释性，比如公司利润与销售量，成本之间的关系。

而在确定一个模型后，我们需要找到一个标准来衡量什么才是最佳模型，此时，我们可以通过自己定义loss function，预测值与观测值的差距来评价模型，同时通过求loss function的最小值来寻找最佳的模型。

目前有很多不同的模型，他们都针对不同的场景解决不同的问题。Machinelearning models 属于监督学习，即我们对输入模型的所有样本都有明确的预期的输出，即所有的data都有相应的标签(label).

在其中，我们最了解的就是线性回归模型，它的特点是自变量之间只有线性关系。我们知道的y=ax+b就是最简单的线性回归模型，另外lasso & ridge regression 都是在加入了为了解决模型过度拟合的问题上加入了额外的正则化的方法形成的模型。

在非线性模型中，最基础的有逻辑回归模型，而由于逻辑回归很容易过度拟合，为了解决这个问题，我们引入了集中学习模型（ensemble learning model）。其中，random forest是最有代表性的。

从数据分析流程的角度，当我们拿到数据之后，其实80%的时间都是在做数据清洗和数据处理的工作，这可以极大程度让你了解你的数据。在特征处理中，我们需要解决类型变量的问题，因为只有数值类数据能够输入在机器学习中。所以，我们需要用encoding来解决这一类数据，如性别，地理位置等信息。

另外为了解决多重共线性，我们也可以用PCA来做feature selection，以及正则化，pearson等其他方法。

在选择模型的过程中，我们优先选择哪一种类型的模型，再进行参数调节，其中我们可以参考的指标可以是MSE，confusion matrix，ROC等等，这些可以根据不同的数据类型和模型的种类选择来决定。

最后总结的是学习一个模型需要掌握的几个要点，我以后介绍模型也会尽量根据这几个点来介绍。

另外，误差也是一个很重要的概念，包括如何理解模型的误差，他的种类，在模型出现overfitting，underfitting的时候应该如何处理等等。

今天就分享到这里了，希望大家喜欢。