机器学习/深度学习梳理
2018-07-28 本文已影响199人
2ce0a88c0452
之前一年断断续续地看过一些机器学习相关的内容，到现在还是没有一个完整的概念。前几周由于工作的要求，需要系统地学习深度学习，正好借这次机会梳理一下相关的内容。
机器学习与深度学习的区别
机器学习就是让计算机从大量的数据中学习到相关的规律和逻辑，然后利用学习来的规律来预测以后的未知事物。深度学习是神经网络的深层神经网络，所以机器学习包括深度学习。
学习记录
- 2018年7月：学习 cs231n 中
课程
- 机器学习： Andrew Ng 在 Coursera 开设的这一门课，是包括我在内的很多新手的机器学习入门课程。推荐这门课程的原因是整个内容覆盖面比较广，但是讲解的深度比较浅，数学推导比较少，可以解决一部分因为数学问题而畏惧的问题。不足在于提供的作业是基于 Matlab 的，目前搞机器学习的主流是使用 Python 和 Scala 之类的语言。
- 機器學習基石上以及機器學習基石下 (Machine Learning Foundations)：台大林轩田老师的课程。这两门课名字中带有基石对应到我们常用的汉语中，应该属于基础的意思。我只看过第一门课的前 4 周内容，主要讲解机器学习中的数学原理，学起来有一定的难度，适合深入理解机器学习相关内容时学习。
- Stanford University CS231n: Convolutional Neural Networks for Visual Recognition：李飞飞在斯坦福开设的与计算机图像处理相关的深度学习课程，目前在公司导师强烈下学习中。这门课由两名博士生主讲，自我感觉视频中的内容讲解很简单。不过配套的作业很有挑战性，在完成第一次作业之后，居然实现了两层神经网络。
- Deep Learning：Andrew Ng 在创立 deeplearning.ai 之后发布的系列课程，一共包括 5 个子课程。不过在 Coursera 上需要付费才能学习，所幸也可以申请奖学金免费学习，我的奖学金正在申请中，所以无法做更多的评价。
- 深度学习 ：李宏毅教授课程，中文授课，解决语言问题。
书籍
- 机器学习：周志华教授的西瓜书，买来很久，只是翻过几次，主要是注重基础知识讲解。
- 统计学习方法：侧重机器学习相关内容的数学推导
-
机器学习实战：项目式教学，利用 Python 实现一些常用的机器学习算法。
- 代码：【机器学习实战】目录结构 + 招募优化
- 我的读书笔记以及代码仓库：xiang578/MachineLearning: 机器学习实践记录
- 深度学习：花书，相当于深度学习百科全书
- 神经网络与深度学习
- 神经网络与深度学习：复旦邱锡鹏教授
- 《解析卷积神经网络—深度学习实践手册》
实战
- hunkim/DeepLearningZeroToAll: TensorFlow Basic Tutorial Labs：TensorFlow 入门教程，讲解的很详细，youtube 上也有相关的视频可以学习。
论文
- todo
网文
- 矩阵求导术（上） 以及 矩阵求导术（下）：之前在写反向传播的时候才想起来，大学里面没有老师讲过矩阵求导，
- Understanding LSTM Networks -- colah's blog
- Attention and Augmented Recurrent Neural Networks
