林轩田机器学习基石(1):The Learning Proble
欢迎关注公众号-AI圈终身学习。
公众号首页回复“机器学习”查看所有系列文章。
机器学习基石课程大概八周,分为四个部分:
- When Can Machines Learn?
- Why Can Machines Learn?
- How Can Machines Learn?
- How Can Machines Learn Better?
课程主页:
http://www.csie.ntu.edu.tw/~htlin/
本节笔记Lecture 1-The Learning Problem包含内容如下:
- When Can Machines Learn?(什么时候用机器学习)
- What is Machine learning(什么是机器学习)
- Applications of Machine Learning(机器学习应用)
- Components of Machine Learning(机器学习组成部分)
- Machine Learning and Other Fields(机器学习和其他领域)
一、什么是机器学习(What is Machine Learning)
机器学习和学习的异同是什么?首先学习和机器学习的共通性就是观察,他们也有差异性。
1.1 学习的流程
学习的主体是人,人通过观察(听、观、触觉)出发,经过脑袋的内化转化,变成有用的技能。流程图如下:
1.2 机器学习的流程
机器学习的主体是电脑,电脑通过观察资料(语料),经过电脑的CPU运作,变成对电脑有用的技能。流程图如下:
什么是“变成有用的技能”?技能就是在某种领域做事靠谱,比如
- 对于人,自己的英语能力、数学能力得到了提高
- 对于电脑,预测股票的能力得到了提高
因此机器学习更准确的定义是:
通过观察计算有规律的数据,根据某种评价指标,提升电脑性能。
流程图如下:
image
1.3机器学习的三个关键要素
什么时候适合使用机器学习,林老师总结三个关键要素如下:
- 编程定义不明确,普通编程难以完成的任务
- 资料数据具有某种潜藏的规律,可以学习
- 有关于潜藏的规律资料数据
(测试题)下面哪种情况最适合使用机器学习?
- 预测小女孩下一次哭的时间是奇数还是偶数(No,没有规律)
- 判断一个图是否有环(No,可以编程定义明确)
- 预测下一个十年地球是否会毁灭(No,没有数据)
- 决定是否同意给用户办理信用卡(Yes,有用户历史行为数据且难以编程解决)
二、机器学习应用(Applications of Machine Learning)
- 衣(Abu-Mostafa, 2012)
- 技能:穿衣搭配推荐
- 数据:衣服销售数字+顾客调差反馈
- 食(Sadilek et al., 2013)
- 技能:正确告诉餐厅食物中毒的可能性
- 数据:用户的Twitter数据(评论的文字+餐厅地点)
- 住(Tsanas and Xifara, 2012)
- 技能:预测建房所需能源消耗
- 数据:历史修建房屋的能源消耗数据
- 行(Stalkamp et al., 2012)
- 技能:识别交通信号
- 数据:交通信号图片和含义数据
除此之外,还有教育(流利说)、金融(信用卡办理)、医疗(药效预测)、法律(摘要)、娱乐(推荐系统)等各种行业。
二、机器学习组成部分(Components of Learning)
image以信用卡办理为例,任务是给要用信用卡花钱的用户办理。机器学习组件如下:
- 输入X(银行用户数据特征,如年龄、性别、工资等)
- 输出Y(办卡后刷还信用卡的好坏)
- 训练数据
- 目标函数(理想的函数,表示实际训练数据的分布规律,但是未知)
- 假设集合H(hypothesis set),我们需要通过算法学到集合中最佳的假设,其对应的函数为我们希望最终的模型表达式。
机器学习整个流程可以表示如下:
image
比如以上面的信用卡办理为例,假设其中的hypothesis set H为:
- h1: 年薪 > 80万
- h2: 欠款 > 10 万
- h3: 工龄 < 2年
我们的H中的假设有好有坏,我们通过演算法A去选择最好的一个作为g。
因此我们在机器学习中常说的模型是 演算法A+假设集合H。
我们再以预测用户给歌曲打分(0-100分)为例,我们有:
训练数据D = 100万条((userid, songid), rating)对
输入X = 所有可能的(userid, songid)对
输出Y = [0, 100]
假设集合H = 将用户因素和歌曲因子相乘,并由所有可能的因素组合索引
我们以训练数据D为入口,通过演算法A选出H中最好的假设得到g。
image
四、机器学习和其他领域(Machine Learning and Other Fields)
- 机器学习与统计
- 机器学习与数据挖掘
- 机器学习与人工智能
总结来说:
- 统计可以实现机器学习
- 机器学习和数据挖掘相互缠绕,难以区分
- 机器学习是实现人工智能的一种方式
五、总结
image本节主要概括性的讲了机器学习的方方面面,高层笼统,概念清晰,没有太多技术性的东西。