Stanford cs231n
计算机视觉概述
computer vision 针对视觉数据的研究
视觉传感器的增长和发展（eg 手机）
超级多的视觉数据
思科2015研究：估计到2017 互谅网上大约80%的流量都是视频
但是视觉数据很大，接下来的问题就是如何用算法开发和利用这些数据
视觉数据真的很难理解
另一个统计youtube 每一秒 就有长达5h的视频传到youtube（eg 我的一个朋友，网易实习，视频标记，分类）
计算机视觉跨学科领域（生物，物理，cs，math）。。。
cv历史背景
视觉的历史很久很久以前，水里的动物进化出了眼睛，以为澳大利亚研究者，进化出眼睛，视力功能促进了物种数量的爆炸。视觉对于智慧的动物至关重要。
照相机的历史，留住世界。
60s研究动物的视觉处理机制，用猫来研究，观察什么会引起神经皮层的反应。视觉处理起始于视觉世界的简单结构，边缘。再认识复杂的。
《vision》david marr 70s
边缘，曲线，2.5曲面----》3d模型
同样是70s，识别和表示现实世界的试题，每个对象都由简单的几何图组成
80s，重建和识别视觉空间
目标分割
2000 face detection，adaboost实时面部检测
2006 fujjika面部检测的相机
90-00 一个非常有影响力的思想方法是:基于特征的目标识别，SIFT特征
某些特征在变化中具有整体性和不变性，所以目标识别的首要任务就是在目标上确认这些关键的特征。
整体场景识别，空间金字塔特征，方向梯度直方图
2006-2012 pascal visual object challenge 目标识别的数据集
训练数据不够，出现过拟合，组件ImageNet数据集（目标检测）
imagenet大规模视觉是被竞赛，140图像，1000类别
2012 错误率显著下降。--CNN算法（重点）
图像分类问题
2015 微软残差网络 152层
1998手写数字识别，类似2012的alexnet网络
突破性进展
1 计算能力提升，GPU具有超高并行计算能力
2 data 带标签数据集Pascal imagenet
Lecture02
image classification pipeline
图像是一堆数字，每个数字三个值组成rgb
图像识别有很多挑战：illumination deformation变形，遮挡，背景干扰
数据驱动方法
之前使用硬编码规则，计算图像边缘，将形状分类号，但是这样不可推演，对于每一个物体都要重新编写一套规则
现在：使用数据驱动的训练，抓取数据集，训练机器分类图像，总结，生成一个模型，来识别新的图像
image.png
训练函数 接受输入图片和标签输出 模型
预测函数 接受模型 对图片预测
image.png
寻找最相近的图片
image.png
在训练集中找到最相似的图片，找到其标签，这个时候就可以说测试图片是什么类别
NN分类器
对于两张图片比较
什么样的比较函数
曼哈顿距离：
image.png
image.png
image.png
k赋值大，决策边缘光滑
白色区域表示没有获得k邻近的投票，没有最近的点
k-最近邻算法
image.png
曼哈顿距离 每个像素之前的距离总总和
欧氏距离（距离是确定的，无论在什么坐标系中）
image.png
与实际解决的问题有关的超参数
机器学习中，我们关心的不是尽可能拟合，而是要让我们的分类器，我们的方法，在训练集以外的未知数据上表现更好。
image.png
测试集是个我们的算法一个评估，即在没遇到的数据上算法表现将会如何
image.png
验证集，分验证集和测试集，最后一步接触到测试集，确保测试集数据得到严格的控制
image.png
交叉验证适合于小的数据集
image.png
深度学习中，大型模型不使用
image.png
knn不适合用于图像分类
image.png
维度灾难 高维空间的像素很多
image.png
image.png
线性分类
linear classification
image.png
image.png
image.png
image.png
image.png
但
但是在现在参数化的过程中，
image.png
image.png
image.png
测试的时候我们需要的是参数
image.png
b是偏置项
image.png
线性分类是一种模板匹配方法
image.png
线性分类器每个类别只能学习一个模板
image.png
-
回顾：
image.png
image.png
线性分类器可以解释为每个种类的学习模板，对图里的每个像素以及10个分类中的一类，矩阵w里都有一些对应的项，告诉我们那个像素，对那个分类有多少影响，也就是说矩阵w里的每一行，都对应一个分类模板，如果我们解开这些行的值（成图片的大小），那么每一行又分别对应一些权重，每个图像像素值和对应的那个类别的一些权重，将这行分解回图像的大小，我们
就可以可视化学到的每个类的模板
还有一种对线性分类器的解释是，学习像素在高维空间的一个线性决策边界，其中高伟空间就对应了图片能取到的像素密度值
如何选择w？
损失函数
image.png
image.png
image.png
image.png
image.png
定量的衡量
定量的衡量w是好是坏
image.png
image.png
image.png
给出y的预测
二元svm。两个类，要么是正例要么是负例，推广到多分类SVM（支持向量机），推广到多个类别识别
image.png
image.png
image.png
SVM函数只关注于正确的分数比
一个损坏函数的全部意义在于量化不同的错误到底有多坏
加入正则项
image.png
其他损失函数：
Softmax loss
image.png
目标是促使我们计算得到的概率分布，就是通过softmax计算的结果，去匹配上述的目标概率分布，即正确的类别应该具有几乎所有的概率
svm vs softmax？
优化函数
optimization
对于参数w的一些设置，w所带来的损失，使用迭代，改进
image.png
这就是普遍使用的方法：梯度下降
image.png
函数下降最快的地方
image.png
image.png
最后网络收敛
步长是一个超参数，在那个方向前进多少距离，这个步长也被叫做学习率
（他是你需要设定的一个重要参数）
