模式识别和机器学习
模式识别是工程领域的,机器学习是计算机领域的, 但是他们也是一体两面的,他们一起在过去十年得到了坚实的发展,尤其是贝叶斯方法从学术界发展到主流,图模型作为一个基本框架出现,用于描述和应用概率模型,并且通过一系列近似推断算法,比如变量贝叶斯和期望传播算法,贝叶斯方法也得到了更大的发展。
本书,主要是深入理解模式识别和机器学习,和介绍最新的一些近况发现。 受众群是没有模式识别和机器学习经验的研究生和博士一年级学生,研究人员和实践人员。要有一些多变量微积分的知识和线性代数的知识,熟悉概率的话也是有帮助的, 当然本书自身也带有一些概率方面的知识。
本书范围很广,所以没有办法提供完备的参考书目,而且更没有打算追根溯源历史的资料,本书的目标是,提供更多的更广的细节,因为这个原因,参考科目很多都是最近的新的资料,而不是一些最原始的资料。
第一章
1.1介绍了一个多项式曲线拟合的例子,1.2介绍了一下概率论知识,比如,概率密度期望方差,贝叶斯概率,高斯分布,贝叶斯曲线拟合。介绍了概率论里面的知识之后再次讨论刚才的多项式曲线拟合的例子。1.3介绍了模型选择。1.4曲线维度。1.5介绍了决策论的一些知识,比如最小化分类错误率,最小化期望损失,拒绝选项,推断和决策,回测损失函数。1.6信息论相对熵。
第二章
概率分布
2.1二分类变量:beta分布
2.2多分类变量dirichlet分布
2.3高斯分布
条件高斯分布,边缘高斯分布
贝叶斯理论高斯变量,高斯最大似然估计
序列预测 高斯贝叶斯推断
混合高斯分布
2.4指数家族
2.5非参数方法
第三章 回归线性模型
3.1信息偏置函数模型3.2偏置变量解耦3.3贝叶斯线性回归
3.4贝叶斯模型比较
3.6固定偏置函数的局限
第四章 分类线性模型
4.1差分函数 感知器算法
4.2概率生成模型
4.3概率差分模型
4.5贝叶斯逻辑回归
第五章 神经网络