吴良超的学习笔记

维特比算法（Viterbi algorithm）是在一个用途非常广的算法，本科学通信的时候已经听过这个算法，最近在看 HMM（Hidden Markov model） 的时候也看到了这个算法。于是决定研究一下这个算法的原理及其具体实现，如果了解动态规划的同学应该很容易了解维特比算法，因为维特比算法的核心就是动态规划。

本文是《机器学习基石》第四讲 Feasibility of Learning 的课程笔记。通过 Hoeffding 不等式，引出了机器学习中学习的可行性。

本文是《机器学习基石》第三讲 Types of Learning 课程的笔记。主要概括性介绍了机器学习的几个分类标准及其具体分类。

本文是《机器学习基石》第二讲 Learning to Answer Yes/No 课程的笔记。主要介绍了机器学习的基本概念，以及感知机及其训练算法 PLA。

在数理统计中，常常需要通过样本来估计总体的参数，估计可划分为两大类：点估计和区间估计。点估计就是估计总体中某个参数的值，而区间估计是估计总体的某个参数落在某个区间的概率大小。本文主要讲述点估计中的矩估计法和最大似然估计法，以及针对服从正态分布的期望和方差进行区间估计。

本文主要是最优化计算这门课程的课程总结，参考的教材为《最优化计算》，主要讲述的内容是函数优化，相对于函数优化的另外一种优化是组合优化，两者的主要区别是前者的可行解是连续的，后者的可行解是离散的，或者说前者的可行解是无限的，而后者是有限的。

《Programming Collective Intelligence》（中文名为《集体智慧编程》），是一本关于数据挖掘的书籍，每一章都会通过一个实际的例子来讲述某个机器学习算法，同时会涉及到数据的采集和处理等，是一本实践性很强的书籍。

本文是本书的第三章 Discovering Groups 的读书笔记 , 主要介绍了对文本进行聚类以及对聚类后的结果进行可视化。

本文转载自 http://www.cnblogs.com/jasonfreak/p/5448462.html， 主要讲述如何通过 sklearn 完成数据挖掘中的一个完整的流程。

本文主要讲述先验概率，后验概率，共轭分布和共轭先验这几个概念。

本文转载自 http://www.cnblogs.com/jasonfreak/p/5448385.html , 在某些部分会拓展补充一些内容，全文主要讲述有关特征工程中通常使用的方法以及在 sklearn 中的相关实现。