机器学习模型的python与类库实现

本repo以李航博士的《统计学习方法》为路线，逐章讲解并实现其中所有的算法；此外，还会加上常用的机器学习模型，譬如GBDT、XGBoost、Light GBM、FM、FFM等等，力争将传统的机器学习方法能够融汇贯通🎉。

统计学习方法｜感知机模型

模型理论讲解：统计学习方法｜感知机模型原理详解及实现

模型代码实现：perceptron_python.py、perceptron_sklearn.py

统计学习方法｜K近邻

模型理论讲解：统计学习方法｜K近邻算法原理详解与实现

模型代码实现：KNN_python.py、KNN_sklearn.py

统计学习方法｜朴素贝叶斯

模型理论讲解：统计学习方法｜朴素贝叶斯模型原理详解与实现

模型代码实现：Naive_Bayes_python.py、Naive_Bayes_sklearn.py

统计学习方法｜决策树

模型理论讲解：统计学习方法｜决策树模型原理详解与实现

模型代码实现： decision_tree_python.py、decision_tree_sklearn.py

统计学习方法｜logistic回归

模型理论讲解：统计学习方法｜logistic回归模型详解与实现

模型代码实现：logisitic_regression_python.py、logistic_regression_scikit-learn.py

机器学习｜softmax

模型理论讲解：机器学习｜softmax模型原理讲解与实现

模型代码实现：softmax_python.py

统计学习方法｜最大熵模型

模型理论讲解：统计学习方法｜最大熵模型原理详解与实现

模型代码实现：Max_Entropy.py

统计学习方法｜支持向量机

模型理论讲解：统计学习方法｜支持向量机模型原理详解与实现

模型代码实现：SVM_python.py、SVM_sklearn.py

统计学习方法｜AdaBoost

模型理论讲解：统计学习方法｜AdaBoost模型原理详解与实现

模型代码实现：

机器学习｜XGBoost模型原理详解与实战

模型理论讲解：机器学习｜XGBoost模型原理详解与实战

模型应用实战：xgboost_mnist.py

机器学习｜LightGBM/catBoost

模型理论讲解：机器学习｜LightGBM与catBoost模型原理详解

统计学习方法｜EM算法

模型理论讲解：统计学习方法｜EM算法与GMM模型原理详解与实现

模型代码实现：

统计学习方法｜HMM

模型理论讲解：统计学习方法｜隐马尔可夫模型原理详解与实现

模型代码实现：HMM_hmmlearn.py、HMM_python.py

统计学习方法｜CRF

模型理论讲解：统计学习方法｜条件随机场模型原理详解与实现

模型代码实现：CRF_python.py、CRF_sklearn.py

机器学习｜FM/FFM

模型理论讲解：机器学习｜FM模型与FFM模型原理详解