大纲

一、回归算法

1：线性回归

2：逻辑回归

二、神经网络

1：深度学习

三、SVM(支持向量机)

四、聚类算法

五、将维算法

六、推荐算法

监督学习：分类问题、回归问题
费监督学习：聚类问题

1：处理分类问题的常用算法包括：逻辑回归(工业界最常用)，支持向量机，随机森林，朴素贝叶斯(NLP中常用)，深度神经网络(视频、图片、语音等多媒体数据中使用)。

2：处理回归问题的常用算法包括：线性回归，普通最小二乘回归（Ordinary Least Squares Regression），逐步回归（Stepwise Regression），多元自适应回归样条（Multivariate Adaptive Regression Splines）

3：处理聚类问题的常用算法包括：K均值（K-means），基于密度聚类，LDA等等。

4：降维的常用算法包括：主成分分析（PCA）,奇异值分解（SVD） 等。

5：推荐系统的常用算法：协同过滤算法

6：模型融合(model ensemble)和提升(boosting)的算法包括：bagging，adaboost，GBDT，GBRT

7：其他很重要的算法包括：EM算法等等。