机器学习专题

从理论基础到算法实战，系统学习机器学习核心知识。

路线概览

graph TD
    A[数学基础] --> B[经典监督学习]
    A --> C[无监督学习]
    B --> D[树模型与集成学习]
    B --> E[深度学习]
    D --> F[实战项目]
    E --> F
    C --> F

文档目录

基础准备

• 数学基础回顾 — 线性代数、概率论、微积分核心知识

经典监督学习

• 线性回归 — 最小二乘法、梯度下降、正则化
• 逻辑回归 — 二分类、Sigmoid、决策边界
• 支持向量机 — 最大间隔、核函数、软间隔

树模型与集成学习

• 决策树 — 信息增益、剪枝、CART
• 随机森林 — Bagging、特征随机、OOB 验证
• XGBoost & LightGBM — 梯度提升、正则化、工业级实现

无监督学习

• K-Means 聚类 — 划分式聚类、肘部法则
• DBSCAN — 基于密度的聚类、噪声处理
• PCA 降维 — 主成分分析、特征值分解

深度学习

• 神经网络基础 — 感知机、反向传播、优化器
• 卷积神经网络 — 卷积、池化、经典架构
• RNN & Transformer — 序列建模、注意力机制

实战

• 实战项目 — 端到端机器学习项目

学习建议

1. 先过数学基础，不需要全部记住，了解核心概念即可，遇到不懂的再回头查
2. 按顺序学习监督学习算法，从线性回归开始，逐步深入
3. 每个算法都动手写代码，文档中的代码示例建议亲自跑一遍
4. 用实战项目检验学习效果，理论和手写代码之间还有工程落地这道坎