1. 课程情况top

    • 本课程为研究生一年级选修课,40学时。
    • 旨在为模式识别与机器学习相关方向打下扎实基础
    • Course information
  2. 参考资料top

    • 李航. 统计学习方法(第二版). 清华大学出版社,2019.
    • 李航. 机器学习方法. 清华大学出版社,2022.
    • 阿斯顿·张(Aston Zhang), 李沐(Mu Li), 扎卡里·C. 立顿(Zachary C. Lipton), 亚历山大·J. 斯莫拉(Alexander J. Smola), 动手学深度学习(PyTorch版),人民邮电出版社,2023.
    • 斋藤康毅. 深度学习入门:基于Python的理论与实现. 人民邮电出版社. 2018.
  3. 课程选用开发语言Python

  4. 课程内容top

  5. 统计学习方法

         Content others
    统计学习方法第二版附ppt
    统计学习方法第二版 学习笔记、代码实现、课后习题
    lihang_book_algorithm
     
    00 python简介  
    01 机器学习和统计学习  
    02 感知机  
    03 k近邻算法  
    04 贝叶斯分类器  
    06 Logistic回归与最大熵模型  
    07 SVM及核函数  
    09 EM算法极其推广, EM算法推导ELBO, EM算法推导ELBO+Jensen  
    13 无监督学习概论  
    14 聚类方法  
    15 奇异值分解, 线性代数基础  
    16 主成分分析  
    附录 分布度量  

    【ppt参考了动手学深度学习在线课程

      Content others
    动手学深度学习(第二版)
    01 概述、线性代数和NDArray  
    03 导数、逆向传播和复杂度  
    04 线性方法、基础优化和层序回归  
    05 最大似然估计和逻辑回归  
    06 多层感知机  
    08 数值稳定性,激活函数和硬件  
    11 卷积和汇聚层  
    12 LeNet, AlexNet, VGG和NiN  
    13 Inception, 批量归一化和残差网络  
    15 图像增广,微调和样式迁移  
    16 目标检测,计算机视觉训练技巧  
    18 序列模型  
    19 循环神经网络  
    20 高级循环神经网络  
    24 注意力机制  
    24 ViT  
    25 优化问题  

    语言模型

      Content others
    语言模型 语言模型概述  
    01 文本预处理  
    02 统计语言模型  
    03 词嵌入 (Word Embeddings)  
    04 Seq2seq模型  
    05 预训练模型  

    生成模型

      Content others
    00 预备知识  
    01 AE  
    02 EM  
    03 VAE  
    04 GAN  
    05 Diffusion Model  

    三维重建

      Content others
    01 Ray tracing volume densities  
    02 EWA Volume Splatting  
    03 NeRF  
    04 3D GS  

     

  6. Homework

  7. 内容 截止时间
  8. 其它 top

    • 关于编程工具
    • matlab