机器学习
课程编码:180234081200P1009H
英文名称:Machine Learning
课时:40
学分:2.00
课程属性:学科核心课
主讲教师:张同
教学目的要求
本课程旨在系统介绍机器学习的核心概念、主要算法及其在多学科领域(如医学影像、材料科学、软体机器人、金融工程)的最新应用进展。通过理论讲授与实践训练,帮助学生掌握机器学习的基础方法,理解其在实际场景中的适配与挑战,具备分析和解决交叉学科问题的能力。
This course is designed to demonstrate the core concepts of machine learning and provide insights into state-of-the-art techniques. It aims to equip students with fundamental methodologies and the ability to apply machine learning across diverse interdisciplinary domains.
预修课程
高等数学(Calculus)
概率论与数理统计(Probability and Statistics)
线性代数(Linear Algebra)
Python 编程或其他编程基础(Python or general programming)
大纲内容
第一章 What is ML, types of learning, course logistics 2.0学时 张同
第1节 What is ML, types of learning, course logistics
第2节 Applications, success stories, ethics.
第3节 Hands-on machine learning tools
第二章 Linear Model & Optimization Basics 3.0学时 张同
第1节 Linear regression formualtion
第2节 Closed-form solution v.s. numeric methods
第3节 optimization basic
第三章 Optimization 4.0学时 张同
第1节 convexity
第2节 linear model -> non-linear formulation
第3节 convergence analysis: Gradient descend
第四章 model selection and model assess 3.0学时 张同
第1节 Training vs. test error, cross-validation.
第2节 generalization
第3节 Ransac algorithm
第五章 Bias, variance & regularzation 2.0学时 张同
第1节 Bias–variance tradeoff
第2节 Model regularizatione.g. LASSO
第六章 Linear Classification 4.0学时 张同
第1节 Linear Classifier and its different losses
第2节 SVM, softmax, Naïve bayes
第3节 Multiple-class classification
第七章 Kernel Method 2.0学时 张同
第1节 Kernel trick, valid kernels, SVMs
第2节 Nonlinear classification with kernels
第八章 Neural Networks 1 3.0学时 张同
第1节 Perceptron, MLP,
第2节 Bolzmann machine
第3节 Training details (loss, activations, optimizers).
第九章 Neural Networks 2 3.0学时 张同
第1节 backpropagation
第2节 CNN & deeper architecture
第3节 training strategy (batch size, learning rate)
第十章 Unsupervised Learning I – Clustering 3.0学时 张同
第1节 k-Means (Kmean++), model-based clustering,
第2节 Hierarchical clustering. Subspace Clustering
第3节 Deep Clustering and evaluation
第十一章 Unsupervised Learning II – Dimensionality Reduction 3.0学时 张同
第1节 PCA, autoencoders
第2节 Evaluation
第3节 generative models, such as VAE & GAN
第十二章 Self-supervised Learning 4.0学时 张同
第1节 Image pre-training
第2节 Generative Pre-trained Transformer
第3节 Image - Language alignment
第十三章 exam 3.0学时 张同
第1节 exam
第十四章 Final Presenation 3.0学时 张同
第1节 Final Presenation
教材信息
1、
Pattern Recognition and Machine Learning
Christopher M. Bishop
2006年8月
Springer (Information Science and Statistics series)
参考书
1、
Machine Learning: A Probabilistic Perspective
Kevin P. Murphy
2012年8月
MIT Press
2、
Deep Learning
Ian Goodfellow, Yoshua Bengio, Aaron Courville
2016年11月
MIT Press
课程教师信息
张同 长聘教轨助理教授,现任中国科学院大学长聘教轨助理教授,入选国家高层次青年人才计划、中国科学院百人计划,并获得微软铸星学者。在加入国科大之前,他先后在瑞士洛桑联邦理工学院(EPFL)、澳大利亚国立大学(ANU)和纽约大学(NYU)从事科研工作,取得了一系列具有国际影响力的研究成果,并获得了多所QS世界大学排名前100高校的教职邀请。他的学术贡献得到了国际同行的广泛认可,曾荣获ACCV 2016最佳学生论文荣誉提名,并入选CVPR 2020最佳论文候选,并多次在国际会议主办workshops。他的研究致力于通过类人学习方式探索数据的底层结构,构建统一的3D视觉、图像与语言表征体系,并开发具有自适应能力的智能系统。目前,他作为主要参与人承担两项国家自然科学基金面上项目与专项项目,重点开展表征学习相关研究。
主要研究领域:无监督/自监督视觉表征学习、三维视觉计算,以及人工生命系统。