上海交通大学机器学习课程 

Machine Learning Course at SJTU 

张伟楠, 教授

上海交通大学计算机科学与工程系
上海交通大学致远学院

课程简介

机器学习是通过非显示编程使得机器完成智能任务的一门科学方法论。在过去的20年间,机器学习得到了长足的发展,目前已经成为实现人工智能的最有效最热门的途径。基于机器学习的应用也渗透到了我们日常生活的方方面面,例如天气预测、电商个性化商品推荐、新闻分类、人脸识别、语音问答、无人驾驶汽车、居家机器人、医疗辅助诊断等等。

本课程提供机器学习的入门基础讲解,让学生能够较为全面地了解机器学习这门学科的各类问题和方法论,包括监督学习(涵盖绝大部分预测类应用,例如推荐系统、图像识别、网页排序等)和无监督学习(涵盖生成类应用,例如图片和文本生成等)以及机器学习前沿的多任务学习、迁移学习、自动机器学习和元学习等。注:强化学习部分放到大三下学期强化学习课程来讲。此外,本课程强调学生的动手能力,要求学生通过编写机器学习的程序完成智能任务,并鼓励学生不断改善模型和代码实现从而提高机器的效能。课程教材和代码练习来自《动手学机器学习》。

教材


动手学机器学习
张伟楠、赵寒烨、俞勇
人民邮电出版社,2023
ISBN: 978-7-115-61820-7

课件与授课视频


pdf

video
第1讲:机器学习简介
人工智能、数据科学、机器学习简介、机器学习应用、机器学习基本思想、模型选择、模型泛化性、判别模型与成模型
2024年2月23日

pdf

video
第2讲:线性模型
线性回归、梯度更新方式、线性回归矩阵形式、泛线性模型、最大似然估计、逻辑回归、分类指标、逻辑回归的实践
2024年3月1日

pdf

video
第3讲:KNN与双线性模型
K近邻算法、基于近邻算法的协同过滤、矩阵分解的协同过滤算法、因子分解机
2024年3月15日

pdf

video
第4讲:人工神经网络
人工神经网络简介、人工神经网络发展史、普适逼近定理、反向 传播算法介绍、反向传播算法示例、激活函数与损失函数、深度学习思想简介、梯度消失问题的解决方法、陷入局部最小的解决方法、深度学习中的正则化、卷积神经网络、循环神经网络、长短期记忆网络、长短期记忆网络使用案例
2024年3月22日

pdf

video
第5讲:支持向量机
支持向量机简介、支持向量机优化、序列最小优化算法、支持向量机核方法
2024年4月7日

pdf

video
第6讲:树模型基础
决策树、ID3决策树、CART决策树、集成学习概念及应用、集成学习的组合模型、Bagging算法、Bagging算法有效性分析
2024年4月12日

pdf

video
第7讲:集成学习
随机森林、广义加性模型、AdaBoost简介、提升算法简史、GBDT梯度提升决策树、深度森林、多粒度级联森林
2024年4月26日

pdf

video
第8讲:概率图模型
贝叶斯网络、概率图模型中的条件独立、马尔可夫网络简介、马尔可夫网络应用示例、马尔可夫网络vs贝叶斯网络、链式模型推断、树图模型推断
2024年4月28日

pdf

video
第9讲:无监督学习
无监督学习简介、K-means聚类、主成分分析、混合高斯模型的EM算法、通用EM算法、生成对抗网络、限制玻尔兹曼机简介、限制玻尔兹曼机学习算法、深度信念网络、自动编码器
2024年5月10日

pdf

video
第10讲:学习理论与模型选择
学习理论、可学性、假设空间ERM边界、VC维、模型选择、偏差-方差分解、交叉验证、特征选择
2024年5月24日

pdf

video
第11讲:从单一任务到多个任务学习、漫谈机器学习前沿话题
多任务学习、自动机器学习、迁移学习、元学习、机器学习的未来
2024年5月31日

版权申明:本课程课件和视频版权归上海交通大学张伟楠所有。

News


Nov. 4, 2024
2024年上海交通大学现场授课视频开始陆续发布至B站。