課程概述
機器學習(Machine
Learning)是人工智能的核心研究領域之一,並取得了廣泛的應用效果,是引領這一輪「人工智能熱潮」的關鍵技術支撐。《機器學習初步》課程覆蓋機器學習的入門基石內容,課程主講人周志華教授是領域專家,所著《機器學習》(網友暱稱為「西瓜書」)正是本課程的教材。課程團隊成員也包括詹德川教授、葉翰嘉博士、趙鵬博士,負責課程討論與習題解答。
本課程覆蓋機器學習的基本理論框架以及核心方法,對機器學習中最重要的基礎知識點和算法思想進行講述。課程內容主要包括:緒論,模型評估與選擇,線性模型,決策樹,支持向量機,神經網絡,貝葉斯分類器,集成學習和聚類。通過構建約8周的基礎知識點體系,既能夠幫助初學者提綱挈領地瞭解機器學習領域全貌,也不失內容的專業性,使學生能夠具備後續自我學習的能力,從而可以通過閱讀相關參考文獻進行進一步的深入學習。
在2023年春季課程中,新增決策樹預剪枝與後剪枝、軟間隔支持向量機、正則化、神經網絡防止過擬合等章節
教學單元
1 緒論
1.1 教材
1.2 課程定位
1.3 機器學習
1.4 典型的機器學習過程
1.5 計算學習理論
1.6 基本術語
1.7 歸納偏好
1.8 NFL定理
2 模型評估與選擇
2.1 泛化能力
2.2 過擬合和欠擬合
2.3 三大問題
2.4 評估方法
2.5 調參與驗證集
2.6 性能度量
2.7 比較檢驗
3 線性模型
3.1 線性回歸
3.2 最小二乘解
3.3 多元線性回歸
3.4 廣義線性模型
3.5 對率回歸
3.6 對率回歸求解
3.7 線性判別分析
3.8 類別不平衡
4 決策樹
4.1 決策樹基本流程
4.2 信息增益劃分
4.3 其他屬性劃分準則
4.4 決策樹的剪枝
4.5 預剪枝與後剪枝
4.6 缺失值的處理
5 支持向量機
5.1 支持向量機基本型
5.2 對偶問題與解的特性
5.3 求解方法
5.4 特徵空間映射
5.5 核函數
5.6 軟間隔SVM
5.7 正則化
5.8 如何使用SVM?
6 神經網絡
6.1 神經網絡模型
6.2 萬有逼近能力
6.3 BP算法推導
6.4 緩解過擬合
7 貝葉斯分類器
7.1 貝葉斯決策論
7.2 生成式和判別式模型
7.3 貝葉斯分類器與貝葉斯學習
7.4 極大似然估計
7.5 樸素貝葉斯分類器
7.6 拉普拉斯修正
8 集成學習和聚類
8.1 集成學習
8.2 好而不同
8.3 兩類常用集成學習方法
8.4 Boosting
8.5 Bagging
8.6 多樣性度量
8.7 聚類
8.8 距離計算
8.9 聚類方法概述
課程列表
名稱 時間長度
第01講1.1 教材 00:04:46
第02講1.2 課程定位 00:04:51
第03講1.3 機器學習 00:03:21
第04講1.4 典型的機器學習過程 00:05:19
第05講1.5 計算學習理論 00:07:27
第06講1.6 基本術語 00:18:17
第07講1.7 歸納偏好 00:06:36
第08講1.8 NFL定理 00:10:09
第09講2.1 泛化能力 00:03:29
第10講2.2 過擬合和欠擬合 00:08:34
第11講2.3 三大問題 00:03:29
第12講2.4 評估方法 00:18:17
第13講2.5 調參與驗證集 00:04:43
第14講2.6 性能度量 00:07:51
第15講2.7 比較檢驗 00:06:54
第16講3.1 線性回歸 00:08:02
第17講3.2 最小二乘解 00:07:08
第18講3.3 多元線性回歸 00:08:12
第19講3.4 廣義線性模型 00:02:50
第20講3.5 對率回歸 00:08:06
第21講3.6 對率回歸求解 00:16:38
第22講3.7 類別不平衡 00:09:52
第23講4.1 決策樹基本流程 00:07:02
第24講4.2 信息增益劃分 00:07:29
第25講4.3 其他屬性劃分準則 00:11:16
第26講4.4 決策樹的剪枝 00:04:21
第27講4.5 缺失值的處理 00:08:13
第28講5.1 支持向量機基本型 00:05:27
第29講5.2 對偶問題與解的特性 00:05:43
第30講5.3 求解方法 00:06:01
第31講5.4 特徵空間映射 00:06:47
第32講5.5 核函數 00:12:28
第33講5.6 如何使用SVM? 00:07:13
第34講6.1 神經網絡模型 00:11:16
第35講6.2 萬有逼近能力 00:05:07
第36講6.3 BP算法推導 00:20:12
第37講7.1 貝葉斯決策論 00:04:54
第38講7.2 生成式和判別式模型 00:05:40
第39講7.3 貝葉斯分類器與貝葉斯學習 00:09:29
第40講7.4 極大似然估計 00:07:01
第41講7.5 樸素貝葉斯分類器 00:08:21
第42講8.1 集成學習 00:04:58
第43講8.2 好而不同 00:06:58
第44講8.3 兩類常用集成學習方法 00:03:01
第45講8.4 Boosting 00:12:04
第46講8.5 Bagging 00:02:51
第47講8.6 多樣性度量 00:06:50
第48講8.7 聚類 00:03:22
第49講8.8 聚類方法概述 00:11:22
|