課程概述
一、 教學目標
人工神經網絡是二十世紀80年代中期以來迅速發展的信息技術前沿研究領域。作為一種並行信息處理系統,神經網絡對於計算機科學、人工智能、認知科學、腦神經科學、信息科學、自動控制與機器人、系統工程等領域均有重要影響。
「神經網絡理論及應用」課程為面向工科專業及所有工科研究生開設的信息技術類課程。該課程的教學目的是通過傳統經典的神經網絡模型以及前沿深度神經網絡的學習,掌握主流神經網絡的結構和工作原理,並能夠應用其完成實際的預測回歸、分類聚類、模式識別等智能化任務,為學習者今後從事人工智能等相關研究打下良好的基礎。
二、 課程的主要內容
北京工商大學「神經網絡理論及應用」課程主要講授傳統與深度神經網絡的典型結構、基本理論、設計基礎及相關應用實例。
課程共分8章,各章內容如下:
第一章
緒論,本章討論了人腦與計算機信息處理能力的差異,分析了兩者在信息處理機制方面的特點,並闡述了人工神經網絡的概念。通過對人工神經網絡曲折的發展過程的敘述,展示了該領域的主要研究內容與理論成果。此外,簡要說明了神經網絡的基本特徵與主要功能,並通過簡要介紹神經網絡的廣泛應用使學生初步瞭解了神經網絡在信息處理方面表現出來的巨大潛力。
第二章 神經網絡基礎知識
本章重點介紹了生物神經元的結構及其信息處理機制、人工神經元數學模型、常見的網絡拓撲結構以及學習規則。其中,神經元的數學模型、神經網絡的連接方式以及神經網絡的學習規則是決定神經網絡信息處理性能的三大要素,因而是本章學習的重點。
第三章 感知器神經網絡
本章重點介紹了單層感知器的功能和局限性,由非線性單元組成的多層前饋網絡,誤差反向傳播(BP)算法,BP神經網絡設計基礎及其相關應用案例。其中BP學習算法和BP網絡設計是本章的學習重點。
第四章 自組織競爭神經網絡
本章重點介紹採用無導師學習的競爭學習神經網絡、自組織神經網絡(SOM)的網絡結構、學習規則及在模式識別與分類方面的應用;另外還介紹了組合競爭學習和有導師學習的學習向量量化網絡和對偶傳播神經網絡的網絡結構、學習規則及應用等。本章重點是SOM網絡結構、運行原理和學習算法。
第五章 徑向基函數神經網絡
本章首先介紹了正則化徑向基函數神經網絡和廣義徑向基函數神經網絡基礎知識,重點介紹了徑向基函數神經網絡學習算法及其在數據擬合、分類方面的應用案例。
第六章 支持向量機
本章首先介紹了線性和非線性支持向量機的基本原理,隨後以實際案例為基礎,介紹了支持向量機最優分類超平面的數學求解方法和支持向量機的多分類方法。
第七章 深度卷積神經網絡
本章介紹了卷積神經網絡的基本功能層及其操作原理,全面闡述了卷積神經網絡架構的拓撲構成與層級關聯,並嵌套於計算機視覺任務之目標檢測的背景下,講解了卷積神經網絡的應用示例。最後,我們聚焦於卷積神經網絡中的兩個代表性問題,即網絡退化問題、過與欠擬合問題,從網絡性能和提升手段方面進行了更深入的剖析。
第八章 循環神經網絡
本章首先介紹了循環神經網絡的網絡結構和傳遞函數,隨後介紹了其變體長短時記憶網絡、門控循環單元的網絡結構和傳遞函數,最後以實際案例為基礎,介紹了長短時記憶網絡在解決回歸、分類問題時的建模方法。
三、 課程團隊及優勢
北京工商大學「神經網絡理論及應用」課程團隊早在2000年初就開始為本科自動化專業開設「人工神經網絡」選修課程;自2004年至今為碩士研究生控制理論與控制工程專業開設「神經網絡理論及應用」專業基礎課;自2007年至今為碩士研究生控制檢測技術與自動化裝置專業開設「神經網絡理論及應用」專業基礎課;自2009年至今為控制工程專業碩士研究生開設「神經網絡應用」專業基礎課;2019年開始為模式識別與智能系統專業開設「神經網絡理論及應用」專業基礎課。自開課至今,除上述授課專業學生學習外,同時也吸引了我校管理科學與工程、計算機科學與技術、物流工程、計算機技術、應用統計、統計學、機械工程等專業學生通過選修課方式加入學習。
目前該課程已獲批我校研究生精品課程。團隊共有教師6人,教授3名、副教授2名、講師1名,人員結構組成合理且富有活力。課程團隊緊扣人工神經網絡發展潮流不斷更新教學內容,創新教學方式,從傳統人工神經網絡基本理論的講授延伸到深度神經網絡,從關注神經網絡基本理論學習拓展到網絡設計和應用實踐,秉持理論教學和實踐教學並重的教學理念,注重教學與科研工作相得益彰。目前已出版了在行業內具有較高知名度的4本教材和1本專著,其中2017年出版的《人工神經網絡理論及應用》教材成為了普通高等教育十三五規劃教材,累計出版上述教材印數已達100000冊,教材被國內985、211等50多所院校的多個本科、碩士專業使用。由於教材寫作簡明扼要,深入淺出,深受各高等院校相關專業的好評。教學成果的應用不僅使我校的相關本科專業、碩士專業學生直接受益,而且對我校其它碩士專業及國內相關碩士專業、本科專業產生了較大影響,具有良好的示範性作用。
教學單元
0 訪談
1 緒論
2 人工神經網絡基礎
2.1 人工神經元模型
2.2 人工神經網絡模型及學習
3 感知器神經網絡
3.1 單層感知器基礎知識
3.2 單層感知器功能與局限性
3.3 多層感知器引入
3.4 基於BP算法的多層感知器
3.5 標準BP算法的實現
3.6 標準BP算法的局限性與改進
3.7 BP神經網絡設計基礎
3.8 基於MATLAB的BP網絡應用實例-數據擬合
3.9 基於MATLAB的BP網絡應用實例-分類
4 自組織競爭神經網絡
4.1 競爭學習神經網絡
4.2 自組織神經網絡
4.3 自組織神經網絡應用實例
4.4 學習向量量化神經網絡
4.5 對偶傳播神經網絡
5 徑向基函數神經網絡
5.1 正則化徑向基函數神經網絡基礎
5.2 廣義徑向基函數神經網絡基礎
5.3 徑向基函數神經網絡學習算法
5.4 基於MATLAB的RBF網絡應用實例——數據擬合
5.5 基於MATLAB的RBF網絡應用實例——鳶尾花分類
6.支持向量機
6.1支持向量機基本原理
6.2支持向量機應用案例
7 卷積神經網絡
7.1 卷積神經網絡的基本架構
7.2 卷積功能層
7.3 池化層與全連接層
7.4 卷積神經網絡在目標檢測的應用
7.5 卷積神經網絡退化問題
7.6 卷積神經網絡模型的過與欠擬合問題
8.循環神經網絡
8.1初識循環神經網絡
8.2循環神經網絡
課程列表
名稱 標記 時間長度
第01講0訪談 00:06:44
第02講1緒論 00:15:17
第03講2.1人工神經元模型 00:06:59
第04講2.2人工神經網絡模型及學習 00:08:52
第05講3.1單層感知器基礎知識 00:05:47
第06講3.2單層感知器的功能與局限 00:07:18
第07講3.3多層感知器引入 00:05:13
第08講3.4基於BP算法的多層感知器 00:09:01
第09講3.5標準BP算法實現 00:06:23
第10講3.6標準BP算法的局限性與改進 00:08:16
第11講3.7BP神經網絡設計基礎 00:10:45
第12講3.8基於MATLAB的BP網絡應用實例-數據擬合 00:04:03
第13講3.9基於MATLAB的BP網絡應用實例-分類 00:03:32
第14講4.1競爭學習神經網絡 00:05:36
第15講4.2SOM神經網絡 00:03:07
第16講4.3SOM神經網絡案例 00:03:29
第17講4.4LVQ神經網絡 00:04:06
第18講4.5對偶傳播神經網絡 00:17:16
第19講5.1正則化徑向基函數神經網絡基礎 00:12:08
第20講5.2廣義徑向基函數神經網絡基礎 00:09:25
第21講5.3徑向基函數神經網絡學習算法 00:10:06
第22講5.4基於MATLAB的RBF網絡應用實例——數據擬合 00:04:20
第23講5.5基於MATLAB的RBF網絡應用實例——鳶尾花分類 00:04:07
第24講6.1 支持向量機基本原理 00:10:00
第25講6.2 支持向量機應用案例 00:10:04
第26講7.1卷積神經網絡的基本架構 00:11:18
第27講7.2卷積功能層 00:11:02
第28講7.3池化層與全連接層 00:11:41
第29講7.4卷積神經網絡在目標檢測的應用 00:10:26
第30講7.5卷積神經網絡退化問題 00:11:02
第31講7.6卷積神經網絡模型的過與欠擬合問題 00:12:00
第32講8.1 初識循環神經網絡 00:08:07
第33講8.2 循環神經網絡 00:09:00
第34講8.3 長短時記憶網絡
第35講8.4 LSTM回歸應用案例
第36講8.5 LSTM分類應用案例
|