深度學習作為表示學習的重要分支,有著廣泛的應用價值。深度學習通常會基于多層的神經網絡,它能從大規模數據中提取有效特征來表示數據,從而提高機器學習算法的性能。《深度學習理論與實踐》以重慶工商大學等單位的機器學習、圖像處理課題為基礎,系統地介紹特征選擇的基本概念,以及相關的理論和算法,也對深度學習的前沿研究(如區域-卷積神經網絡等)和其在計算機視覺中的應用(如目標檢測)進行詳細介紹,后對深度學習的發展方向進行展望。
高等院校和科研機構從事機器學習的學者,從事計算機視覺、語言識別的專業技術人員
目錄
第1章 深度學習概述 1
1.1 什么是深度學習 1
1.1.1 深度學習與表示學習 7
1.1.2 深度學習與神經網絡 8
1.2 本章小結 11
第2章 神經網絡 13
2.1 神經網絡的基本原理 14
2.1.1 硬閾值單元(階躍激活函數)和符號函數 14
2.1.2 常見的激活函數 15
2.1.3 近似生物神經激活函數:Softplus和ReLU 16
2.2 神經網絡的結構 18
2.3 本章小結 23
第3章 與深度學習相關的化算法 24
3.1 無約束優化 24
3.1.1 與梯度相關的無約束化方法 25
3.1.2 線性搜索 27
3.1.3 基于梯度化方法的收斂性 30
3.2 約束優化 32
3.2.1 約束優化的基礎知識 32
3.2.2 凸優化 34
3.2.3 求解凸優化的方法 39
3.3 梯度法 43
3.4 本章小結 47
第4章 自編碼器 49
4.1 稀疏自編碼器 56
4.2 棧式自編碼器 61
4.3 去噪自編碼器 62
4.4 收縮自編碼器 69
4.5 本章小結 71
第5章 Boltzmann機與深度信念網 72
5.1 生成模型 72
5.2 受限Boltzmann機 80
5.2.1 能量模型 81
5.2.2 Boltzmann機 82
5.2.3 受限的Boltzmann機 83
5.3 深度信念網 87
5.4 本章小結 91
第6章 卷積神經網絡 92
6.1 尺度不變特征變換 93
6.2 方向梯度直方圖 97
6.3 局部二值模型 99
6.4 卷積神經網絡概述 103
6.4.1 卷積運算 103
6.4.2 卷積神經網絡的基本概念 107
6.4.3 卷積神經網絡的結構 109
6.4.4 計算卷積神經網絡的梯度 111
6.5 卷積神經網絡的新進展 113
6.5.1 圖像分類中的卷積神經網絡 113
6.5.2 目標檢測中的卷積神經網絡 117
6.5.3 空間金字塔匹配的基本原理 128
6.6 本章小結 130
第7章 深度學習應用 131
7.1 深度學習框架 131
7.2 Caffe簡介 131
7.3 一個簡單的Caffe例子 132
7.3.1 讀取Caffe框架中每層參數和數據 135
7.3.2 讀取配置文件中各層參數和數據例子 136
7.3.3 讀取已訓練好的模型參數 139
7.4 本章小節 140
附錄 141
附錄A Windows下Caffe的編譯與測試 141
附錄B 稀疏自編碼的模擬 147
參考文獻 148
高等院校和科研機構從事機器學習的學者,從事計算機視覺、語言識別的專業技術人員