目錄
第1章 深度學(xué)習(xí)概述 1
1.1 什么是深度學(xué)習(xí) 1
1.1.1 深度學(xué)習(xí)與表示學(xué)習(xí) 7
1.1.2 深度學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò) 8
1.2 本章小結(jié) 11
第2章 神經(jīng)網(wǎng)絡(luò) 13
2.1 神經(jīng)網(wǎng)絡(luò)的基本原理 14
2.1.1 硬閾值單元(階躍激活函數(shù))和符號(hào)函數(shù) 14
2.1.2 常見(jiàn)的激活函數(shù) 15
2.1.3 近似生物神經(jīng)激活函數(shù)：Softplus和ReLU 16
2.2 神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 18
2.3 本章小結(jié) 23
第3章 與深度學(xué)習(xí)相關(guān)的化算法 24
3.1 無(wú)約束優(yōu)化 24
3.1.1 與梯度相關(guān)的無(wú)約束化方法 25
3.1.2 線性搜索 27
3.1.3 基于梯度化方法的收斂性 30
3.2 約束優(yōu)化 32
3.2.1 約束優(yōu)化的基礎(chǔ)知識(shí) 32
3.2.2 凸優(yōu)化 34
3.2.3 求解凸優(yōu)化的方法 39
3.3 梯度法 43
3.4 本章小結(jié) 47
第4章 自編碼器 49
4.1 稀疏自編碼器 56
4.2 棧式自編碼器 61
4.3 去噪自編碼器 62
4.4 收縮自編碼器 69
4.5 本章小結(jié) 71
第5章 Boltzmann機(jī)與深度信念網(wǎng) 72
5.1 生成模型 72
5.2 受限Boltzmann機(jī) 80
5.2.1 能量模型 81
5.2.2 Boltzmann機(jī) 82
5.2.3 受限的Boltzmann機(jī) 83
5.3 深度信念網(wǎng) 87
5.4 本章小結(jié) 91
第6章 卷積神經(jīng)網(wǎng)絡(luò) 92
6.1 尺度不變特征變換 93
6.2 方向梯度直方圖 97
6.3 局部二值模型 99
6.4 卷積神經(jīng)網(wǎng)絡(luò)概述 103
6.4.1 卷積運(yùn)算 103
6.4.2 卷積神經(jīng)網(wǎng)絡(luò)的基本概念 107
6.4.3 卷積神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu) 109
6.4.4 計(jì)算卷積神經(jīng)網(wǎng)絡(luò)的梯度 111
6.5 卷積神經(jīng)網(wǎng)絡(luò)的新進(jìn)展 113
6.5.1 圖像分類中的卷積神經(jīng)網(wǎng)絡(luò) 113
6.5.2 目標(biāo)檢測(cè)中的卷積神經(jīng)網(wǎng)絡(luò) 117
6.5.3 空間金字塔匹配的基本原理 128
6.6 本章小結(jié) 130
第7章 深度學(xué)習(xí)應(yīng)用 131
7.1 深度學(xué)習(xí)框架 131
7.2 Caffe簡(jiǎn)介 131
7.3 一個(gè)簡(jiǎn)單的Caffe例子 132
7.3.1 讀取Caffe框架中每層參數(shù)和數(shù)據(jù) 135
7.3.2 讀取配置文件中各層參數(shù)和數(shù)據(jù)例子 136
7.3.3 讀取已訓(xùn)練好的模型參數(shù) 139
7.4 本章小節(jié) 140
附錄 141
附錄A Windows下Caffe的編譯與測(cè)試 141
附錄B 稀疏自編碼的模擬 147
參考文獻(xiàn) 148
