本書(shū)是關(guān)于支持向量機(jī)理論及算法的專著。全書(shū)共分八章:diyi章介紹了數(shù)據(jù)挖掘算法的發(fā)展歷程、支持向量機(jī)的研究現(xiàn)狀;第二章介紹了統(tǒng)計(jì)學(xué)習(xí)理論和zui優(yōu)化理論中的重要概念和定理;第三章在zui優(yōu)分類超平面基礎(chǔ)之上,詳細(xì)闡述了三類情形下的支持向量機(jī)模型;第四章至第六章依次介紹了zui小二乘支持向量機(jī)、支持向量域描述、光滑支持向量機(jī);第七章將支持向量機(jī)與其他算法集成,展示了在大規(guī)模樣本集上的分類性能;第八章展望支持向量機(jī)未來(lái)的發(fā)展趨勢(shì)。
梁錦錦,博士,西安石油大學(xué)副教授,研究方向?yàn)閦ui優(yōu)化理論、支持向量機(jī),主持縱向項(xiàng)目2項(xiàng),大學(xué)生創(chuàng)新項(xiàng)目1項(xiàng)。以diyi作者發(fā)表了論文二十余篇,其中被SCI、EI檢索9篇,核心收錄8篇,主編《積分變換與場(chǎng)論》教材1部,撰寫(xiě)13萬(wàn)字。
目錄
1緒論(1)
1.1機(jī)器學(xué)習(xí)理論(1)
1.1.1學(xué)習(xí)問(wèn)題的一般模型(2)
1.1.2經(jīng)驗(yàn)風(fēng)險(xiǎn)zui小化原則(3)
1.1.3模型復(fù)雜度和推廣能力(3)
1.1.4結(jié)構(gòu)風(fēng)險(xiǎn)zui小化原則(4)
1.2支持向量機(jī)算法及研究現(xiàn)狀(4)
1.2.1理論研究(5)
1.2.2訓(xùn)練算法(7)
1.2.3應(yīng)用研究(8)
2統(tǒng)計(jì)學(xué)習(xí)理論和zui優(yōu)化理論(10)
2.1統(tǒng)計(jì)學(xué)習(xí)理論基礎(chǔ)(10)
2.1.1學(xué)習(xí)問(wèn)題的數(shù)學(xué)表達(dá)(10)
2.1.2經(jīng)驗(yàn)風(fēng)險(xiǎn)zui小化原則(11)
2.1.3學(xué)習(xí)過(guò)程的一致性條件(11)
2.1.4學(xué)習(xí)過(guò)程收斂速率的漸進(jìn)性理論(13)
2.1.5推廣能力的泛化誤差界(14)
2.1.6結(jié)構(gòu)風(fēng)險(xiǎn)zui小化原則(14)
2.2zui優(yōu)化理論(15)
2.2.1基本概念(16)
2.2.2凸集理論基礎(chǔ)(17)
2.2.3拉格朗日乘子理論(18)
2.3本章小結(jié)(21)
3標(biāo)準(zhǔn)支持向量機(jī)算法(22)
3.1zui優(yōu)分類超平面(22)
3.2核函數(shù)理論(23)
3.3支持向量機(jī)算法(25)
3.3.1線性支持向量機(jī)(25)
3.3.2近似線性可分支持向量機(jī)(26)
3.3.3非線性支持向量機(jī)(28)
3.3.4支持向量特性(29)
3.4數(shù)值試驗(yàn)(30)
3.4.1數(shù)據(jù)預(yù)處理(30)
3.4.2實(shí)驗(yàn)結(jié)果(31)
3.5本章小結(jié)(33)
4zui小二乘支持向量機(jī)算法(34)
4.1zui小二乘支持向量機(jī)(34)
4.1.1線性zui小二乘支持向量機(jī)(34)
4.1.2非線性zui小二乘支持向量機(jī)(35)
4.2原空間zui小二乘支持向量機(jī)(36)
4.2.1線性原空間zui小二乘支持向量機(jī)(36)
4.2.2非線性原空間zui小二乘支持向量機(jī)(37)
4.2.3標(biāo)準(zhǔn)形式(38)
4.2.4仿真實(shí)驗(yàn)(39)
4.2.5小結(jié)(41)
4.3稀疏zui小二乘支持向量機(jī)(42)
4.3.1線性稀疏zui小二乘支持向量機(jī)(42)
4.3.2非線性稀疏zui小二乘支持向量機(jī)(42)
4.3.3稀疏模型L1SLSSVM(43)
4.3.4仿真實(shí)驗(yàn)(43)
4.3.5小結(jié)(46)
4.4本章小結(jié)(46)
5支持向量域描述算法(47)
5.1研究現(xiàn)狀(47)
5.2工作機(jī)理(48)
5.2.1線性空間SVDD(48)
5.2.2特征空間SVDD(49)
5.2.3支持向量特性及分布(51)
5.3約簡(jiǎn)支持向量域描述RSVDD(51)
5.3.1中心距離比值SVM(52)
5.3.2約簡(jiǎn)支持向量域描述(53)
5.3.3約簡(jiǎn)集規(guī)模(54)
5.3.4數(shù)值實(shí)驗(yàn)(55)
5.3.5結(jié)論(57)
5.4信賴支持向量域描述(57)
5.4.1信賴支持向量域描述(57)
5.4.2抽樣集規(guī)模(58)
5.4.3抽樣集分布(58)
5.4.4參數(shù)設(shè)置和復(fù)雜度(60)
5.4.5數(shù)值實(shí)驗(yàn)(61)
5.4.6結(jié)論(63)
5.6本章小結(jié)(64)
6光滑支持向量機(jī)算法(65)
6.1引言(65)
6.2Mangasasian的光滑SSVM(66)
6.2.1標(biāo)準(zhǔn)SVM(66)
6.2.2光滑支持向量機(jī)(67)
6.2.3多項(xiàng)式光滑模型(67)
6.3光滑對(duì)角加權(quán)支持向量機(jī)(69)
6.3.1二次損失函數(shù)SVM(69)
6.3.2線性光滑對(duì)角加權(quán)支持向量機(jī)(70)
6.3.3非線性光滑對(duì)角加權(quán)支持向量機(jī)(72)
6.3.4算法實(shí)現(xiàn)(76)
6.3.5數(shù)值實(shí)驗(yàn)(77)
6.4隱空間光滑支持向量機(jī)(80)
6.4.1隱空間簡(jiǎn)介(81)
6.4.2隱空間支持向量機(jī)(81)
6.4.3隱空間光滑支持向量機(jī)HS3VM (83)
6.4.4PSO參數(shù)尋優(yōu)(83)
6.4.5數(shù)值試驗(yàn)(85)
6.4.6結(jié)束語(yǔ)(87)
6.5本章小結(jié)(87)
7大規(guī)模樣本集下的支持向量機(jī)算法(88)
7.1同心超球面支持向量機(jī)HSVM(88)
7.1.1理論基礎(chǔ)(88)
7.1.2同心超球面組的構(gòu)造(90)
7.1.3算法實(shí)現(xiàn)(92)
7.1.4數(shù)值實(shí)驗(yàn)(93)
7.1.5小結(jié)(95)
7.2支持向量機(jī)的集成算法(95)
7.2.1集成學(xué)習(xí)算法概述(95)
7.2.2空間支持向量域分類器SSVDC(96)
7.2.3算法實(shí)現(xiàn)(100)
7.2.4數(shù)值實(shí)驗(yàn)(101)
7.2.5結(jié)論(105)
7.3聚類分片雙支持向量域分類器(106)
7.3.1聚類分片(106)
7.3.2雙支持向量域分類器(108)
7.3.3鏈接規(guī)則(110)
7.3.4復(fù)雜度分析(111)
7.3.5數(shù)值試驗(yàn)(111)
7.4本章小結(jié)(114)
8總結(jié)與展望(116)
8.1總結(jié)(116)
8.2展望(117)
參考文獻(xiàn)(119)