在用支持向量機進行模型訓練時,選擇參數是首先應解決的問題,但始終沒有得到令人滿意的解決方案。
目前關於參數的選擇,主要採用經驗取值法進行試算或者採用理論方法。
用小編前期介紹過的經驗取值法進行試算,雖然可以降低運算量,但準確率較低。而且不同數學特徵的樣本的最佳參數往往相差很大,經驗中適用於一類樣本的參數未必適用於其他類型的樣本。
理論參數選擇的方法主要有留一法(Leave One Out, LOO)、k折交叉驗證法、經驗公式法等。該方法的缺點是計算量太大。
k折交叉驗證法考慮了模型的推廣能力,其思想是把學習樣本集分為k個子集,用其中k-1子集作為訓練集,另外一個子集作為測試集來檢驗,通過不斷選取不同的支持向量機參數組合進行訓練並測試,最終選擇使得訓練精度和檢驗精度都滿足要求的參數值作為最優參數組合,作為訓練模型的參數。這種方法的缺點是計算量太大,具體實施時幾乎等同於直接對全部樣本進行訓練來不斷尋優的過程,留一法是k折交叉驗證法的特例。
相關推薦
'初中數學解題方法——選擇填空篇'
"文章來源:初中數學方法→→→數學大師:shuxueds01第一部分:選擇題解題方法1排除選項法選擇題因其答案是四選一,必然只有一個正確答案,那麼我們就可以採用排除法,從四個選項中排除掉易於判斷是錯誤的答案,那麼留下的一個自然就是正確的答案。2賦予特殊值法即根據題目中的條...
'高中數學:三角形“四心”的向量表示'
"平面向量是歷年高考必考的熱點與重點,一般為中檔偏易的選擇題或填空題,命題突出考查向量的基本運算與工具性,並滲透對數學運算和數學建模等核心素養的考查。在解答題中常和三角函數、直線與圓錐曲線的位置關係等問題相結合,主要以已知條件的形式出現,涉及向量共線、數量積等。例題解題反思...
'初中數學經典的幾個幾何模型-方法提煉'
"幾何是初中數學中非常重要的內容,一般會在壓軸題中進行考察,而掌握幾何模型能夠為解答題目和考試節省不少時間,這次整理了彙總了中學階段數學中常用的幾個幾何模型,目的就是讓學數學變得有系統性、模塊性、簡潔性。掌握模型數學,形成既定解題思維,在以後的解答過程中,就能夠避免思維上的...
25道題檢測你對支持向量機算法的掌握程度
介紹在我們學習機器算法的時候,可以將機器學習算法視為包含刀槍劍戟斧鉞鉤叉的一個軍械庫。你可以使用各種各樣的兵器,但你要明白這些兵器是需要在合適的時間合理的...
機器學習中的數學基礎(1)——向量和範數
從今天開始,我將開設一個機器學習數學基礎的系列。主要介紹機器學習中經常用到的那些數學知識,方便大家入門。一說起數學,有人會覺得很難。其實在這個系列中,我將...
數形結合(解析幾何與向量)
遇到一個非常不錯的小題,這題可以作為一個大題的,此題考察內容基礎而且豐富裡面有一個橢圓方程,我們學的那個是標準方程,這個也是橢圓,只不過中心是(1,1)不...
AI產品經理必懂算法:支持向量機SVM
作為AI產品經理必懂算法的第二篇,來了解一下支持向量機SVM算法,英文全稱是“Support Vector Machine”。在機器學習中,SVM是監督學...
如何理解矩陣的特徵向量和特徵值?
矩陣是一個非常抽象的數學概念,很多同學都對其望而生畏。但是,如果能夠具體的理解了內部含義,就如同打開了一扇新的大門。本文主要講的是特徵向量(Eigenve...
推薦中...