SVM是什麽?
SVM叫做支持向量機( Support Vector Machines)是由Vanpik領導的AT&TBell實驗室研究小組
在1963年提出的壹種新的非常有潛力的分類技術, SVM是壹種基於統計學習理論的模式識別方法,主要應用於模式識別領域.由於當時這些研究尚不十分完善,在解決模式識別問題中往往趨於保守,且數學上比較艱澀,因此這些研究壹直沒有得到充的重視.直到90年代,壹個較完善的理論體系—統計學習理論 ( StatisticalLearningTheory,簡稱SLT) 的實現和由於神經網絡等較新興的機器學習方法的研究遇到壹些重要的困難,比如如何確定網絡結構的問題、過學習與欠學習問題、局部極小點問題等,使得SVM迅速發展和完善,在解決小樣本 、非線性及高維模式識別問題中表現出許多特有的優勢,並能夠推廣應用到函數擬合等其他機器學習問題中.從此迅速的發展起來,現在已經在許多領域(生物信息學,文本和手寫識別等)都取得了成功的應用。
SVM的關鍵在於核函數,這也是最喜人的地方。低維空間向量集通常難於劃分,解決的方法是將它們映射到高維空間。但這個辦法帶來的困難就是計算復雜度的增加,而核函數正好巧妙地解決了這個問題。也就是說,只要選用適當的核函數,我們就可以得到高維空間的分類函數。在SVM理論中,采用不同的核函數將導致不同的SVM算法
它是壹種以統計學理論為基礎的,以結構風險最小化的學習機學習方法,要優於神經網絡學習