摘 要: 提出了基于貢獻矩陣" title="貢獻矩陣">貢獻矩陣的特征提取方法。首先采用基于結構分析的統計方法構造貢獻矩陣,利用貢獻矩陣對圖像預處理;通過二維主成分分析" title="主成分分析">主成分分析方法提取圖像特征。將此算法用于微鈣化點圖像特征提取,利用支持向量機" title="支持向量機">支持向量機分類器進行分類。實驗結果表明,該算法加快了訓練速度,同時有效地降低了微鈣化點檢測" title="微鈣化點檢測">微鈣化點檢測的假陽性。
關鍵詞: 支持向量機 貢獻矩陣 二維主成分分析 特征提取 微鈣化點檢測
一般認為,特征越多,描述圖像越充分,越能反映事物的內涵。然而,獲取特征數據不僅需要大量的測量設備和時間,樣本存儲占用的空間和數據處理的計算量也急劇增長,而且,還有一些對分類來說是冗余的甚至不相關的特征會影響分類速度和分類器的泛化能力。在低維特征空間描述圖像,是特征提取需要解決的問題。
主成分分析PCA(Principal Component Analysis)是一種常用的特征提取方法。它依據特征值的大小選擇特征向量" title="特征向量">特征向量,消除了特征向量間的相關性,從一定意義上體現了特征向量中不同維對識別結果貢獻大小的不同。但是至今還沒有理論證明特征值大的特征向量對分類結果的貢獻大,而且這僅僅是體現在特征向量的代數特征上,不能夠充分利用特征向量的幾何與結構分布的特點。為了更有效地選擇特征,人們已經提出了多種改進方法。文獻[1]提出了一種基于粗糙集理論的主成分分析方法,文獻[2]提出了一種基于遺傳算法的主成分分析方法,文獻[3]提出了通過反饋監督學習反復調整特征子空間的方法。為了改善分類效果,選擇更有利于分類的特征,本文提出基于貢獻矩陣的二維主成分分析方法。首先利用貢獻矩陣對圖像預處理,通過二維主成分分析方法提取圖像特征,最后利用支持向量機分類器檢測微鈣化點。
1基于貢獻矩陣的微鈣化點檢測
1.1 貢獻矩陣
通過對微鈣化點檢測問題的實驗發現,不同的特征向量對檢測結果的影響是不同的。為了更好地利用特征向量解決不同問題,本文引入了貢獻矩陣。貢獻矩陣和原始特征矩陣維數相同,且該矩陣的每一維數據反映了原始特征向量的該維對分類結果的貢獻大小,用該矩陣對原始特征向量進行預處理。
產生經驗矩陣的方法有:(1)經驗分析法,取決于人的經驗,無法通過計算機自動確定;(2)基于結構分析的統計方法,通過對大量圖像的幾何特征的分布進行分析,對乳腺X圖像中的目標進行定位、邊緣提取,通過統計確定出每一部分對分類貢獻的大小,從而確定貢獻矩陣;(3)反向優化算法,根據前兩種方法確定一個初始的貢獻矩陣,然后按照這個初始值對樣本處理,求出分類結果,反過來根據分類結果修正貢獻矩陣,最后得到一個優化的貢獻矩陣使分類效果達到最好。
本文采用第二種方法構造貢獻矩陣。由于微鈣化點是一些相對周圍區域灰度值較高的亮點,故在微鈣化點檢測問題的分類中起重要作用的是相對鄰域的亮點,對應貢獻矩陣中較大的貢獻系數,對于其他的像素,應賦予較小的貢獻系數。
1.2 二維主成分分析
經典的主成分分析[4]是基于一維向量,這里采用直接針對二維圖像數據的二維主成分分析方法。
令X為n維單位列向量。A為m×n的隨機矩陣,通過線性變換
Y=AX (1)
得到圖像A映射的特征向量。為了得到一個最優的映射向量,引入映射樣本的總類分散度來度量映射向量X的判別力。用映射特征向量協方差矩陣的跡來描述總類分散度。采用準則
J(X)=tr(Sx) (2)
其中Sx為訓練樣本的映射特征向量的協方差矩陣,tr(Sx)表示Sx的跡。最大化上述準則的物理意義就是找到映射方向X,將所有樣本映射到該方向之后能夠使映射樣本的總類分散度最大。協方差矩陣Sx定義為:
Sx=E(Y-EY)(Y-EY)t (3)
=E[AX-E(AX)][AX-E(AX)]T
于是
tr(Sx)=XT[E(A-EA)T(A-EA)]X (4)
定義圖像A的協方差矩陣Gt
Gt=E[(A-EA)t(A-EA)] (5)
從定義很容易證明Gt是非負的,而且可以直接從圖像訓練樣本得到。假設共有M個訓練樣本,第j個樣本記作m×n維矩陣Aj(j=1,2,…,M),所有樣本的平均圖像記作A′,這樣
準則(2)改寫為:
J(X)=XTGtX (7)
最優映射軸Xopt是最大化Jx的單位向量,就是Gt對應最大特征值的特征向量。一般來說,只有一個最優軸向是不夠的,通常需要選擇映射軸向的一個子集,即最大化Jx的一組正交向量X1,X2,…,Xd
實際上,最優映射軸X1,X2,…,Xd就是Gt對應前d個最大特征值的特征向量。
1.3 特征提取
利用最優映射向量提取圖像特征,對于一個給定的圖像樣本A,
Yk=AXk, k=1,2,…,d (9)
這樣得到一組映射的特征向量Y1,Y2,…,Yd,稱作圖像樣本的主成分。需要指出的是二維主成分分析的每一個主成分都是矢量,而一維主成分分析的是標量。B=[Y1,Y2,…,Yd]為圖像的特征,用作后續分類器的輸入。
1.4 支持向量機
支持向量機以結構化風險最小化代替常用的經驗風險最小化作為優化準則,可以在理論上取得更好的泛化性能。下面以兩類模式的分類為例說明其基本原理。
設樣本集(xi,yi),i=1,2,…,n,yi∈{+1,-1},其中yi是模式xi的類別標號,通過滿足Mercer條件的核函數K(u,v)將輸入模式映射到一個更高維特征空間H中,在此高維空間求取一個線性分類面,使兩類距離最大(稱為最優線性分類面)。
這相當于求解約束條件下的二次優化問題
其中C是對線性不可分樣本的分類錯誤的懲罰因子,αi為每個約束條件對應的Lagrangian乘子。
求解上述二次優化問題,可以從訓練樣本中得到一系列對應αi≠0的向量,這些特征向量稱為支持向量,分類面由這些向量決定。
其中SV為支持向量。
核函數的選擇決定了高維特征空間H的結構,常用的函數有三種:
多項式核函數
K(x,xi)=[(x·xi)+1]q (13)
RBF(Radial Basis Function)核
Sigmoid核函數
K(x,y)=tanh(v(x·xi)+c) (15)
1.5 算法描述
本文采用分等級的微鈣化點檢測:預處理、感興趣區域提取和鈣化點檢測。預處理包括圖像增強和去噪。通過提取感興趣區域,可以去除大量不含鈣化點的區域,提高訓練速度和分類精度。通過感興趣區域中鈣化點的檢測,可以得到微鈣化點。感興趣區域的提取以及微鈣化點的檢測問題都是分類問題,即將包含鈣化點的區域和不包含鈣化點的區域或者鈣化點與非鈣化點區分開。本文使用支持向量機進行分類。下面詳細介紹感興趣區域的選取部分,分為兩個階段:訓練階段和測試階段。
1.5.1 訓練階段
(1)對每一幅感興趣區域(設為p×q維)和非感興趣區域(p×q維)的圖像樣本,利用圖像統計特征計算貢獻矩陣D,且維數與圖像相同。圖像的統計特征本文采用統計平均值:
對圖像中的每個像素,首先計算其2m+1鄰域灰度均值,根據該像素的灰度值與該均值的差值大小給貢獻矩陣對應的貢獻系數賦值dij,且0<DIJ<1。若差值較大,則說明該點對分類的影響較大,應賦予較大的貢獻系數;反之,則賦予較小的貢獻系數值。
(2)利用貢獻矩陣對訓練樣本圖像預處理。這里定義一種運算
即圖像各像素與貢獻矩陣中對應位置的貢獻系數相乘。
(3)由公式(6)、(8)、(9)利用二維主成分分析提取圖像特征,作為支持向量機的輸入向量。
(4)訓練支持向量機,保存最優分類面參數。
1.5.2 測試階段
(1)對測試樣本用大小p×q的窗口,x方向以步長p/2,y方向以步長q/2遍歷,對窗口選定的每一個區域利用圖像統計特征計算貢獻矩陣。
(2)利用貢獻矩陣對測試樣本圖像預處理。
(3)利用二維主成分分析提取圖像特征。
(4)調用訓練好的支持向量機對測試樣本分類。本實驗使用RBF核函數(見公式(14)),σ=5,C=1000。
微鈣化點的檢測,基本步驟同上,只是提取的特征不同。提取的鈣化點的特征包括面積、對比度和從SRDM (Surround Region Dependence Matrix)提取的四個方向的加權和[5],作為支持向量機的輸入向量。
2 實驗結果
本文對100幅乳腺X圖像作為訓練樣本,并對其他9幅測試樣本進行測試,實驗結果如表1所示,給出了每個測試樣本中微鈣化點MC(Microcalcification)的真實個數、檢出個數以及假陽性FP(False Positive)。與主成分分析提取特征相比,本文提出的特征提取方法,運算速度提高3倍以上。而且隨著樣本數量增多,本文提出的基于貢獻矩陣的二維主成分分析比經典主成分分析具有更顯著優勢。
本文提出了基于貢獻矩陣的二維主成分分析特征提取方法。首先,與經典的對向量運算的主成分分析方法不同,二維主成分分析方法是直接針對二維圖像數據的,因而大大減少了計算量,加快了運算速度。而且,貢獻矩陣是根據特征向量對分類結果的影響大小來確定的,用來對圖像預處理,可以彌補經典主成分分析僅僅基于特征值大小選擇特征的不足,選擇更加有利于分類的特征。乳腺X線圖像中微鈣化點檢測的實驗結果驗證了算法的可行性,在保證檢測精度的前提下,大大提高了運算速度。
參考文獻
1 Roman W. Swiniarski, Andrzej Skowron. Rough set methods in feature selection and recognition. Pattern Recognition Letters[J], 2003;24: 833~849
2 Sun Zehang,Bebis,George, Miller, Ronald. Object detection using feature subset selection. Pattern Recognition [J], 2004;37(11):2165~2176
3 蔣偉峰,劉濟林. 基于pca學習子空間算法的有限漢字識別.中國圖象圖形學報[J],2001;2: 186~190
4 高秀梅,楊靜宇,袁小華,楊健. 廣義主分量分析及人臉識別.計算機工程與應用[J],2003;(11):31~32,48
5 H.D. Cheng, Xiaopeng Cai, Xiaowei Chen, Liming Hu, Xueling Lou. Computer-aided detection and classification of microcalcifications in mammograms:a survey.Pattern Recognition 36 (2003):2967~2991