神經(jīng)網(wǎng)絡(luò)中什么是交叉驗證,為什么要進(jìn)行交叉驗證?

交叉驗證(Cross - validation)的好處是可以從有限的學(xué)習(xí)數(shù)據(jù)中獲取盡可能多的有效信息,從而獲得更合適的兩層權(quán)值;并且此方法是從多個方向開始學(xué)習(xí)樣本,可以有效的避免陷入局部極小值。采用交叉驗證方法的前提是將神經(jīng)網(wǎng)絡(luò)已有的學(xué)習(xí)數(shù)據(jù)分為兩部分:訓(xùn)練數(shù)據(jù)和驗證數(shù)據(jù)。先對訓(xùn)練數(shù)據(jù)進(jìn)行學(xué)習(xí)得到權(quán)值,用權(quán)值檢驗驗證數(shù)據(jù)得到一個正確率,如果達(dá)到了標(biāo)準(zhǔn),則進(jìn)行下一組的訓(xùn)練數(shù)據(jù)的學(xué)習(xí),否則用訓(xùn)練樣本學(xué)習(xí)修改權(quán)值。為了得到好的學(xué)習(xí)效果,無論訓(xùn)練樣本還是驗證樣本都要盡可能參與學(xué)習(xí)。一般選取10重交叉驗證( 10 - fold cross - validation) [ 5 ]可以得到較好的學(xué)習(xí)效果。