二進前向人工神經網絡系統(tǒng)平臺實現

1.67萬字 36頁 包括外文翻譯，原創(chuàng)作品，通過查重系統(tǒng)


摘要
近年來主動學習已經成為機器學習和模式識別方面的重要組成部分不斷受到關注。主動學習的核心思想是，對于未參與初始訓練的樣本集，如何從中挑選出針對當前學習器而言最能提高其性能的樣本繼續(xù)參加訓練，以求用較少的樣本獲得性能較高的分類器。
二進前向神經網絡（Madaline）是一種離散的前向網絡，其激活函數的不連續(xù)性使得成熟的BP算法不再適用。60年代初，Widrow和Winter根據最小擾動原則提出了針對Madaline網絡特點的MRII學習算法，主要思想是要求二進神經元（Adaline）權值的調整對網絡輸出變化的影響最小，同時用BN加權和的絕對值作為衡量最小擾動原則的尺度。本文對MRII算法作了深入的分析和研究，并在其基礎上提出了一種基于樣本敏感性的Madaline主動學習算法。算法首先用部分具有代表性樣本訓練Madaline網絡，然后以BFNN網絡輸出對其輸入在給定樣本點附近變化的敏感性為尺度，主動從未參與訓練的樣本中挑選敏感性相對大的樣本繼續(xù)進行訓練，循環(huán)反復這個過程直到滿足訓練要求為止。實驗驗證了該主動學習算法在處理離散分類問題的有效性和可行性。



關鍵詞： 主動學習，二進前向神經網絡，MRII學習算法，樣本敏感性