类神经网路发展流程.ppt

類神經網路模式(監督式學習) 倒傳遞網路(Back Propagation Network) 多層函數連結網路(Multi-layer Functional Link Network) 通用迴歸網路(General Regression Network) 學習向量量化網路(Learning Vector Quantization Network) 半徑式函數網路(Radial Basis Function Network) 類神經網路發展流程 可行性分析 系統模式輸出/輸入決定 範例收集 範例表現 範例處理 範例取樣 網路設定 網路訓練 網路測試 系統評估 系統整合 系統維護 可行性分析 領域中的系統輸入/輸出是否有關係? 是否有足夠案例可供網路訓練? 問題用現有的軟硬體設備是否能勝任? 是否用傳統技術(如統計)無法滿足需求? 是否有相似問題用類神經網路成功解決的實例? 系統模式輸出/輸入決定 專家經驗 專家的意見 工程 師的知識 操作員的經驗等 統計分析 實驗設計 變異數分析 田口分析 範例收集 好的範例的要件: 範例數目充足 範例分佈均勻 範例數據正確 範例來源：記錄、實驗、模擬、問卷 範例之分類：訓練、測試、驗證範例 範例收集 訓練範例之數目： 簡單問題：=5*輸入神經數目*輸出數目，(50?範例之數目?250) 一般問題：=10*輸入神經數目*輸出數目，(100?範例之數目?500) 困難問題：=20*輸入神經數目*輸出數目，(200?範例之數目?1000) 測試範例之數目： 大到足以確保測試*結果的可信賴度 範例表現 邏輯變數 0代表『偽』，1代表『真』 數值變數 對數化、比例化 有序分類變數 例：1表『低』、2表『中』、3表『高』 無序分類變數 例：1表『已婚』、2表『未婚』、3表『其它』 範例處理 尺度化成(Scaling) 機率對映法：將變數的某 一百分比映射到[-1,+1]的區間 區間對映法：將變數的最小值、最大值映射到期望的最小值、最大值 一般而言： 輸入變數使用機率對映法 輸出變數使用區間對映法 範例取樣 隨機取樣法 適用一般問題 循序取樣法 適用預測型問題 需要洗牌 網路設定 函數型問題： 倒傳遞網路(Back Propagation Network) 多層函數連結網路(Multi-layer Functional Link Network) 通用迴歸網路(General Regression Network) 半徑式函數網路(Radial Basis Function Network) 分類型問題： 倒傳遞網路 多層函數連結網路 通用迴歸網路 學習向量量化網路(Learning Vector Quantization Network) 半徑式函數網路 網路訓練 學習循環(Learning Cycle) 簡單問題：300次 一般問題：1000次 困難問題：3000次 網路測試工具 收歛迭代資料 收歛圖(誤差均方根， RMS) 結果輸出資料 函數型：散佈圖、相關係數與誤差均方根 分類型：混亂矩陣、誤判率(Error Rate) 權重矩陣 連結資料權重直方圖(Weight Histogram) 敏感度分析 網路測試步驟 觀察與判斷 觀察網路的誤差收歛過程。 偵測與除錯 如果部收歛，判斷是否為軟體操作錯誤造成。 分析與改進 若確定操作無誤，即收歛品質不佳。 收歛品質不佳原因 系統模式不當。 範例收集不當。 數目不足。 分佈不均勻。 數據不正確。 範例表現不當。 範例處理不當。 範例取樣不當。 網路設定不當。 架構 參數 網路訓練不當。 學習不足 學習過度 系統評估 迴歸分析 用於函數型問題。 時間數列分析 用於預測型問題。 判別分析 用於分類型問題。 系統整合 轉換成程式 可獨立執行 可與其他系統整合 系統維護 收集補充新範例。 再執行網路訓練。 應用於系統上。 類神經網路實例應用 函數型問題 推估： 容易得到的資料推測不易得到的數值型態資料。 所謂『不易』指成本與時間上不易取得。 預測： 迄今已知的資料推測迄今未知的數值型態資料。 分類型問題 容易得到的資料推測不易得到的分類型態資料。 評估、決策、診斷、分類 類神經網路產業應用 工業應用 商業應用 管理應用 科學應用 資訊應用 其他應用 工業應用 產品品質分析 機電設備診斷 化工程序診斷 非破壞檢驗判釋 實驗數據模型建立 工程分析與設計 商業應用 股票投資 債券投資 期貨、選擇權、外匯投資 商業信用評比 管理應用 策略管理 時程管理 品質管理 科學應用 醫學 化學 資訊應用 影像辨識 文字辨識 語音辨識 其他資訊應用 類神經網路實例 手寫辨識 類神經網路實例 手寫辨識 類神經網路實例 圖形辨識 類神經網路實例 工件辨識 類神經網路實例 工件辨識 類神經