臺中榮總人工智慧模型落地實施管理要點
114年2月5日中榮數字第1148500015號函訂定
115年5月11日中榮數字第1158500294號函修訂
一、目的
(一) 本院人工智慧治理架構分為三層：
1. 人工智慧模型部署與治理政策：建立整體治理框架與風險分級制度。
2. 預測型人工智慧模型效能指標審查與規範：訂定模型統計與效能審查標準。
3. 人工智慧模型落地實施管理要點：規範模型申請、試用、確效及監督流程。
(二) 臺中榮民總醫院（下稱本院）為確保醫療及非醫療用途之人工智慧系統於導入、試用及使用期間，符合資訊安全、病人安全、倫理及法規要求，並建立一致之治理與監督機制，特訂定「臺中榮民總醫院人工智慧模型落地實施管理要點」（下稱本要點）。
(三) 本要點適用於本院導入或自行研發之人工智慧模型與系統（下稱人工智慧系統），用於臨床、教學、研究或行政作業之試用、上線與監督管理；其「落地判定」、納入/排除範圍、試驗性落地備查及靜默模式（Silent Mode）等適用範圍之認定，準用「臺中榮民總醫院臨床人工智慧模型部署與治理政策」第2.3節（落地判定、納入與排除）之規定辦理。
二、名詞定義
本要點之名詞定義，得參考「臺中榮民總醫院人工智慧模型部署與治理政策」。
三、資訊端規範
(一) 運算軟硬體配置及運算流程應符合資訊安全要求，且不得影響本院既有資訊系統之運作，運算輸入、處理過程及輸出結果，均應符合個人資料保護法、資通安全管理法及本院資訊安全與個人資料保護相關規定。
(二) 資訊室依申請科部填寫之申請書及送測機或軟體協助進行安全評估，通過後始得試用。
(三) 為維護資訊安全，試用期間本院得持續進行資訊安全檢測，如發現應改善事項，申請單位應通知人工智慧系統供應者於期限內完成修正。逾期未改善且風險持續存在者，應停止試用至改善完成。
(四) 應落實本院「資料治理」要求，推動符合FHIR等國際標準之結構化資料交換架構。高品質且具標準化之資料基礎，為確保人工智慧模型輸出品質、降低數據偏誤之核心必要條件。
四、申請人工智慧系統臨床試用
申請人工智慧系統臨床試用時，應備妥相關申請文件，送交數位醫學部收受，並由人工智慧模型落地審查小組（以下簡稱審查小組）審查通過後，由申請單位檢附申請文件及相關附件，簽請單位主管核示，並視需要會辦協同申請單位；經院長核准後，始得開始試用。試用流程完成並經評估通過後，得正式使用。
本院研發或已取得衛生福利部食品藥物管理署許可之人工智慧系統得依其風險等級、臨床需求及資源條件，優先排入審查與試用流程，相關申請試用流程，詳如「臺中榮民總醫院醫療器材軟體試用申請流程」（附表一）。
五、申請臨床試用人工智慧系統應進行確效評估
(一) 申請臨床試用人工智慧系統應進行確效評估，以確保人工智慧系統在本院環境執行之有效性與安全性。申請者應建立及留存必要之系統文件，包含模型設計原理、預期用途、模型類型、資料來源概述，以及效能驗證方法與結果；並適度提供予相關利害關係人，以提升透明度並支持知情使用。
(二) 未取得衛生福利部食品藥物管理署（TFDA）許可者，申請者應提出風險分級評估資料，以評估其風險等級及相應的試驗要求。此外，若該人工智慧系統屬於III、IV級高風險醫材，應先經臺中榮民總醫院人體研究倫理審查委員會核准，並以臨床試驗方式申請試用。
(三) 醫療用途人工智慧系統之風險分類，應參照國際醫療器材法規管理論壇（IMDRF）及衛生福利部食品藥物管理署醫療器材軟體分級分類參考指引（如表一）辦理。屬於III、IV級之高風險醫材軟體，應進行介入型確效評估；屬I、II級之低風險醫材軟體，應進行觀察型確效評估。非醫療用途人工智慧系統，依其使用情境、資料敏感性、輸出影響程度及潛在風險，分為三級管理（如表二），不適用醫材軟體風險分類。
(四) 申請者應於人工智慧系統試用或正式使用前，提供確效測量指標與確效之參考標準，作為審查與後續追蹤之依據；試用期結束後，應提交確效評估結果，交由審查小組進行評估。
1. 預測型人工智慧系統：其確效指標依「臺中榮民總醫院人工智慧模型落地使用之模型效能指標審查與規範」第三章辦理。
2. 生成式人工智慧系統：依其用途與風險等級，依「臺中榮民總醫院人工智慧模型落地使用之模型效能指標審查與規範」第四章及第五章辦理。
(五) 生成式人工智慧系統之臨床使用限制、人工覆核及簽署要求，依「臺中榮民總醫院人工智慧模型部署與治理政策」第九點規定辦理。
六、治理機制
(一) 設立審查小組：由本院依需要邀集臨床、技術、資訊安全、倫理及法務等相關領域人員組成審查小組，負責本要點所定申請、試用、確效與追蹤案件之審查。
(二) 內部審查機制：由前款本院審查小組設立內部審查機制，定期評估智慧醫療技術的應用情況，持續監測、通報及管理與錯誤、公平性、倫理及使用風險相關事項，確保其符合倫理和法律標準。
(三) 治理、風險分級、技術審查及持續監測事項，分別準用「臺中榮民總醫院人工智慧模型部署與治理政策」及「臺中榮民總醫院人工智慧模型落地使用之模型效能指標審查與規範」辦理。
(四) 使用者即時反饋機制：所有人工智慧系統均應設置使用者即時反饋機制，以利使用者即時通報錯誤、異常、不當輸出或其他風險事件，並回饋給人工智慧治理單位（數位醫學部）處理。
七、合作與協作
(一) 跨學科合作：本院得推動與學術機構、技術供應者、政府機構及其他相關機構之合作，促進人工智慧之跨專業研究、開發、驗證及應用。
(二) 國際合作：本院得參與國際人工智慧醫療相關組織、會議及交流活動，學習並分享最佳實務，以提升本院技術水準及治理能力。
八、技術開發準則
(一) 倫理設計：人工智慧系統於設計、開發、調整及導入過程中，應遵循倫理原則，確保其公平性、透明性、可追溯及問責性。
(二) 隱私保護：人工智慧系統之開發與應用，應採取適當之資料保護措施，確保個人資料、病人隱私及敏感資料之安全，並符合相關法令及本院規定。
九、系統測試與驗證
(一) 嚴格測試：人工智慧系統在部署前，應完成必要之測試、驗證或確效作業，以確認其技術性能、安全性及倫理合規性。
(二) 實地試驗：人工智慧系統於真實醫療或作業環境中試用時，應蒐集及分析使用回饋，並視需求進行調整與優化。
十、系統部署與監測
(一) 逐步部署：人工智慧系統應依核定之用途、風險等級及審查結果，分階段逐步部署，以確保各階段之技術性能、安全性及合規性均經充分驗證。
(二) 持續監測：應建立持續監測機制，定期追蹤系統運行狀況，並依其用途與風險等級，評估其在不同族群、情境或使用條件下之表現差異與潛在偏差，將結果納入持續監測與治理紀錄，並視需要與相關利害關係人分享，以支持透明度並建立信任。
1. 預測型人工智慧系統：應依「臺中榮民總醫院醫療器材軟體定期追蹤流程」（附表二）之流程定期辦理追蹤，並提交相關監測資料與必要文件。
2. 生成式人工智慧系統：於試用及使用期間，應留存必要紀錄；並依「臺中榮民總醫院醫療器材軟體定期追蹤流程」（附表二）辦理定期追蹤及文件提交。惟事件通報與處置應即時執行，不得以定期追蹤為限。
(三) 稽核與回復機制：人工智慧系統於試用及使用期間，應透過適當之稽核工具與紀錄機制，定期檢核功能目標達成情形，並監測系統可用性風險（如預測延遲、停機或服務中斷）。發生重大異常或系統故障時，應具備回復或替代運作計畫（如人工接手、系統降級或暫停使用），以維持臨床或作業流程之連續性，並於復原後完成原因分析與改善。
十一、風險識別與評估
(一) 全面風險評估：人工智慧系統於開發、申請、部署及使用過程中，應依其預期用途，依循最佳實務辦理風險與倫理適切性評估，以確認其設計、功能及使用方式符合醫療倫理原則，並識別潛在的倫理、隱私、技術及法律風險，包含模型解釋性不足、輸出判斷不明確及資料來源不透明等。
(二) 定期風險審查：應定期進行風險審查，並依最新情況及回饋結果，更新及改進風險管理策略。
(三) 風險分級追蹤與治理：
1. 人工智慧系統於試用及使用期間，應依「醫材軟體依對個人或大眾健康影響程度所作分類建議」（如表一）或「非醫療用途人工智慧系統分級原則」（如表二）完成「用途風險分級」後，根據「臺中榮民總醫院人工智慧模型部署與治理政策」第六點風險分級治理框架及「人工智慧系統風險分級結果對應之追蹤頻率與治理措施表」（如表三）所定追蹤頻率，辦理追蹤與審查。
2. 人工智慧系統於試用及使用期間之燈號追蹤、靜默模式、漂移判定及次族群分析相關事項，依「臺中榮民總醫院人工智慧模型落地使用之模型效能指標審查與規範」辦理。
3. 如申請自費使用之人工智慧系統，應先完成成本效益分析，提送審查小組審議，依使用情境、效能表現及風險等級，決定是否增加追蹤頻率。經核定後，連續六個月監測穩定且效能未下降（不低於取證或本院審查核定時之效能基準）者，得恢復原追蹤頻率。
(四) 利害關係人參與評估：本院於人工智慧系統之試用、確效及使用期間，應視其用途與風險等級，適度納入利害關係人之意見，包含臨床團隊、病人或使用者代表、營運與資訊單位，以及必要時之管理階層，蒐集其實際使用回饋，共同評估系統之實用性、可信度及潛在風險，並評估其對工作流程及病人照護之影響，作為持續改善與治理調整之參考。
十二、風險緩解措施
(一) 倫理監控：應建立倫理監控機制，及時識別及處理可能的倫理問題，確保技術應用之公平性與透明性。
(二) 隱私保護：應採取適當之匿名化、去識別化及加密等措施，防止患者個人資料之洩露和濫用。
(三) 技術安全：應強化系統安全設計，定期進行安全測試和漏洞掃描，以確保系統之穩定性和可靠性。
十三、成效評估
(一) 評估指標：應建立完整的成效評估指標，涵蓋技術性能、倫理合規性、使用者體驗及實際應用影響等面向。
(二) 評估方法：應採用定量及定性評估方法，綜合考慮數據分析及使用者回饋，全面評估人工智慧系統之應用效果。
十四、持續改進
(一) 反饋機制：應建立反饋機制，定期收集及分析使用者與利害關係人之意見，識別問題和改進機會。
(二) 定期更新：應依評估結果和反饋意見，定期更新及改進系統與相關策略，以確保人工智慧技術之持續優化與發展。
(三) 升級與下架程序：系統升級應依「臺中榮民總醫院人工智慧模型升級申請流程」（附表三）辦理，並檢附必要文件申請辦理升級作業。若需終止使用，則應規定辦理下架申請。
(四) 預定變更控制計畫（PCCP）與簡化審查：針對具持續學習特性或需頻繁迭代之高風險模型，申請者於初始申請或升級時，得預先提交「預定變更控制計畫（Predetermined Change Control Plan, PCCP）」，該計畫應包含詳細之「變更描述（Description of Modifications）」與「變更程序（Modification Protocol）」。後續模型再訓練或效能優化落於該計畫核准之邊界與規格內，得適用本院簡化審查或備查機制，以提升模型迭代效率並兼顧安全性。
十五、公開報告與透明度
(一) 定期報告：本院得視人工智慧技術之用途、風險等級及管理需要，定期辦理相關報告，以維持適當之透明度。
(二) 公開溝通：本院得依相關規定，建立適當之溝通渠道，向利害關係人或社會大眾說明人工智慧技術應用之進展及成效；惟涉及資訊安全、個人資料保護、病人隱私或依法不得公開之事項，不在此限。