7.負責任AI推廣計畫邁向智慧醫療時代—從AI治理能力著手建構可信任的體系

在數位化的時代中，人工智慧（Artificial Intelligence，簡稱AI）正快速改變人類的生活，在醫療領域中應用AI也成為時代趨勢。為了促進AI在醫療領域的負責任應用，衛福部自去（2024）年9月啟動「負責任AI執行中心」補助計畫，更委託工業技術研究院執行「負責任AI推廣計畫」，設立專案辦公室來積極推動AI技術穩健導入醫療體系，打造安全可信的臨床輔助工具。

AI在醫療領域的應用雖可帶來益處，但並非毫無風險，如何確保自主性、當責性、隱私、透明、安全、公平與永續，已經成為國際關注的課題，世界衛生組織（WHO）和臺灣的《人工智慧基本法》均強調，如果缺乏適當引導，AI可能會引發倫理與監管挑戰，因此衛福部推出「負責任AI中心」，研擬出一套符合七大倫理價值的AI應用指引，期望在智慧醫療發展的同時，確保倫理與安全。

負責任AI執行中心　提升醫院AI治理能力
衛福部資訊處（簡稱資訊處）處長李建璋表示，AI要落地醫療場域前必須要先解決七大倫理危機，「最好的作法就是負責任AI的使用原則，這個議題已經在歐洲、美國和亞洲各國引發熱烈的討論，而臺灣目前在資訊處的規劃設計後，已經支持10家醫院完成倫理框架的監管辦法，並且確實落地實施」，首先是設立委員會，制定辦法來明定醫院使用AI時如何保護個資、確保資安，相關的技術細節在資訊處都有範本，供醫院參考使用。

負責任AI的使用原則可以歸納為3件事情；第一就是符合資安與隱私保護原則的管理辦法，建議可依循美國《健康保險可攜性與責任法案》或歐盟《通用資料保護條例》之原則，進行適當之隱私保護；應落實資訊安全防護機制，以降低系統被入侵或資料遭濫用的風險。其次是透明性原則與可解釋性分析，當AI工具在臨床場域使用的時候，必須要公布九大透明原則，包括AI的資料來源、訓練模型、驗證資料、適用的臨床情境、衛福部食品藥物管理署（簡稱食藥署）或其他醫學審核機構的驗證結果等，讓AI工具透明；可解釋性分析，解釋和理解人工智慧模型如何做出預測或決策的技術和方法，可解釋性分析在醫療領域尤其重要，可以提供人工智慧系統決策過程的洞見，確保臨床醫師能夠理解和驗證AI輸出的結果；第三是AI工具的生命週期管理和本地測試，由於AI工具出廠的時候，所測試的資料並不是全國性的代表樣本，因此當AI工具落地到每一家醫院時，都要做本地資料的再驗證，且這些資料必須重複驗證，每6個月到1年間，AI工具必須重新測試驗證一次，提供去識別化的資料重新訓練，當達到標準後，才能重新上架使用。

「完成資安與隱私保護、九大透明原則、可解釋性分析和生命週期管理，就是負責任AI」，李建璋表示，透過負責任AI，七大倫理危機在某種程度上能被保障、保護。當AI工具應用於醫療領域，第一個要面對的問題，就是需要符合負責任AI使用的框架，也就是「AI治理的能力」，如果醫院沒有監管AI工具的能力，則使用AI工具帶來的問題將會比AI工具解決的問題來得多，因此在邁入智慧醫療時代的第一步，是提升醫院AI治理的能力。

目前透過衛福部的輔導，全臺灣已有10家醫院成立「負責任AI執行中心」，確保AI的準確性、安全性、透明性和可解釋性，解決醫師與病患對AI的信任問題。

解決取證困難問題　提升AI準確度
AI工具落地醫療領域的第二大問題，便是「取證困難」，也就是在測試樣本中人群代表性不足，目前不管是在臺灣還是美國，當在測試AI能否臨床使用時，都是在病患與健康者間抽樣一組人去做測試，但是在實際的醫療場域中，病患從有病到健康之間是一個灰色的光譜，如果沒有用真實世界的大數據去驗證AI，AI到臨床上的正確性就會大幅下降，然而，要求AI開發廠商或資料科學家去蒐集大量樣本是相當困難的，「因此衛福部設立4家AI取證驗證中心，讓醫學中心與其他醫院組成聯盟，將資料依標準格式進行整合，以便快速提供取證相關數據，加速商品化進程」。

李建璋說，4家AI取證驗證中心包括亞東醫院、臺中榮總、高雄長庚、三軍總醫院，這4個中心可以提供跨體系、跨層級（醫學中心、區域醫院、地區醫院）的資料，透過制度的設計，讓4家AI取證驗證中心可以蒐集符合臺灣人民代表性的資料來做驗證，提升在臺灣使用AI的準確度，也設有單一窗口和透明的行政收費機制，對AI工具開發商和資料科學家來提供服務，可以大幅縮短驗證資料所需的時間，同時提升資料的品質，李建璋很自豪地說，「在國際的範疇中，AI取證驗證中心是臺灣獨步全球的制度」。

AI影響性研究中心　確立AI效益以達健保永續
目前在臺灣有超過一百種的人工智慧相關醫材，已經通過食藥署的核可，可以應用在臨床醫療上，但是在臺灣全民健保的架構下，如果要全部給付的話，必定對健保帶來相當大的財務負擔，因此衛福部必須設計一個科學方法，來決定如何優先給付對臨床病人幫助最大的項目。

因此在全臺灣成立5家「AI影響性研究中心」，補助臺北榮總、臺大、臺中榮總、成大及三軍總醫院等醫學中心組成多科學專家團隊進行AI臨床試驗研究，透過隨機臨床試驗，將病人分為兩組，一組是醫師有在AI的協助下治療病人，另一組是醫師在傳統的情境下治療病人，如果經過隨機臨床試驗證實AI協助能提升病人的預後，包含存活率、住院天數、併發症等，當這些重要的臨床指標都改善後，才會優先考慮做健保給付，「如果AI能提升病人預後，某種程度也是幫健保省下未來醫療的支出，在這種情形下，就有機會達到永續」，在不造成額外健保負擔的情況下，又能享受智慧醫療的好處。

規劃負責任AI標章　對醫院的AI治理做認證
推動臺灣醫療場域的AI治理，從輔導、評鑑認證到立法的必經之路，從2024年開始，衛福部已經輔導10家醫院做負責任AI，接下來也會以這10家醫院為種子教師示範醫院，持續推廣智慧醫療的落地。

未來，為了讓民眾更明確了解醫院使用AI的能力，衛福部目前正在規劃「負責任AI認證標章制度」，如果醫院符合負責任AI的治理框架，經過衛福部的認可，便會頒發「負責任AI認證標章」，透過標章，讓民眾瞭解AI在這間醫院是有良好的治理框架，不會產生七大倫理危機，當民眾到有標章的醫院就醫，醫師使用AI來進行診療時，也會清楚地向病人說明，讓民眾可以無後顧之憂地享受到AI帶給醫療的利益。

事實上，衛福部在推動的人工智慧升級不僅止於醫療領域，整個社會福利相關的領域，都在運用人工智慧提升政府效能，讓民眾得到更好的服務。

作為智慧政府，現今使用量最高的1966長照服務專線，即將導入智能客服，以數位客服來解決尖峰時段佔線的問題，但仍保有接線人員監控數位客服的回答，在必要時由真人即時介入，對於1966可提供的服務量、回答的精確度都有幫助，此外，針對監管網路上非法販售的管制藥品、電子煙，過去透過人工巡查成效有限，目前衛福部開發AI工具，透過人工智慧自動巡查、自動判斷文字圖像，大幅提升找到非法販售網站的機率，守護國民的健康，同時，也針對社福人員評估高風險、兒童虐待的工作流程，開發全新的AI工具，不僅減輕社福人員的工作量、加速工作進程，更能大幅提升兒童虐待早期辨識的靈敏度，即時對高風險族群提供保護。

了解更多
臺灣智慧醫療學校
臺灣智慧醫療三大中心

享新知	人氣(10)		分享
衛福部從啟動「負責任AI推廣計畫」開始，推動臺灣邁向智慧醫療時代，輔導10家醫院建立AI治理能力，逐步解決AI在落地、取證和健保給付的問題，推動AI真正落實於醫療領域，其中多項成果領先全球。
不分頁瀏覽	下載PDF	列印	轉寄