運用數據力量 智慧防治暴力
活用大數據防止保護案件發生
話焦點
人氣(256)
運用人工智慧科技發展風險預警機制,輔助第一線社工研判個案的風險,預測保護性案件是否需介入服務及再發生的可能性,從而架建構完整的關懷網絡,讓暴力防治更有智慧,也更有力量。
 
運用科技結合社會福利 勢在必行
在保護性案件通報現場,為輔助社工判斷通報案件的風險等級,過往多開發風險評估工具,來評估被害人相關風險,例如親密關係暴力案件使用臺灣親密關係暴力危險評估表(TIPVDA),兒少保護案件有兒少保護標準化評估決策模型(SDM)等評估量表。

評估量表的運用屬於輔助性質,作為判斷通報個案的風險等級,還需要加上社工的實務經驗分析,才能得到完整的決策結果。國立臺灣大學社工系副教授趙曉芳表示,對沒有太多實務經驗的社工來說,很多時候表單上的問題都問了,卻還是無法很自信地做出判斷,擔心個案可能有受虐風險,於是選擇全部開案,這種不確定的做法容易造成行政資源浪費、效率不彰等結果。在沒有有效風險評估輔助工具的狀況下,各種人為、環境等因素,都可能影響社工在實務現場的決策與表現。而社工長期獨自承擔是否錯判的心理壓力,甚至因而引咎辭職,也是社工經驗無法傳承累積的原因之一。因此如何將人工智慧技術結合社會福利,發展風險預警機制,將是勢在必行。

透過AI預警分析推論模型 輔助社工研判個案風險
人工智慧技術快速發展,透過資料分析與行為預測,可進行風險預警與必要處置,已陸續運用在各行業別,如醫療、金融業等。隨著政府開放資料(Open Data)的推展,保護性案件領域亦開始運用大數據分析,例如2017年臺北市家庭暴力暨性侵害防治中心整理歷年家暴案件,透過區域資料建立家暴案件特徵地圖,化被動處理為主動偵測,進而達到社區預防作用;新北市政府社會局也接續提出高風險危機警示模組,針對高風險兒少通報案件,找出容易重複被通報的案件以及預測個案是否有機會進入家暴防治中心,避免再次發生兒虐事件;2018年衛福部保護服務司(簡稱保護司)提出兒少保護案件之風險預警提示機制,作為兒少保社工安排案件調查順序的輔助參考,並利用再通報特徵預測,找到潛在高關注個案。

2019年保護司針對老人保護提出「建構老人保護個案之AI預警分析實驗計畫」,委託中華電信團隊協助執行,以「資料驅動」的精神,將保護資訊系統所累積的個案資料作為學習素材,透過機器學習技術建置AI預警分析推論模型,訓練模型分辨通報個案是否具備風險,進而發展老人保護風險預警機制,輔助第一線社工研判個案的風險,提升案件處理敏感度,進而即時提供有效的介入及保護措施等服務。
老人保護個案 AI預警分析模型的建置與風險定義
相較於兒少保護與親密關係暴力的風險評估量表行之有年,趙曉芳表示,老人保護不管是在風險評估工具、機制的建立,或是相關保護服務工作,仍有強化的空間。「建構老人保護個案之AI預警分析實驗計畫」有別於以往發展量表或風險指標,這項計畫嘗試以AI預警的方向發展,在個案評估調查階段,輔助社工掌握個案的風險等級,並以「顯示預警模型解釋」功能,提供判斷此個案的風險說明,以提升社工對於個案風險的敏感度。

由於風險事件是由個案的歷程來定義,當風險可以清楚的定義及量化,就可以篩選做為AI學習的樣本。「建構老人保護個案之AI預警分析實驗計畫」之風險預警模型產出三種風險事件,分別是「需開案處理」,防範應需開案但未開案的風險;「開案後會再度被通報且開案」,防範處遇失效的風險;以及「開案後下次會再被開案且情況會更糟」。在系統呈現上,將上述風險組合區分成灰、黃、紅三種燈號顯示。

本實驗計畫以2015年至2020年累積超過3萬5千筆老人保護案件通報資料作為AI機器學習素材,透過機器學習逐步訓練累積經驗,掌握更多老人保護案件之特徵值,未來當通報案件進案時,即可從個案特徵分析其風險程度並提醒社工。因此,資料如何篩選使用,會影響設計模型預測精確度。使用服務表單等欄位資訊進行資料篩選,首先刪除與訓練目標高度相關的資訊如個案分級,同時排除與個案風險無關的欄位如受理時間,最後,建立模型訓練使用資訊,包含被害人資訊、相對人資訊以及被害人與相對人關係、案情內容、案件處理情況、案件類型等。

老人保護個案AI預警分析模型的建立,主要採用以決策樹為基礎之梯度提升(Gradient Boosting)的機器學習演算法,透過不同年度的通報案件驗證機制,讓模型在整體的預測能力上具有最佳的成效。此次的風險預警機制,除了利用燈號顯示個案風險等級外,亦重視近期受關注的解釋性AI(Explainable AI)問題,因此團隊透過解釋性分析工具(SHAP Value),透明化模型判斷風險背後所思考的因素,並以圖表方式呈現每一筆影響AI決策再通報案件之風險因子(詳如預警模型解釋示意圖)。
AI風險預警搭配社工專業 提升決策精準度
趙曉芳表示,AI風險預警分析模型是一個多數人的決定與經驗,在演算法下產出的集合體,與傳統風險評估量表相較,運用在保護性案件上的好處包含,避免因為社工經驗不足或人為因素,造成開案決定的誤差或誤判;當開案準確率提高,提升行政效率,省下錯誤嘗試的人力與時間,社工可以將心力放在困難的案例服務上,思考如何連結更多資源、發展更多網絡,甚至參加教育訓練,提升社工專業量能。趙曉芳也認為,在現今社工流動率高,服務經驗無法累積傳承的狀態下,AI風險預警分析模型的協助,可以減輕社工對於誤判的心理壓力,降低誤判結果的罪惡感,幫助社工提高工作掌握度。大數據應用是時代趨勢,AI風險預警分析模型也能提供保護性工作不錯的預警效果,那麼,AI可以取代社工進行個案風險評估嗎?趙曉芳直言,不行。在實務現場有許多細節,可能是家屬與個案的一個眼神互動,可能是現場環境的一種氛圍,需要社工的專業經驗及敏感度來查覺與判斷,大數據不能取代社工在現場看到的細節,單靠AI也無法辨識計算。趙曉芳表示,AI人工智慧技術與社工最好的搭配,是提供社工各式各樣的輔助工具,協助他們做出一個相對適當、比較安全的決策,累積經驗與自信,讓社工專業化發展更快更好。


串接外部資料 精進風險判斷因素

以AI風險預警分析模型作為社工判斷個案風險輔助,剛開始上線運用時不管是社工心態上的調整,或是對AI判斷風險結果的信任,都需要適應。趙曉芳表示,AI分析出來的結果其實也能作為傳統評估量表設計的省思,將繁複的評估內容化繁為簡,更精準地協助社工做出判斷。

趙曉芳也提醒,在分析預測保護性案件風險時,可能某些很重要、卻不在系統規範裡的判斷因素,是需要串連到各部會才能獲得的訊息。因此「建構老人保護個案之AI預警分析實驗計畫」後續的精進重點,將著重在如何從開案後的服務資料或其他外部介接資料中,找出可幫助辨別該風險群體的相對人、被害人或家庭特質,提升風險預警的精準度。