當風險分數決定誰的孩子先被帶走：兒少保護演算法能讀懂 whānau 嗎？

如果一個孩子是否被帶離家庭，最後在某個後台變成一個風險分數，那我們至少要誠實面對：這不只是技術問題，而是國家如何看待家庭、貧窮、照顧失能與原住民族社群的問題。兒少保護系統本來就有艱難判斷，社工常常在資訊不足、時限逼迫、行政責任與真實風險之間拉扯。於是，預測模型看起來就像救世主：它承諾比人快、比人穩、比人少情緒。問題是，制度裡留下來的資料從來不是潔白無瑕的雪地，而更像一張反覆踩踏過的泥地。誰曾被通報、誰最常被接觸、誰比較容易進入福利系統、誰在醫療與教育紀錄裡留下更多足跡，背後都與貧窮、種族化治理、殖民歷史、城市資源不均有關。

美國賓州 Allegheny County 的 Allegheny Family Screening Tool 常被視為兒少保護預測系統的代表案例。它整合多種公共服務行政資料，用來協助篩選通報案件的優先次序。支持者會說，這種工具可以讓有限人力更早注意高風險家庭，減少純靠經驗或情緒判斷的差異。這種說法當然不是全無道理。問題在於，資料若主要來自過去政府如何接觸人民的紀錄，那模型學會的就不只是「風險」，還包括政府過去偏好如何看待某些家庭。換句話說，模型也許不是在預測「誰更可能傷害孩子」，而是在預測「誰更可能再次被制度盯上」。這兩者差很多，卻經常被故意講得很像。

兒少保護裡最需要被看見的，從來不是只有單一個體，而是照顧關係。紐西蘭 Oranga Tamariki 的 Assessment 政策 與其 Tiaki Oranga 安全、傷害與風險工具 之所以重要，就在於它們要求將 tamariki 的安全與福祉放回 whānau 或 family、關係網絡與整體 oranga 情境中理解。Tiaki Oranga 會支援評估與決策，但官方也明確說明，它本身不是完整評估。這不是浪漫化家庭，也不是假裝所有社群都天然無害，而是提醒制度：孩子的生活不是 Excel 表格，家族支持、親屬網絡、文化身份、地方連結、代際創傷與復原能力都會影響風險與保護。把這些因素粗暴地壓成一個數字，會讓制度誤以為自己理解了整體情境，實際上只是把複雜性外包給了分數。

在原住民族社會裡，家庭並不總等於狹義的核家庭。很多照顧是由祖父母、叔伯、姨舅、部落網絡與宗親關係共同承擔。若模型只讀得懂戶籍、警政紀錄與福利申請，卻讀不懂關係性照護，就會把某些原本存在的社會支持系統誤判為不穩定。這就是演算法治理最會製造的假中立：它看似不帶偏見，實際上只是更擅長忽略自己看不見的東西。更糟的是，一旦這些盲點被包進模型，前線人員還可能因為「系統這樣顯示」而更不敢提出異議。於是，責任從制度設計者一路稀釋到前線社工，再稀釋到按下確認鍵的那一瞬間，最後誰都說自己只是照流程辦事。

加拿大近年的 Child Protection Legislation Review 之所以值得注意，不只是因為它整理法制，而是因為它把 Indigenous rights、資料分享、照護權責與法律多元性放進同一個政策討論架構。這提醒我們：兒少保護不是單一機關的行政程序，而是牽涉法、資料、倫理、文化與治理權限的整體設計。如果制度真心承認原住民族兒少與家庭權利，那麼原住民族治理機構就不該只在出事後被諮詢，而應該在模型設計、資料欄位選擇、風險定義、人工覆核、申訴機制與成效評估中有實質參與。

國際上關於兒童與 AI 的規範也愈來愈清楚。UNICEF 的 AI and Children 指引 強調，涉及兒童的 AI 系統應滿足非歧視、透明、可申訴、人類監督與兒童最佳利益等原則。這些原則一旦放進兒少保護場景，問題就會變得非常具體：家庭能否知道自己被哪些資料標記？是否有機會更正錯誤紀錄？社工能否在模型分數很高時，因為現場關係證據而推翻系統建議？若模型長期對某些族群給出較高風險，制度是否定期公布偏差審計結果？若這些問題沒有答案，那麼所謂的「AI 協助決策」其實只是把權力藏進介面裡。

真正值得追問的，不是模型要不要存在，而是模型在何種邊界內存在。雙向知識的核心，不是把 whānau 變成模型的新特徵欄位，而是讓不同知識體系共同定義何謂風險、何謂照護、何謂安全。舉例來說，對某些官僚系統而言，家庭接觸多重福利可能意味風險升高；對部落社會工作者而言，那也可能代表家庭正在努力求助並維持照顧。對某些系統來說，頻繁搬遷是警訊；對另一些社群來說，流動則可能與工作季節、照護安排或親族支持有關。沒有現場脈絡的資料，就像只看體溫判斷一個人整體健康狀態：有時有用，但你若拿它決定整個人生，就過分了。

別忘了，兒少保護系統從來不是在真空中運作。很多國家的原住民族兒少過度進入安置體系，本身就和殖民政策、語言壓制、寄宿學校歷史、都市邊緣化與福利監控密切相關。若模型建立於這樣的歷史資料上，它最容易學會的，不是預防傷害，而是延續制度的舊習慣。這就像拿一張已經歪掉的地圖去訓練導航系統，最後只會更精準地把人帶去錯的地方。

因此，一個負責任的兒少保護演算法至少要做到幾件事。第一，公開說明使用哪些資料、排除哪些資料、為何排除。第二，建立族群與地域層級的公平性審查，而不是只看整體準確率。第三，保留前線人員與社群照護者的實質否決權，不讓模型凌駕於關係性判斷。第四，建立家庭可理解、可回應、可申訴的流程。第五，讓原住民族與社福社群在治理層級共管，而不是等模型做好後才被邀請參加成果發表會。後者最像治理，前者比較像裝飾。

說到底，孩子不是資料點，家庭也不是風險容器。兒少保護若真的要借助 AI，就必須承認：最難的問題從來不在演算法，而在人類願不願意面對制度自己的偏見。技術可以幫忙整理線索，卻不能替代我們回答一個根本問題——國家究竟是要幫助家庭變得更安全，還是只是更有效率地挑出那些看起來最像問題的人。

台灣真正該先做的，不是先買一套分數模型

如果把這個問題帶回台灣，第一步不該是採購一套「高風險家庭預測系統」，而是先盤點現有資料如何形成。社福、教育、醫療、警政與司法紀錄，各自代表不同制度接觸，不宜直接被當成家庭危險性的同義詞。尤其對資源不足的家庭而言，頻繁申請補助、尋求醫療或接受社工服務，可能代表積極求助，而不是風險升高。資料稽核因此要先回答：哪些欄位其實是在測量貧窮、偏鄉距離、語言障礙或制度接觸頻率？哪些結果又會因原住民族家庭較常被行政系統看見而被放大？

第二步是把「家庭」的定義交還給受影響者共同討論。紐西蘭的 whānau 概念不能原封不動移植到台灣，但它提醒我們，照顧關係可能跨越戶籍、同住與法定監護。若系統只辨認父母與子女，卻無法理解祖父母、舅姨、宗親、部落照顧網絡與文化支持，模型就可能把可動員的保護資源錯看成家庭結構不穩。這類欄位與權重，應由原住民族社工、家庭代表、地方組織與法律專業者共同審查，而不是在模型完成後才舉辦一次說明會。

第三步是建立真正能推翻模型的人工程序。所謂 human-in-the-loop 不能只是讓社工在畫面上按下確認，而要允許前線人員以訪視、親屬支持、文化脈絡與最新事件修正分數，並留下可追蹤的理由。家庭也應知道哪些資料被使用、如何更正錯誤、如何要求覆核，以及自動化建議在決策中占多大權重。兒少安全需要速度，但速度不能成為取消說明、申訴與責任歸屬的理由。

最後，成效評估不能只看「抓到多少高風險案件」。制度還要公布不同族群的誤報率、漏報率、人工推翻率、申訴處理時間，以及模型介入後是否真的增加支持服務、降低傷害，而不是單純增加調查與帶離。AI若被使用，最合理的位置應是協助整理資訊、提醒缺漏與安排資源，而不是把一個家庭的未來濃縮成無法質疑的單一分數。

source-check notes｜人工審稿核對

• Allegheny County｜Allegheny Family Screening Tool（官方說明頁）。人工核對重點：資料來源範圍、風險分數用途、是否屬「輔助」而非自動決定。
• Oranga Tamariki｜Assessment（官方政策頁）。人工核對重點：評估需與 whānau 或 family 共同建立理解，並回應 tamariki 與 rangatahi 的 oranga。
• Oranga Tamariki｜Tiaki Oranga（官方實務工具頁）。人工核對重點：這是理解當前安全、傷害與風險的工具，會支援評估，但不是完整評估本身。
• Public Health Agency of Canada｜Child Protection Legislation Review（官方說明頁）。人工核對重點：Indigenous rights、資料分享、兒少保護法制整理。
• UNICEF Innocenti｜Policy Guidance on AI for Children（政策指引）。人工核對重點：非歧視、透明、問責、人類監督與兒童最佳利益。
• 人工審稿提醒：中文內文使用 whānau、tamariki、oranga 等詞時，請再核對網站是否保留原文或加中文註解，以利一般讀者閱讀。