AI 法上路了，公所最該問的不是「能不能用」：當演算法開始碰社福、醫療與緊急派遣，誰有最後決定權？

歐盟 AI Act 不是一條遠在布魯塞爾的法律新聞。它更像一面鏡子，照出所有地方政府準備把 AI 接進行政流程時最容易忽略的問題：模型可以幫忙排序、提醒、偵測異常、生成摘要，但當它開始影響人的福利、就醫、派遣與救助時，最後的決定權是否仍留在人手上？

對原鄉公所而言，這個問題尤其具體。許多服務不是抽象的「使用者體驗」，而是老人送餐、急難救助、社福資格、偏鄉醫療分流、災時撤離名冊、臨時安置與道路中斷後的資源調度。AI 若只被放在後台做分類或風險評分，看起來不像在「做決定」；但只要承辦人因為系統建議而優先處理 A、延後處理 B，演算法就已經進入公共權力的肌理。真正該問的不是能不能用 AI，而是使用 AI 後，居民還能不能知道自己被如何評估、承辦人能不能合理推翻模型、錯誤發生時誰留下紀錄與責任。

AI Act 採風險分級邏輯，高風險系統必須處理資料治理、透明度、人工監督、準確性、資安與紀錄保存等問題。對台灣地方政府而言，不必把歐盟規範直接移植成口號，卻可以把它轉成採購與內控清單。第一，任何會影響社福、醫療、教育、就業或安全資源分配的系統，都不應只用「智慧化」包裝。招標文件必須明列系統用途、輸入資料、輸出格式、人工覆核節點、錯誤回報方法與停用條件。第二，模型建議不應覆蓋在行政責任上。承辦人若只能按系統結果辦理，沒有填寫理由與更正的權限，所謂「人在迴路」就只是裝飾。

原鄉的特殊性在於，很多有效資訊不會自然存在於中央資料庫。某戶長者是否實際獨居，可能要看親族照顧網絡；某個地址是否容易到達，可能要看雨季路況與溪水狀態；某位申請人是否需要緊急協助，可能要看家庭事件、照顧者外出工作、臨時交通中斷與部落內互助關係。這些都不是模型容易從標準欄位看見的事。若地方知識只被當成「補充資料」，而不是可正式推翻或修正模型結論的治理依據，AI 只會讓既有行政盲點變得更快、更安靜。

因此，原鄉使用 AI 公共服務時，至少要建立四層制度。第一層是「用途登錄」：公所內部每一個使用 AI 的流程都應標註它是否涉及個人權益、是否會產生排序或拒絕建議、是否需要承辦人簽核。第二層是「人工覆核」：不是讓人看過畫面，而是讓人可以看見依據、加入地方情境、寫下不同意模型的理由。第三層是「居民申訴」：居民不應被迫理解模型細節，卻應知道有一個窗口可以要求重新檢視。第四層是「事後稽核」：每季抽查被系統建議拒絕、延後或降級的案件，看是否集中出現在特定村里、年齡、語言、職業或交通弱勢群體。

雙向知識在這裡不是浪漫概念，而是一套行政設計。西方風險治理可以提供分類、稽核、文件化與責任追蹤；部落與地方知識可以提供季節路徑、照顧關係、語言脈絡、社區信任與現場判斷。兩者相遇時，AI 不應只向地方索取資料，而要讓地方有權改寫模型在現場的用法。換句話說，資料可以來自中央，判斷卻不能離開地方。

對公所來說，最務實的起點不是馬上買更大的系統，而是先把現有工具分級。哪些只是文字整理？哪些會輔助承辦人判斷？哪些會影響資源排序？哪些若出錯會造成人身安全或權利損失？分級後，再決定哪些可以快速使用，哪些必須先建立覆核與申訴。尤其在急難救助、醫療派遣、災防名冊、長照與社福資格上，AI 的輸出應被視為「建議」，不是「裁定」。

若未來原鄉要導入更完整的智慧行政平台，最該放進首頁的不是炫目的準確率，而是三個按鈕：我不同意 AI 建議、我要補充在地情境、我要留下覆核紀錄。這三個按鈕看似保守，卻是公共 AI 能否被信任的關鍵。因為公共服務的價值不在於讓系統更像主管，而在於讓每一次判斷都能被說明、被修正、被追責，也能被地方知識真正參與。

進一步說，原鄉公共服務的 AI 治理不能只靠資訊室。很多風險其實發生在業務端：社福承辦人為了減少漏案而使用模型排序，衛生所為了安排巡迴醫療而使用風險名單，災防人員為了判讀撤離優先序而匯入雨量、道路與住戶資料。這些做法可能都出於善意，甚至比完全人工更能避免遺漏；但只要沒有制度化的覆核，善意也可能變成不可被質疑的黑箱。公部門最需要建立的是「可說明的例外」：系統建議拒絕，但承辦人可因實地訪視或部落照顧網絡資訊而改為通過；系統建議低風險，但村長或照服員回報近期家庭事件，承辦人可提高優先度；系統建議派車路線，但現場知道某橋梁雨後常封閉，派遣員可改道並留下理由。

這種設計也能保護承辦人。很多人以為 AI 會讓承辦人責任更重，因為錯誤仍由人承擔；其實如果採購契約、操作紀錄與覆核欄位設計得好，反而能讓責任分配更清楚。供應商要負責模型說明、版本紀錄、資安與錯誤修補；機關要負責用途界線、行政裁量與申訴處理；承辦人要負責個案判斷與文件化理由。沒有這些界線時，所有錯誤最後都會落到第一線身上，造成大家只敢照系統辦理，反而削弱公共服務的彈性。

台灣現在可以先做一套「原鄉 AI 公共服務導入備忘錄」。它不需要等中央法律完全成熟，也不必寫成艱深規範；只要列出十個問題，就能大幅降低風險：這個系統是否影響人民權益？是否會排序或拒絕？資料從哪裡來？是否包含族群、健康、家庭或位置等敏感資訊？是否有人工覆核？居民是否知道可以申訴？模型更新後是否重新測試？資料是否保留過久？是否允許地方承辦人加入現場註記？停電、斷網或災害時是否能退回人工流程？這些問題看似行政瑣碎，卻正是公共 AI 倫理落地的地方。

最值得警惕的是，AI 常以「公平一致」之名抹平差異。對都市行政而言，一致性可能是效率；對山區與離島而言，一致性若不看地形、語言、交通、照顧與災害暴露，就會變成不公平。原鄉治理應該追求的是「可被說明的一致」與「可被證明的例外」並存。AI 可以協助看見大範圍資料，地方知識則能協助辨認資料沒有看見的例外。只要這個雙軌設計成立，AI 才可能成為公共服務的工具，而不是把地方經驗邊緣化的新行政機器。

最後，原鄉公共 AI 還應保留「低科技出口」。在颱風、地震、通訊中斷或系統維護時，公共服務不能因為 AI 不可用而停止。紙本名冊、電話確認、村里幹事與部落窗口仍是韌性的一部分。真正成熟的 AI 行政不是把所有舊流程淘汰，而是知道什麼時候退回人工、什麼時候暫停自動建議、什麼時候把地方回報放在模型之上。這種可退場設計，才會讓居民相信 AI 是協助公所照顧人，而不是讓人被系統分類後無處申辯。

參考來源

• EU Artificial Intelligence Act, Regulation (EU) 2024/1689：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX:32024R1689
• European Commission, Navigating the AI Act：https://digital-strategy.ec.europa.eu/en/faqs/navigating-ai-act
• European Commission, Guidelines for providers and deployers of AI high-risk systems：https://digital-strategy.ec.europa.eu/en/policies/guidelines-ai-high-risk-systems
• European Commission, Guidelines on transparency obligations for providers and deployers of AI systems：https://digital-strategy.ec.europa.eu/en/library/guidelines-transparency-obligations-providers-and-deployers-ai-systems