AI學會了「原住民長什麼樣」，但誰准它學？聯合國把資料主權問題推進生成式AI時代

# AI學會了「原住民長什麼樣」，但誰准它學？聯合國把資料主權問題推進生成式AI時代

從一張刻板影像問起

聯合國文章以生成原住民族影像為入口，指出模型可能反覆產生羽飾、串珠與旅遊宣傳式人物。這不只是畫面不好看，而是資料如何把多元社群壓縮成少數符號的問題。當使用者說「AI學會了原住民長什麼樣」，下一個問題必須是：哪些人提供了資料、誰定義正確、誰能要求停止？

人工智慧依賴既有資料

生成式人工智慧不是從空白學習，它依賴文字、影像、語言、地圖、典藏與使用者回饋。聯合國文章提醒，原住民族土地、知識、語言與身體長期被外部研究與治理，若新的系統沿用同一種抽取邏輯，技術可能只是把舊權力關係換成更快的介面。

資料主權問的是誰有權決定

資料主權不只是在個人資料表上勾選同意，而是社群對資料如何被收集、保存、存取、詮釋與使用保有權能。聯合國文章把它連到自決，GIDA 的公報則將 Indigenous Data Sovereignty 與 Indigenous Data Governance 帶入人工智慧。兩者都要求治理者把社群當成權利持有人，而不是只當受訪者。

同意必須穿過整個生命週期

人權理事會側邊會議的說明把風險放在資料抽取、人工智慧與神經科技的交會，也強調同意與治理不能只在收集資料時出現。訓練、標註、微調、部署、評估、更新、再利用與公開輸出，每一步都可能改變風險。一次簽名不能自動授權所有未來用途。

CARE 與 Local Contexts 不是萬能解

CARE 原則與 Local Contexts 標籤能協助說明集體利益、權威、責任與地方脈絡，但它們不會自動完成同意、代表性、利益回返、資安或法律責任。標籤若由外部機構單方面加上，甚至可能變成新的裝飾。真正的治理要有社群決定、可拒絕、可更正、可追蹤與有資源執行。

RAG 也必須懂得不回答

檢索增強生成系統常被說成只取可信資料，因此比較安全；但如果索引收進不應公開的文化內容，或把不同社群的材料混在一起，引用來源不代表用途正當。開發者要讓權限在檢索前生效，讓拒答與部分回答可被測試，並把資料版本、使用期限與撤回狀態傳到輸出層。

資料流程至少要拆成八個問題

實務上可依序問：資料如何取得、誰同意、誰標註、誰訓練、誰能查詢、輸出如何呈現、利益如何回返、如何撤回。每一題都應有負責人與可驗證紀錄。把八題壓縮成「我們有倫理審查」或「資料公開可用」，會讓最關鍵的權力轉移消失。

輸出不只是在螢幕上完成

一張影像、一段語音或一個摘要可能進入課程、展覽、廣告、資料庫與下一個模型。輸出應標明生成方式、來源脈絡與不確定性，也要避免把模型猜測當成社群自我描述。對被描繪者而言，能看到、申訴與要求修正，是治理的一部分，不是發布後的額外服務。

典藏機構的歷史責任仍在

博物館與檔案館即使擁有合法館藏，也不代表所有再利用都自然正當。數位化提高可見度，同時可能放大錯誤命名、殖民分類與無限下載。新的 AI 專案應先檢查取得史、社群規範與回返可能，讓描述與存取規則可以被共同改寫，而不是只把舊 metadata 餵給模型。

拒絕權要能真的發生

拒絕不是一句政策宣言，而是資料工作流程中的狀態。社群要知道拒絕後會停止哪一層使用，已產生的嵌入、快取、備份與合作方副本如何處理，誰負責回覆以及何時完成。若技術上無法完全刪除，就應誠實說明限制，不能用「可撤回」四個字製造虛假的控制感。

利益回返不等於致謝

如果社群資料讓模型、研究或產品產生價值，回返可以包括經費、基礎設施、語言工具、培訓、資料副本、共同著作權或長期治理職位。單次致謝或在網站放一個社群名字，不足以回答誰受益、誰承擔風險。利益回返也要讓社群能拒絕不想要的形式，不把合作變成另一種交換壓力。

社群治理要進入決策桌

聯合國與人權理事會活動都把 Indigenous leadership 放在治理核心。這意味著社群代表不只在模型完成後驗收，而要參與標準制定、風險分類、資料存取、稽核、採購與停止決策。代表性不能只靠一位顧問完成；要公開誰被授權、任期如何、利益衝突如何處理，以及不同社群意見衝突時怎麼決定。

有些知識不該被數位化

真正包容的人工智慧未必是把所有文化材料都變成可搜尋資料。某些知識只能在特定關係、季節、地點或儀式中傳遞，某些內容可能只給特定身分。承認不可資料化，並不等於反科技，而是把社群的拒絕與保護視為知識治理的一部分。

台灣應從流程而非口號開始

台灣的語言、影像、族群研究與博物館資料各有制度脈絡，不能把國際原則直接當成完成證明。可先選一個具體資料集，與相關社群共同畫出同意、存取、修正、回返與退出流程，再讓工程、法務與採購文件對應這張圖。這比宣稱「符合 CARE」更能看出責任是否真的落地。

使用者也有一段責任

一般使用者不能把偏見全部推給模型。生成、分享與再利用前，要檢查提示是否把族群當成服裝符號，確認是否需要授權，標示人工智慧生成，並在收到社群回饋時願意停止與修正。消費者的每一次按下發布，都可能讓刻板資料再多一份訓練與流通的機會。

把拒絕與回返寫成可稽核條款

最後可把治理轉成可檢查的條款：資料集有來源與權限欄位、模型卡寫明排除內容、系統能記錄誰批准查詢、輸出帶有脈絡與申訴入口、合作合約訂出回返與撤回程序。這些工程與行政細節不會自動解決權力問題，卻能讓社群知道問題發生在哪裡、誰必須處理。

資料最小化也是一種尊重

不是所有可收集的資料都值得收集。若一個模型只需要語言學習範例，卻連同身分、地點、家族與影像一併保存，風險就會被不必要地放大。資料最小化要由社群參與決定，並在工程上落實成欄位、權限、保存期限與刪除測試，而不是只寫在倫理聲明裡。

代表性不是把人數填滿

資料中出現一張臉、幾句語言或一個社群名字，不等於社群已被正確代表。代表性還要問誰沒有被邀請、誰的方言被刪掉、誰的差異被平均、誰能修正錯誤。人工智慧的公平不能只看資料量與準確率，也要看社群是否能定義分類、拒絕不適合的摘要與要求利益回返。

讓治理檔案跟著模型走

資料集、嵌入、提示模板與輸出都可能脫離原本的合作場域。治理記錄若只存在研究計畫的附件，下一個開發者就不會知道限制。可把來源、授權、敏感度、用途、到期日與社群聯絡窗口放進機器可讀欄位與人可讀說明，並在部署、更新與移轉時重新檢查。

原傳媒AI｜依你的角色繼續追問

• 部落資料治理者：從證據、限制與具體行動繼續追問。
• AI與RAG開發者：從證據、限制與具體行動繼續追問。
• 博物館與典藏工作者：從證據、限制與具體行動繼續追問。
• 一般AI影像使用者：從證據、限制與具體行動繼續追問。

資料來源與延伸閱讀

• 聯合國：Counting (on) Indigenous Peoples: Data Sovereignty in the Age of AI
• Global Indigenous Data Alliance：2026 Indigenous Data Sovereignty and AI Communiqué
• 聯合國 Indico：資料主權與發展權側邊會議