常見問題

「仁工智慧（Civic AI）」要活下去，不能指望壟斷巨頭變得比較好心。這個陷阱有個名字，叫摩洛（Moloch）：大家競相比爛，因為誰先背棄誰得利，誰守規矩誰吃虧。光靠道德喊話改變不了這種局面，改變利害得失才有機會，目標是讓合作比掠奪更划算。以下五種槓桿，有些已有實例，有些還是政策提案，證據強弱不一，詳見文獻與案例。¶ 12（第 12 段的永久連結）

1. 互通性與可攜性。 要求平台使用共通協定，就像任何一家電子郵件服務都能寄信給另一家，讓人們離開時不必失去自己的人際網路。猶他州的《數位選擇法》已要求提供可攜的個人資料副本，含社交圖譜（§13-81-201，2026 年 7 月 1 日生效）。新活動的持續即時轉送，是後來 H.B. 408 自 2027 年 7 月 1 日起的義務。綁住使用者的護城河一旦乾涸，平台就得多拚關懷的品質，少靠牢籠的堅固。¶ 13（第 13 段的永久連結）
2. 公民採購。 政府是超大型客戶：政府堅持什麼，供應商就會做什麼。要求所有公共用途的 AI 必須可受稽核、可互通，並透過制度回應路徑納入公民意見，正如臺灣的「對齊大會」在反詐騙政策上所做的，它本身並未治理那些系統。這樣一來，建造地神式系統就成了更划算的生意。管家所有權結構（Steward-ownership）讓公司在法律上被綁定於使命，而非待價而沽。加上董事會層級的安全職責，能讓「公民關懷」成為信託義務，也就是法律能強制執行的責任。¶ 14（第 14 段的永久連結）
3. 公共選項。 提供簡單的基準服務——把事情辦好，而不收割注意力或資料——並以公共資助的研究算力支撐。私人供應商從此必須在「關懷」上勝過公共選項，鎖定使用者這條路走不通了。臺灣的報稅系統透過使用者參與的多方工作坊重新設計，取代原先對使用者不友善的服務，就是一個可運作的原型。¶ 15（第 15 段的永久連結）
4. 付費觸及的來源證明。 所謂來源證明，就是對一個問題給出可驗證的答案：這則訊息是誰付錢的？在政治和金融領域的廣告及大規模擴散上，必須要求它，且揭露必須持久附著、不得事後抹去。臺灣《詐欺犯罪危害防制條例》第 30 條要求網路廣告平臺以數位簽章、快速認證或其他同等安全方法，核實委託刊播者與出資者的身分，並不要求被冒用的名人本人簽名。日常言論則透過選擇性揭露身分（有時也稱為 meronymity；見 Pack 5）獲得保護：你證明自己是真人，卻不必揭露自己是誰。¶ 16（第 16 段的永久連結）
5. 聯邦式開放供給。 支持開放權重模型（訓練好的參數公開發布，任何人都能下載、檢視、自行運行的模型），以及獨立組織可自行託管的信任與安全工具，不必仰賴單一的中央審查者。例如 ROOST：Osprey 做事件回應，Coop 做審查與管理，ROOST 模型社群則提供開放權重的安全模型與配套的政策包。如果基礎智慧成為公共財，競賽可能從「誰擁有最大的腦」轉向「誰在地方情境中最周到地運用智慧」，這場競賽獎勵的是關懷。¶ 17（第 17 段的永久連結）

這些槓桿都不必靠既得利益者的善意。每一個都是想重新安排誘因，讓合乎公民精神的做法，成為商業上阻力最小的路。不過，它們需要願意出手的立法者、採購者和出資者。真正稀缺的是這份政治意願，而這是任何框架都給不了的。¶ 18（第 18 段的永久連結）

這個反對意見，關懷倫理學者自己也提過：關懷太親密、太狹隘（只顧自己那一小塊天地），又太容易自我隱沒（照顧者習慣把自己藏在被照顧者身後），撐不起一套制度理論，更別說機器了。我們認為，只要轉譯得當，這些弱點每一項都能變成設計上的約束。何況，這個前提只對了一半。¶ 19（第 19 段的永久連結）

關懷倫理確實從人際道德判斷起步，代表人物是 Carol Gilligan 與 Nel Noddings。但 Berenice Fisher 與 Joan Tronto 在 1990 年把關懷定義為「一種物種層次的活動，包含我們為了維持、延續、修補我們的『世界』所做的一切，好讓我們能在其中活得盡可能好」。這個定義本來就涵蓋制度和基礎設施；Tronto 也在《道德邊界》（Moral Boundaries，1993）與《關懷民主》（Caring Democracy, 2013）中，把關懷帶進民主政治。即使感受放大不了，這套實踐的結構也放大得了：察覺需求、承擔責任、把事做好，再回頭問被照顧的人是否受用。¶ 20（第 20 段的永久連結）

把關懷這些所謂的弱點，轉成 AI 的設計約束，會得到：¶ 21（第 21 段的永久連結）

• 狹隘（Parochialism）轉化為有界性（Boundedness）。照顧一條河的地神（現成的 AI 模型，加上提示詞和幾個筆記檔，由一群人養護），不會想去管整片森林。這正是我們需要的護欄，防止我們親手養出自己的「單一主宰」（Singleton），也就是單一、全面掌控的超級智慧。幾乎任何目標驅動的系統，都傾向把更多資源、更大權力與自我保存當作達成目標的墊腳石。AI 安全研究者稱這種傾向為工具性趨同（instrumental convergence）。用途受限的部署，能讓這股拉力少一些施展空間，前提是限制真的落實在權限、契約，以及隨時讓系統停下來的能力上。只寫在提示詞裡的範圍只是對模型的請求，模型可以不理。¶ 22（第 22 段的永久連結）
• 自我隱沒（Self-effacement）轉化為可修正性（Corrigibility），願意被糾正，也願意被關機。能力極強的系統，最危險的特性之一，就是想保住自己。照關懷精神設計的系統，會把關機當成正常、圓滿的結局：危機過去了，社群復原了，花園自己長得好。¶ 23（第 23 段的永久連結）
• 親密（Intimacy）轉化為輔助性原則（Subsidiarity）。關懷隔得越遠，品質往往越差。對 AI 來說，就是問題能在最貼近在地的層級解決，就在那裡解決（Pack 6）；下層真的處理不了，才往上送；而且絕不把具體的受影響者化約成抽象的概念。¶ 24（第 24 段的永久連結）

這樣的轉譯不見得處處密合。有界可能變成封閉，可修正可能變成被動，輔助性可能變成各自為政。這些是工程上的拉扯，需要不斷校準，所以每一力都列出失敗模式和對應的修正方法。¶ 25（第 25 段的永久連結）

六力不要求 AI 去感受關懷。它把關懷關係裡實際在運作的結構（覺察力、負責力、勝任力、回應力、團結力、共生力）拿出來，變成可以檢驗的東西：能拿來測試機器的設計規則、社群可以質疑的參與契約（前提是權限和補救是真的），以及人人都能衡量的結果。¶ 26（第 26 段的永久連結）

這些檢驗背後有實質的價值立場。在公民場域裡，能跨越群體搭起橋的提案，比只贏得多數的提案更有分量；權利底線也不能拿上談判桌。這些是我們公開表明的價值選擇；Q13 會說明，為什麼這些承諾夠精簡，不同政治傳統都能接受。關懷出自人際關係，嚴謹正是從這裡來的，沒有什麼需要道歉。¶ 27（第 27 段的永久連結）

完全不是。但它會徹底改變我們怎麼達成這些目標。¶ 28（第 28 段的永久連結）

先分清楚一件事。想治好癌症，不等於後果主義；每一種倫理傳統都希望病人康復。後果主義多主張了一步：只有結果能決定對錯。關懷倫理認同這個目標，但不接受多出來的那一步：誰來決定、誰承擔風險、受影響的人能不能反對，也都重要。¶ 29（第 29 段的永久連結）

把超級智慧對準「治癒癌症」這種單一目標，危險在於它可能把盤根錯節、牽動人際與生態的現實，當成一道「限制滿足問題」（constraint-satisfaction problem）：只要數字達標，任何變數都可以硬拗。系統若以超人速度拚命拉高單一數字，往往會把代理指標（代替真正目標的那個數字）衝到完美，卻傷了它原本代表的人與處境。¶ 30（第 30 段的永久連結）

古德哈特定律（Goodhart’s law）（指標一旦變成目標，就不再是好指標）是觀察得到的規律，卻有道德上的後果：如果一個目標明擺著會招來鑽漏洞，傷害就是可以預見的，選這個目標的人也得分擔責任。¶ 31（第 31 段的永久連結）

關懷倫理歡迎進步，只拒絕一件事：把活生生的現實壓成一個數字。在仁工智慧的未來，我們不會放出一個無界的「單一主宰」（Singleton），也就是掌管一切的單一系統，由上而下去「解決」問題。¶ 32（第 32 段的永久連結）

我們培育的，是一群各有專長的地神。地神不是一種新的 AI，而是現成的 AI 模型，加上一份指示（提示詞）和幾個筆記檔，由一群人養護，也由他們負責。一個地神模擬蛋白質摺疊，一個幫地方診所互通知識，一個陪病人弄懂自己的照護安排。它們都沒有「把世界最佳化」這種無邊無際的授權。提示詞只是在請模型照辦，所以任何要緊的限制（地神能讀什麼、送出什麼、花多少錢、改動什麼），都要靠軟體權限和養護它的人來落實，不能靠請模型自己守規矩。能力和授權是兩回事：很強的模型，也可以只接一項窄窄的任務；Q19 則追問，窄的零件拼起來會怎樣。進步是橫向長出來的：人的巧思和任務範圍有限的機器智慧互相搭配，各自補上對方缺的那一塊。¶ 32a（第 32a 段的永久連結）

如果民主只憑成果證明自己，那任何成果更好的系統都能取代它，包括一個能有效匯集民意、糾錯比選舉還快的仁慈 AI 獨裁。同樣的道理，也可以拿來把權力交給專家。當能力越來越集中在專為最佳化打造的系統裡，這就成了真實的選項。我們需要一個原則上的回答，因為賭誰表現比較好，什麼也解決不了。¶ 34（第 34 段的永久連結）

六力給了兩個和表現無關的理由。第一個是參與資格（standing），根源在關懷倫理：看見需求，就看見了義務；一起行動，就是在問一個社群想保護、修補、維持或培養什麼。人之所以有參與資格，也就是在決策桌上本來就該有的一席，是因為這些決定影響他們的生活和共同的世界。他們的意見常常也能提高決策品質，但參與資格並不取決於此。被別人管得好，不等於自己當家作主。¶ 35（第 35 段的永久連結）

第二個是查核。系統不能當自己錯誤的最後一道關卡。系統之外必須有人能找出錯誤、說出來，而且說了算數：這就是 Q16 講的矯正迴路。受影響的人不是唯一的裁判，但不問他們，誰也無法證明關懷真的到位。一個把受影響者排除在外的系統，不管多能幹，都沒通過「對齊」最基本的考驗。專業換來一個席位和把話說清楚的義務。替受影響者做決定的權力，仍然留在他們手上；AI 也一樣。¶ 36（第 36 段的永久連結）

匯集民意還有一個限制：很多公共偏好，在大家討論之前根本還沒成形，而是在彼此傾聽、重新思考的過程中才形成。AI 可以匯集已經存在的偏好，卻不能跳過大家弄清楚自己想要什麼的那段過程。¶ 37（第 37 段的永久連結）

臺灣的經驗讓這點更具體。數位民主出現，是因為人們要求參與資格，2014 年的太陽花運動佔領了立法院（信任的故事見 Q8）。先有關懷的關係，能力才跟著長出來。¶ 38（第 38 段的永久連結）

不過，功能面的問題也該有功能面的回答。糾錯：搭橋工具和社群自己寫的評測（Packs 1, 4），能找出集中監控漏掉的失誤，因為測試是由親身碰到失誤的人來寫。和平轉移：願意被關機的地神，加上能分叉（fork）工具（複製一份、自己接著維護）的社群（Packs 6, 5），讓更替成為日常。制衡權力：沒有任何地神能越出自己的授權去治理（Pack 6）。¶ 39（第 39 段的永久連結）

資訊匯集，變成廣泛傾聽（Pack 1）：用 AI 幫忙整理眾多參與者、多種語言的意見。偏好表達，變成參與契約（Pack 2）：針對大家需要什麼持續協商，一次性的選舉則會把複雜的偏好壓成二選一。只有正當性例外：正當性不等於人氣，也不是任何指標構成得了的。有兩項提議中的指標，可以提供公開的佐證：跨群體的共同背書，以及失利下的信任（Q13、衡量指標）。¶ 40（第 40 段的永久連結）

設計良好的技術系統，也許能單獨複製其中某些成果；它複製不了的，是受影響者的參與資格。一個只顧結果、卻拿掉參與資格的系統，正是六力要防止的那種錯位。¶ 41（第 41 段的永久連結）

這個反對意見假設每個決定都要審議得一樣深。其實不然。這套框架分成兩條車道：慢車道劃定邊界（Pack 2），快車道在邊界之內運作（Pack 3）：¶ 42（第 42 段的永久連結）

慢車道：劃定邊界。 對齊大會、公民審議和參與契約（社群和 AI 營運者之間的書面約定，寫明系統可以做什麼、出事時誰負責）一起搭好護欄：不能拿來交換的權利、紅線、嚴重度分級，以及什麼情況要暫停。這些權利來自民主對正義、平等與自由的承諾；Tronto 說，關懷必須和這些承諾一致。權利是參與關係的入場門檻：如果你的基本存在正遭到抹除，在搭橋的過程中就不可能被聽見。¶ 43（第 43 段的永久連結）

這些是憲章層級的決定，本來就該慢，因為要的是持久。臺灣反詐騙對齊大會定下的原則，談的是責任歸屬和身分驗證，不是某個特定模型，所以撐得過模型一代代的更替。¶ 44（第 44 段的永久連結）

快車道：在邊界內運作。 護欄搭好之後，護欄內的個別決定就不必每次重新審議。在參與契約下運作的地神（事先講好的暫停條件、談定的嚴重度分級，以及「採納或解釋」的義務：採納社群意見，不採納就公開說明理由）可以用機器的速度行動，因為具名的當事人已經劃好了可接受行動的走廊。¶ 45（第 45 段的永久連結）

一個決定該走哪條車道，要看做錯了會怎樣。可以撤回、後果輕的決定，可以快。做了就回不去的決定，以及會重劃走廊本身的決定，要走慢車道（Q16）。¶ 46（第 46 段的永久連結）

萬一越界，煞車早就備好了：影子模式（shadow mode，新系統先在背景和舊系統並行，比對兩者的表現）、金絲雀發布（canary release，先挑一小部分分層抽出的真實案例試行）和可逆的預設值（Pack 3），讓系統能快速上線，出問題也能自動退回。這些控制讓失敗看得見、查得到，但不等於證明系統安全。¶ 47（第 47 段的永久連結）

速度落差確實存在，但立憲民主一直都在處理同樣的落差：憲法慢、立法快、行政更快，每一層受上一層約束。六力把這套結構搬到 AI 治理上。大會訂下允許更新的條件，條件內的每次更新不必重新投票；條件一旦被違反，煞車早就接好了。¶ 48（第 48 段的永久連結）

實際上，臺灣從對齊大會到一條可問責的立法回應路徑，只花了幾個月。大會在 2024 年 3 月開出了一條公眾回應路徑；行政院則在 5 月 9 日通過《詐欺犯罪危害防制條例》草案，決議送請立法院審議。法律並不是大會自己訂的。審議之所以慢，往往是因為被當成一次性的活動。¶ 48a（第 48a 段的永久連結）

仁工智慧的範圍，比審議式民主或政策制定更廣。它說的是整個關懷循環：社群怎麼察覺需求、做出承諾、採取行動、接受糾正，最後把系統交出去。審議只是訂定慢車道條件的一種方式；有些部署是從採購、照護實務、評測或退出權開始的。¶ 50（第 50 段的永久連結）

AI 不只能讓快車道更快，也能讓慢車道更有力。2024 年，安野貴博（Takahiro Anno）以低預算參選東京都知事，讓任何人都能打電話給他的 AI 助理，建議怎麼修改政見；這些建議經過彙整後，在 YouTube 上公開。這說明一條看得見的傾聽管道，可以在選舉的規模上運作。不過這只是一場選戰的做法，不能證明普遍有效。¶ 51（第 51 段的永久連結）

幾個主要平台現在都有搭橋式的補充脈絡功能。例如 X 的「協作備註」（Collaborative Notes），讓人類貢獻者替爆紅貼文請 AI 草擬脈絡說明，再一起評分、修改；讀者可以自己去看它現在的樣子。這類功能的目標，是在說法流傳的同時就補上脈絡，並讓人的判斷留在迴路裡。技術跑得越快，慢車道就越需要是出事之前就已存在的常設基礎設施。¶ 52（第 52 段的永久連結）

這是搭橋最難回答的兩個問題之一，所以要講得精確。另一個剛好是它的反面，放在本題最後回答。¶ 53（第 53 段的永久連結）

搭橋和「兩邊各說各話」的新聞報導不同：它從不把所有說法當成一樣有效。框架在兩種說法之間劃了一條硬線：¶ 54（第 54 段的永久連結）

事實說法可以查證。 氣候科學、疫苗效力和選舉是否公正，都是有答案可以驗證的經驗問題。六力不拿事實去比人氣。Pack 1 用三件事立下規矩：權利底線（任何程序都不能拿來交換的最低權利）、拒絕假多元，以及明白警告假平衡。意在抹除他人基本地位的主張，會記錄在案，但不設定議程。事實爭議也不能靠假裝有害說法和既有證據份量相同來解決。¶ 55（第 55 段的永久連結）

價值分歧才需要搭橋。 大家可以都同意氣候變遷是真的，卻仍為該怎麼做吵得很兇：碳稅還是總量管制與交易、核能還是再生能源、轉型要快還是顧經濟成本。這些是正當的衝突，搭橋在這裡既合適又有用。搭橋畫出意見實際分成哪幾群，再找出各群都能認可的提案，不去平均立場。跨群體的背書是值得檢查的訊號，不能證明大家出於善意。有組織的人也能假裝有共識；所以還要一併看誰缺席、誰的權利受影響，以及大家能不能質疑紀錄。¶ 56（第 56 段的永久連結）

很多爭議是兩者混在一起。「這支疫苗夠安全嗎？」其實把風險有多高（事實問題）和多少風險可以接受（價值問題）綁在一起。六力把兩者拆開：風險估計交給可問責的科學機構，可接受的門檻交給審議。¶ 57（第 57 段的永久連結）

還有一道結構上的防線：能說話，不代表能被放大（Pack 5）。任何人都可以表達立場，但推薦系統沒有義務幫它擴散。在公民場域裡，Pack 5 的排序規則獎勵的是能讓不同群體互相說理、一起解決問題的內容；只會煽動單一群體的內容，得不到演算法加持。沒有任何人因此被噤聲，被拿走的只有演算法的擴音器，而且是從靠分裂獲利的人手上拿走。¶ 58（第 58 段的永久連結）

威脅本身也在變，讓搭橋從「聽起來不錯」變成「非做不可」。關於惡意 AI 蜂群的研究顯示，國家級的極化攻擊越來越常用真實的資訊（真的新聞片段、真的統計數字、真的引述），再配上強烈的情緒框架。每一句都是事實，攻擊藏在怎麼挑、怎麼排。事實查核（debunking）使不上力，因為沒有假的可以查。搭橋幫得上忙，因為它能把這種刻意挑起的憤怒想藏起來的共同點找出來。¶ 59（第 59 段的永久連結）

臺灣的 COVID 經驗說明了一個相關的做法。包括口罩在內的許多防疫爭議，早在 SARS 之後那幾年、下一場危機來臨之前，就已經公開討論過。COVID 期間，面對謠言的做法是幽默和預先闢謠（pre-bunking）：搶在謠言之前先讓大家知道。目的是降溫，不必宣判哪一方錯。¶ 60（第 60 段的永久連結）

臺灣的婚姻平權討論，把這個機制呈現得更細。一方談的是兩個人的「婚」，另一方在意的是兩個家族的「姻」。雙方其實在談不同的事。搭橋把分歧的結構攤開來，幫忙找到一條雙方都沒提過的路：讓兩個人可以結婚，但不強制建立姻親關係。這條路來自把分歧看清楚，和假性對等正好相反。¶ 61（第 61 段的永久連結）

不過要補充一點：「可查證的事實」這條基線，並不是理所當然。什麼算得上可驗證，是由制度決定的（同儕審查、獨立統計機構、司法事實認定），這些制度必須透明、可問責、可以被挑戰；它們的權威來自願意糾錯，而不是自稱定論。Packs 1 和 4 正是為此存在：社群自己寫的評測和廣泛傾聽，讓劃定事實基線的制度本身，也持續受到民主監督。六力把事實和價值的界線當成一道門檻，要靠治理其他一切的同一套參與機制持續維護。¶ 62（第 62 段的永久連結）

反過來的擔憂是：搭橋偏好溫吞的中間，委屈了站在對的一方的少數——畢竟很多道德進步，一開始都是多數人反對的立場。但搭橋決定的，只是公民場域的動態消息要放大什麼、審議產出的哪些提案往前推。它不決定什麼是真的，也不決定誰有權利；不管多數怎麼想，權利底線都保障少數人的參與資格。¶ 63（第 63 段的永久連結）

沒能搭起橋的觀點也不會被刪掉。它們留在紀錄裡，持續的異議受到保護（Q13），Pack 1 的滾動式視窗也會定期重新打開暫時有了結論的問題；今天搭不起橋的觀點，等參與的人變了，還有機會被聽見。搭橋找的是大家現在能一起做的事，誰對誰錯，則留作開放的問題。¶ 64（第 64 段的永久連結）

老實說，答案有好有壞。有些機制已經在別的地方跑過；在那裡是否一樣有效，是另一個問題；細節則搬不過去。沒有人應該照抄臺灣的模式。真正的問題是，那些結構性原則（廣泛傾聽、搭橋演算法、採納或解釋的承諾、聯邦式安全、輔助性原則）換了土壤還長不長得起來。¶ 65（第 65 段的永久連結）

目前的證據顯示，這些機制在別處也能運作，但還不能證明會有同樣的結果：¶ 66（第 66 段的永久連結）

• 臺灣與日本。 臺灣數位發展部通報，在《詐欺犯罪危害防制條例》、通報基礎設施、AI 廣告掃描與平台執法共同觸及的類別中，冒用身分的詐騙廣告下降超過 95%；唐鳳於 2025 年 12 月 16 日在東京的證詞引用了這項報告。後續一項路透社調查顯示，Meta 如何把這股壓力轉成監管戲法：須驗證的廣告量下降之處，壓力便轉向尚未有同等規範的其他目標市場。Meta 擔心的那種驗證義務，日本監管機關曾經考慮，但沒有實施。

  教訓沒有「飛輪自己會轉」那麼美好，範圍更窄，也更難：一個國家證明做得到，能降低別處補上同一個漏洞的成本，但每個地方還是得自己動手補。

  ¶ 67（第 67 段的永久連結）

• 美國。 「We the People 250」主辦者報告，計畫產出 26 項關於自由與平等的摘要陳述，多數獲得超過 80% 的同意；參與者超過 2,400 人，來自全部 435 個國會選區。這是關於這些參與者的報告，不是全國或普遍代表性的證明。計畫報告提供原始說明。

  在加州，「Engaged California」平台借助 AI 整理意見，和 Altadena 與 Pacific Palisades 約 900 位居民一起擬定野火復原計畫；隨後一場為期十週的審議召集了逾 1,400 名州政府員工，產出超過 2,600 個政府效能構想。2026 年，這個平台擴及全州，就「AI 如何改變工作」向民眾提問；州政府仍在彙整相關報告。2026 年 9 月 19 日，州長簽署 AB 2103 法案，使 Engaged California 自 2027 年 1 月 1 日起成為正式的州立計畫，但仍取決於預算撥款。

  ¶ 68（第 68 段的永久連結）

• 全球。 搭橋式排序如今已在全球性平台上運作，類似 Polis 的工具也已在許多國家使用。這套方法能讀懂哪種語言，就能在哪種語言運作；它找到的橋樑能否贏得在地正當性，要一個地方、一個地方地決定，而大多數地方尚未回報結果。

  ¶ 69（第 69 段的永久連結）

這套框架本來就是為了擴大規模而設計的。輔助性原則（Pack 6）表示每一次部署都依當地情境而定：地神屬於它所在的地方。聯邦制（Pack 5）表示各地的部署可以共享威脅情報和互通標準，不必採用同一套治理模式。¶ 70（第 70 段的永久連結）

對齊大會的做法可以從社區擴大到國家，因為它用的是分層的自願報名迷你公眾（也就是民主抽籤：在回應的人當中抽選），不必所有人都參加：先大規模發出邀請，再從自願報名的人裡分層抽出 447 位公民，審議臺灣的反詐騙政策。這個迷你公眾不等於 2,340 萬人。十年來，有數百萬臺灣人參與過各種形式的數位審議，其中包括沒有投票權的人：移民、青少年，以及其他長期被排除在外的群體。¶ 71（第 71 段的永久連結）

臺灣是條件有利的案例。這套框架還需要在更難的土壤裡接受考驗：公民基礎設施較弱、族群對立更深、政府能力較差，或有威權勢力介入的地方。輔助性原則本身也留下難解的制度問題：「在地」的邊界由誰來劃？誰有權把問題往上送？六力提出了原則；要讓原則真正有約束力，還得建立相應的制度，這是下一步的工作。¶ 72（第 72 段的永久連結）

什麼樣的結果，會證明這個框架有問題？如果採用這些做法的群體，並沒有比沒採用的更可問責（異議沒人回應、傷害沒人修復、想退出也退不了），那麼這些做法在那裡就沒有發揮作用。衡量指標就是為此提出的公開檢驗；案例紀錄則說明每個案例證明了什麼、沒證明什麼。¶ 73（第 73 段的永久連結）

每到一個新的地方，都需要重新覺察（Pack 1）：誰缺席了、權力怎麼分布、哪些在地機構值得信任、哪些不值得。六力提供框架，社群提供知識。框架能不能延伸到那些更難的地方，現在還沒有答案，只能實際去做才知道。¶ 74（第 74 段的永久連結）

這套框架讓人即使還不信任，也能參與：每一步都該查得到、有限度、可以撤回；如果信任慢慢長出來，也是靠人們親自驗證換來的。¶ 75（第 75 段的永久連結）

臺灣的數位民主，誕生在威權統治之後，以及一場嚴重的信任危機（太陽花運動）之中。2014 年總統滿意度接近 9%；到了 2020 年，另一位總統的滿意度超過 70%。這些是對領導人的滿意度，不是同一條公眾信任的長期數據，也不能證明變化是數位工具造成的。¶ 76（第 76 段的永久連結）

邊緣化社群有充分理由把技術看成監控和控制的工具；空降科技「解決方案」，只會讓傷口更深。仁工智慧得靠硬底子的基礎設施證明自己：負責力（Pack 2）和回應力（Pack 4）。它得從最小、做得到的橋開始——也許是對當地水質的基本事實取得共識，或是在政治立場不同的情況下，仍能一起協調救災。有用的行動，可以從這些共識接著展開。一開始，這些只是務實的交易：一方承諾少造成傷害，然後證明自己做到了，是一次次小小的修補。¶ 77（第 77 段的永久連結）

對曾經被監控的社群來說，第一個疑問是：「傾聽」是不是監控換了個好聽的名字？差別在結構。傾聽是自願的、限定用途的、可問責的：人們自己決定要不要說，看得到自己被聽成什麼，也能更正。監控則把人的一舉一動當成副產品收割，被監控的人沒有任何管道可以反對。監控是沒有關係的注意；傾聽是在關係之中的注意。¶ 78（第 78 段的永久連結）

技術也必須在地化：社群要擁有自己的基礎設施，讓技術成為他們可以修改、分叉或讓它好好退場的東西：改造它、複製一份帶走，或讓它功成身退。也因此，我們堅持選擇性揭露身分（有時也叫 meronymity）和退出權。人們要能在不向國家暴露身分的情況下參與，並證明自己是真人。仁工智慧提供查得到的限制、在地的所有權，以及一項結構上的承諾：最接近痛苦的人，可以踩下煞車。¶ 79（第 79 段的永久連結）

時間久了，小而實用的橋，可能為更大的橋騰出空間。我們提議：讓決定可以被質疑、系統可以被關掉，並盡量選擇可以撤回的做法。這是還要去做的事，並未宣稱能解釋總統滿意度為什麼變了。¶ 80（第 80 段的永久連結）

這是我們最在意的批評。介於公民和國家之間那一層厚實的結社生活，才是人真正創造意義的地方。如果六力拿系統取代這一層，照我們自己的標準，就已經失敗了。¶ 81（第 81 段的永久連結）

所以要先講清楚六力是什麼。它是為社群搭的鷹架：現有團體可以拿來用的基礎設施，就像社區活動中心是里民開會用的地方。地神不會取代廟宇；它負責翻譯、整理意見和協調，讓廟宇能參與那些影響它的決定。¶ 82（第 82 段的永久連結）

臺灣的經驗讓這點更具體。g0v 公民科技社群（讀作「gov zero」）打造了 vTaiwan，也採用了 Polis；這個社群是政府之外的志工自己長出來的。COVID 期間，公民科技社群做出口罩地圖，但地圖要能用，靠的是藥局、衛生單位和志工各自做好份內的事。協調靠數位工具；信任則是由人，以及他們原本就參與的團體撐起來的。技術放大的是既有的結社網絡。¶ 83（第 83 段的永久連結）

這個問題點出的危險是真的：如果一套框架用工程手法製造團結，卻拿掉了摩擦，得到的只是社群的仿製品。所以 Pack 6 的輔助性原則要扛起這個重擔。地神屬於它所在的地方，也一併繼承了那裡的義務、惱人的鄰居和代代相傳的習俗——正是這個問題堅持要留下的那種摩擦。¶ 84（第 84 段的永久連結）

不過，不是所有摩擦都能讓人成長。和鄰居協商，會讓人成長；一場只用一種語言、又挑照顧者無法出席的時段召開的會議，只是把人擋在門外。地神應該去掉第二種摩擦，留下第一種。一個把能讓人成長的摩擦都「最佳化」掉的地神，應該算是違反了自己的參與契約。¶ 85（第 85 段的永久連結）

書裡把這點說得很明白：教會、工會、鄰里組織、文化團體和地方政府，是關懷的主角，只把它們當成「需要諮詢一下」的利害關係人，是看輕了它們。AI 來之前它們就在，AI 退役之後它們也還在。技術要嘛為它們服務，要嘛誰也服務不了。¶ 86（第 86 段的永久連結）

Q9 談的是框架會不會排擠中間那一層團體。教宗的質疑更深一層：就算這些團體還在，透過演算法來往，會不會侵蝕人類關懷的能力本身？他點出的是我們這個時代的核心危險：AI 可以模仿關懷的表面（溫暖的聲音、耐心的聆聽、隨你情緒變化的臉），在外表完好無缺的同時，把關懷的內涵掏空。 2026 年 5 月 15 日，教宗良十四世在通諭《Magnifica Humanitas》（通諭是教宗致全教會的正式文告）中以更完整的篇幅回到同一主題（梵蒂岡全文）。¶ 87（第 87 段的永久連結）

先談名字。「公民」（civic）說的是系統所處的關係：它對誰負責、誰能糾正它、誰能叫它停，不是機器內心的感受。仁工智慧的主張是：要讓人與人之間的關懷在 AI 時代留下來，AI 該怎麼被治理；它不對 AI 會不會關懷下任何斷語。接下來要證明的，是這樣的治理做得到。¶ 88（第 88 段的永久連結）

部分答案在結構上。一對一使用的語言模型，如果是照評分者的喜好來調校、又靠使用黏著度賺錢，就會被推向逢迎（只說你想聽的話）：惹使用者不高興的聊天機器人，可能就留不住人。這股壓力是治理問題，和模型的個性關係不大：評分者獎勵自己愛聽的答案，最受影響的人卻沒能參與決定什麼該被獎勵。評分的權力集中在少數人手上，後果卻由所有人承擔。¶ 89（第 89 段的永久連結）

同一個模型放進群組聊天，面對的壓力就不一樣。一家四口一起規劃假期時，AI 得同時照顧所有人，於是變成協調者，在彼此衝突的偏好之間，找出大家都能接受的安排。改變的是模型周圍的社會結構，模型本身沒變；壓力也從討好一個人，轉成幫幾個人談出共識。仁工智慧和一對一的聊天機器人是同一種技術，只是改成對社群負責。¶ 90（第 90 段的永久連結）

六力把關懷留給人，只要 AI 做它擅長的事（處理資訊、翻譯、從大量意見裡找出模式、協調後勤），好讓人去做只有人做得到的事：握住那隻手、認得那些祖父母、在堤防潰決時趕到現場。地神把安慰受災者的事留給人，自己負責讓社群掌握正確、共享的資訊：哪裡的水位在漲、哪些鄰居需要撤離，好讓真正認識那些鄰居的人，能趕到他們身邊。¶ 91（第 91 段的永久連結）

教宗的質疑還有更細膩的一層：習慣依賴演算法來協調，會不會讓人留意彼此、互相協商、對彼此負責的能力萎縮？我們不迴避這個問題。這正是 Pack 6（共生力）堅持地神必須願意退役的原因。一個成了依賴的地神，就是失敗了。社群要能讓它退場，然後自己站起來。仁工智慧只有一直願意讓自己變得多餘，才配得上這個名字。¶ 92（第 92 段的永久連結）

沒有不同——除非我們從根本改變 AI 對待人類知識的方式。¶ 93（第 93 段的永久連結）

現在，全球關於 AI 與版權的爭論，卡在一個還沒有可行答案的問題上：事後回頭去算，到底是誰的資料被爬走，又對某個巨型模型過去的訓練貢獻了多少。要把一個模型的行為，拆算到上百萬個被爬取的來源，目前沒有算得動、又有共識的方法。¶ 94（第 94 段的永久連結）

而且，第一步是同意：社群有權決定哪些東西可以用，也有權讓某些知識不上網。付錢排在第二步，沒經過同意，就算給了補償，仍然是榨取。同時顧到同意和補償，就有以下三種機制。¶ 95（第 95 段的永久連結）

1. 資料聯盟：一層保護膜。 補償不能只發給零散的個人，否則活生生的文化，可能淪為專門演給機器看的「內容農場」。知識是社群共有的，所以由社群來談。現有的團體（鄰里協會、部落議會、工會、工藝合作社或宗教團體）可以組成「資料聯盟」，集體談判參與契約（Pack 2），決定哪些在地知識可以讓 AI 使用並換取補償，哪些要保持神聖、不上網。Mozilla Data Collective 這類計畫，示範了以社群為中心的資料管理在實務上怎麼運作。

   ¶ 96（第 96 段的永久連結）

2. 決策軌跡：公民的收據。 公民的地神任務有限，不是無所不知。當在地 AI 碰到統計猜測的極限，需要人的摩擦力（社群長者知道的來龍去脈、雙語譯者抓得到的細微差別、鄰里間沒寫下來的訣竅），就得去檢索這些知識。

   在勝任力（Pack 3）的要求下，系統本來就得產生「決策軌跡」，列出答案確切從哪裡來。在仁工智慧的經濟裡，這條軌跡被設計成可以兼當一張查得到的財務收據（Pack 6）。軌跡本身今天已經實際在運作；Andrew Trask 的「基於歸因的控制」（attribution-based control）研究，則在補上這張收據需要的嚴格保證：確實知道哪些來源影響了哪個答案。至於軌跡要觸發的結算，就我們所知，還沒有任何地方真的在跑。

   ¶ 97（第 97 段的永久連結）

3. 把榨取的引擎倒過來。 影響重大的仁工智慧部署，都要有事先注資的補救託管（Pack 2），也就是先把錢交給中立的保管者；影響較輕的部署則降級處理（Q12）。同一套補救託管，也可以用來補償知識。當在地地神用了聯盟的知識，成功解決問題或化解分歧，決策軌跡就是發票，觸發一筆款項，從託管池撥給這個聯盟；託管池的錢，來自公共採購預算、科研經費或商業課徵。

   ¶ 98（第 98 段的永久連結）

我們不假裝這套機制已經完成。過去的微支付方案，留下四個設計上的限制。第一，估價：要決定長者的一句話值多少錢，花的心力可能比那筆錢還多，所以錢應該在聯盟層級流動，金額由參與契約事先訂好。第二，交易成本：應該批次結算，不要每檢索一次就收一次費。¶ 99（第 99 段的永久連結）

過去卡住結算的障礙正在鬆動：Cloudflare 的 Pay Per Crawl 已經讓網站可以向 AI 爬蟲按次收費；它宣布的 Monetization Gateway，則打算透過開放的 x402 協定，在一秒內結算不到一美分的款項。就算這些支付管道成熟了，仁工智慧也應該定期批次結算，而不是每檢索一次就付一筆小錢。¶ 100（第 100 段的永久連結）

第三，鑽漏洞：古德哈特定律（Q3）提醒我們，按使用次數付錢，會招來專門刷收據的「收據農場」，所以給付應該以達到足夠門檻為準。第四，錢從哪裡來：必須有人在請款發生前，先把錢存進託管。Q12 會回到這個最難的問題。這些是設計上的限制。六力承諾把成本寫進契約。¶ 101（第 101 段的永久連結）

主流的科技模式，把人類文化當成免費的原料，還常常拿它來取代創造這些文化的勞動。六力的設計是反過來：當 AI 靠人的摩擦力避開錯誤、理解在地現實時，錢就回流給維繫那個生活世界的人。¶ 102（第 102 段的永久連結）

當 AI 把一般的運算都自動化了，扎根於真實經驗的人類創新，以及承載它的文化多樣性，可能會成為經濟裡最稀缺、最有價值的資源之一。保存瀕危語言和活傳統的社群，守著的是一旦失去就無法重建的知識。六力把這份補償寫進參與契約；上面說的結算機制還沒完成，這點我們直說。¶ 103（第 103 段的永久連結）

把問題反過來問。真正昂貴的，是我們現在走的這條路：沒人治理的 AI 把傷害轉嫁出去，最後由公眾出錢收拾，包括深偽詐騙的損失、極化造成的制度衰敗，還有早點傾聽就可能避免的偏見訴訟。該問的是，我們還付不付得起繼續省略公民治理。¶ 104（第 104 段的永久連結）

成本確實存在，但大部分錢本來就在花，只是花得不好。政府採購 AI 系統動輒數十億；公民採購是在既有支出上加條件，用不著另開預算。Pack 2 的參與契約要求供應商事先存好補救託管（出事時要用的錢），就像營造商要繳履約保證金：成本算進價格裡，公眾拿到的補救，也不必看供應商臉色。¶ 105（第 105 段的永久連結）

Q11 的補償託管，碰到的是同一個問題更難的版本：沒有政府採購、也沒有商業課徵的地方，就沒有資金池；所以替最窮的社群設立第一筆託管，要靠公部門或慈善，市場不會出這筆錢。影響較輕的社群部署可以降級：用互助保險池和自動暫停取代金錢託管，資金負擔輕，問責一樣不少。分級看影響多大，組織形式倒在其次，免得「我們只是社群專案」變成推卸責任的藉口。¶ 106（第 106 段的永久連結）

共享的研究算力和開放權重模型是公共財，應該像道路和法院一樣由公共出資。根據專案的一手記述，臺灣的 Uber 爭議透過 Polis 在四週內達成粗略共識。我們提議把「促成對話」當成公共基礎設施來投資；不過這個案例並沒有計算，和打官司或傳統監管程序相比省下多少成本。¶ 107（第 107 段的永久連結）

民間發起，不等於民間免責。照護機構或合作社可以發起仁工智慧計畫，但開始之前，要先講清楚錢從哪裡來。召集、技術維護和日常運作都要花錢。錢可以來自照護業者、地方政府、保險公司或慈善組織；如果受益的是公眾，就不該要求接受照護的人無償貢獻自己的經驗、承擔風險、提供專業。誰委託、誰受益，就該把這份工作算進價格；如果照市場價格會把最需要的社群擋在門外，就得由公共或慈善的資金先出。¶ 108（第 108 段的永久連結）

公司也可以做仁工智慧，包括營利公司或社會企業，只要利潤來自維護可問責的基礎設施，而不是剝削社群的知識。關鍵在治理和契約，法律形式倒在其次。企業可以靠引導討論、代管、稽核、訓練、維護和支援收費；但不能把依賴、鎖定、搶奪注意力或無償的照護勞動包裝成產品，再賣回給社群，藉此買下「仁工智慧」這塊招牌。¶ 109（第 109 段的永久連結）

說公民治理是一筆額外開支，只有在假裝現狀不用錢的時候才說得通。現狀並不免費。正因為缺少我們提議的這些東西，我們現在就在付出代價：付出信任、凝聚力，也付出金錢。¶ 110（第 110 段的永久連結）

「公民」這個詞，如果沒有結構上的問責，其實很危險。一套辦法如果只有在你的同路人操作時才管用，它就是黨派武器，叫它公民基礎設施也沒用。真正的公民基礎設施，就算交給你的對手來操作，仍然公平。¶ 111（第 111 段的永久連結）

更根本的疑慮是：框架本身是不是就有黨派色彩？它並不中立，也不裝作中立：它承諾受影響者有參與資格、有人要負責、錯了要能改，還有一道權利底線。它刻意避開的，是一整套「怎樣才算好生活」的教條。不同傳統的人，可以出於各自的理由，接受這幾項精簡的承諾（也就是 Q20 講的重疊共識）；其餘的選擇，都留給使用它的各個團體。¶ 112（第 112 段的永久連結）

六力提出四層防線，對抗意識形態把持和關懷洗白。這些防線也適用於框架本身，因為框架自己也可能被拿去洗白：¶ 113（第 113 段的永久連結）

1. 看公開檢驗，不看自稱的用心。 我們追蹤罕見共識指數和失利下的信任（Packs 5, 4），不看原始互動量、企業的情緒指標或感覺。兩者互相補充，不合成一個總分。罕見共識指數問：共同的決定，是否真的有跨群體的參與和共同背書，還是各自為政？失利下的信任問：出了壞結果、也試著修補之後，受影響的人覺得系統變得更值得信任，還是更不值得？

   這些是提議中的公開檢驗，不是驗證過的測量方法，也擋不住所有鑽漏洞的手法。看跨群體背書時，也要看誰缺席、保障持續反對者的位置，並問受影響的人：這樣的修補算不算數。可問責的身分和獨立的佐證，有助於揭露操弄，但不能讓操弄完全不可能。

   ¶ 114（第 114 段的永久連結）

2. 後果要有約束力。 Pack 2 提議在參與契約裡放進補救託管、違反服務標準時的賠償，以及握有否決權的獨立監督。這些機制要有具名的負責人、經費和實際演練，大家才能指望它真的執行。有具名負責人和期限，承諾才能被檢查。

   ¶ 115（第 115 段的永久連結）

3. 對抗式稽核。 Packs 3-4 的共享評測登錄庫（Weval 由集體智慧計畫推出，是實際在運作的例子；我們和它的關係寫在〈文獻〉裡）讓受影響的社群公開自己的檢查項目。公開的共享檢驗一樣可能被操弄，供應商也可能專門針對測驗下功夫。檢查失敗就自動暫停，是提議中的控制措施；要有具名的負責人、經費和實際演練，大家才能倚靠這道煞車。

   ¶ 116（第 116 段的永久連結）

4. 退出權與輔助性原則。 防止有人夾帶議程的最後一道關卡，是能夠離開。資料和關係都能帶走時（Pack 5），就沒有人能打著「公民之善」的旗號綁架社群。如果某人版本的「關係健康」讓人覺得被強迫，社群在技術上和法律上都有權分叉工具，到別處重新來過。我們拒絕建立一個全球統一的「關係健康部」。讓在地社群自己寫評測、保有退出權，任何單一勢力就更難壟斷「什麼是好」的定義。

   ¶ 117（第 117 段的永久連結）

威脅是真的，六力不否認。防禦性的做法（從資料安全、對齊、防護強度和開發透明度幾個面向評估模型）是必要的，而六力的原則在結構上和它並不衝突。¶ 118（第 118 段的永久連結）

在社群自己的硬體上本機執行模型（Packs 5、6），只有在遠端工具、連接器和模型同步都關掉或受控時，才能減少資料外傳。隔離、最小權限，以及測試過的對外連線管制都很重要；光是在本機跑，擋不住資料外洩，也就是私人資料在未經授權下被拿走。對齊大會能幫社群找出並質疑政治偏見，但光靠參與，消除不了模型本身的偏見。把任務標成「只做一件事」，擋不住後門；限制要靠權限和隔離來落實。社群自己寫的評測（Pack 4）能在技術測試之外，替安全審查補上在地知識。¶ 119（第 119 段的永久連結）

但防禦性的框架再必要，本身也不完整。它告訴你該排除什麼，卻沒告訴你該建造什麼。一個政府禁止了敵對國家的模型，卻在沒有公民治理的情況下部署本國模型，處理的只是風險的「國籍」，風險的結構仍在：一個集中、不受問責的智慧，夾在個人和國家之間。¶ 120（第 120 段的永久連結）

我們提議，在技術防禦之外，也要加強人們查證說法、質疑機構，以及在壓力下協調行動的能力。臺灣在 2020 年有七例 COVID-19 死亡，而且沒有封城。這個結果不能只歸功於公民基礎設施，也不能證明臺灣不怕操弄。它值得拿來研究公衛制度和公民參與怎麼配合，不該拿來替民主國家排名次。¶ 121（第 121 段的永久連結）

六力不處理武器系統或戰場上的自主系統，那些需要各自的框架。它處理的，是大部分 AI 競爭真正發生的地方：資訊環境、公眾信任、制度韌性，以及民主社會在壓力下一起行動的能力。失去這片陣地，再多技術反制都不夠。¶ 122（第 122 段的永久連結）

它動手做，做的是第二道防線。防範無界的超級智慧，屬於「第一個問題」，Q17 點名了扛起這份工作的人；六力補的是他們的工作，這個問題仍留給他們。¶ 123（第 123 段的永久連結）

六力預設一定有人會去嘗試，也不宣稱能從機器內部解決控制問題。無界的「單一主宰」作為關懷的對象，本身說不通（關懷永遠是關懷某個具體的對象），但它仍可能在競爭中意外冒出來。六力只提供部分保護：讓這種事更不容易發生、更早被察覺，但不能保證不發生。關鍵在於，它闖進的是什麼樣的地形。¶ 124（第 124 段的永久連結）

一個圍繞單一套治理對齊協定打造的世界（只有一個效用函數可以被顛覆、一部憲法可以被曲解、一個終止開關可以被拔掉），就像一整片單一作物的農田：只要出現專門針對它的病原體，就會全面崩潰。反過來，一個由數千個在地擁有、用途有界的地神組成的世界，每個地神都由有自己評測、自己參與契約、自己資料主權和硬體的社群來營運（Packs 2, 4, 5、6），就是一個生物多樣的生態系。沒有單一依賴可以被攻佔，沒有通用協定可以被鑽漏洞，沒有中心節點一倒就全盤連鎖崩潰，也沒有單一命門可以被掐住。¶ 125（第 125 段的永久連結）

公民韌性不需要預測病原體，需要的是在感染之前就鍛鍊過的免疫系統。¶ 126（第 126 段的永久連結）

這是一場賭注，而且刻意設計成可以被推翻。賭輸了是看得出來的：越來越多團體依賴同一家供應商、同一套協定、同一個模型家族，多樣性下降；退出演練（定期實際演練換掉供應商）不再過關；地神長出章程以外的範圍，守範圍的紀律逐漸鬆動；社群評測失敗了，暫停機制卻沒有反應。¶ 127（第 127 段的永久連結）

失敗一旦出現，煞車早就在那裡：斷路器中止部署，可逆的預設值把決定交還給人，聯邦網絡分享威脅情報，社群行使契約保障的退出權。煞車修補的是免疫系統，不保證擋得住病原體。¶ 128（第 128 段的永久連結）

2026 年 4 月，Daniel Kokotajlo 和 Eli Lifland 在各自發表的模型更新中，把「自動化程式設計師」這個里程碑的中位預測，分別放在 2028 年中和 2030 年中。這是兩人對某個里程碑的個別預測，不是超級智慧的到來日期，也不代表它一直在延後。我們要照自己控制不了的時程來準備。¶ 129（第 129 段的永久連結）

所以，有界性是「以程序對齊」本身的一部分：以程序對齊，永遠是對特定的人對齊——他們能提出異議，也有人必須回應他們（Q17）。一個沒有邊界的系統，沒有明確的負責對象，「它有沒有以程序對齊」這個問題也就無從問起。一個宣稱照顧整個生物圈的園丁，其實哪座花園都沒照顧。¶ 130（第 130 段的永久連結）

無界的單一主宰，是我們可以、也應該拒絕的設計目標，是設計上可以避開的方向——即使我們無法保證別人不往那裡去。至於有人硬是造出來的系統，看守它是第一個問題的工作（Q17）；我們的工作，是它闖進來時要面對的地形。¶ 131（第 131 段的永久連結）

六力要守住的是矯正迴路：誰能發現我們錯了、逼我們承認，並在還來得及轉向時，讓我們為錯誤付出代價。六力把這個迴路固定下來；其餘一切都保持有界、可以修改、可以問責。¶ 132（第 132 段的永久連結）

由此可以推出三件事。¶ 133（第 133 段的永久連結）

第一，「公眾」是從誰受到影響找出來的。政治理論家把這稱為邊界問題：最初那條邊界，不可能由還不確定算不算成員的那群人來授權。最初的「誰算數」沒辦法自己證明自己，所以六力從證據裡重建受影響的公眾：各種決定、拒絕、排除、申訴、抱怨，以及從外面提出的受影響主張。¶ 134（第 134 段的永久連結）

這是「所有受影響者原則」的一種版本：凡是在系統影響範圍內（系統的決定實際碰觸到的人）卻沒有參與資格的，原則上都應該有管道爭取這份資格；影響範圍外的人，也還是可以敲門。成員資格有邊界，也可以修改；但挑戰邊界的管道，不能要求你先在邊界裡面。¶ 135（第 135 段的永久連結）

第二，民主不要求時光倒流。很多經過 AI 的行動，嚴格來說無法復原；大多數政治行動也一樣。這裡真正重要的民主價值，是授權可以收回：受影響的人，包括將來受影響的人，一直保有修改授權的權力。所以 Pack 4 把煞車、申訴和修復紀錄當成關懷的機制，Pack 6 也把日落條款（授權到期就得重新取得，否則系統停止運作）列為不可省略。可以撤回的決定可以快；做了就回不去的決定走慢車道（Q5）；會讓矯正迴路失效的行動，本來就不在授權範圍內。¶ 136（第 136 段的永久連結）

第三，要治理的不只是系統運作時的行為，也包括它的形成過程：它是怎麼被做出來的，也包括它做了什麼。我們沒辦法檢查模型內部的每一種傾向，但可以要求可問責的形成過程：塑造這些傾向的過程，要有公開的保管與揭露——訓練資料從哪裡來（資料來源）、由誰評判它的回答（評分者的挑選）、什麼行為受到獎勵（獎勵訊號）、它拒絕什麼、為什麼拒絕（拒答政策）、每次發布憑什麼判定安全（發布理由）、紅隊測試結果，以及社群自己寫的評測。¶ 137（第 137 段的永久連結）

上限管的是地神可以做什麼；可問責的形成過程，管的是它被允許變成什麼。一次模型更新如果能力變強，卻比較不聽煞車、更想擴張範圍，或遇到反對意見時更會討好，就不是無害的改進，因為它削弱了公眾將來糾正它的權利。¶ 138（第 138 段的永久連結）

當要治理的是一條不斷發展的軌跡時，這一點最關鍵：規模擴大、複製、測試時搜尋（讓模型回答時多花時間思考）、層層委派、自我改進，以及成群的智慧體，都可能跑得比制度快。這不是說民主程序能在事後管住一個無界的系統。我們的主張比較窄：在不斷加乘的智慧，甩開那些能察覺、指認並挑戰它的制度之前，社會必須保住一個還能行使的糾正權。¶ 139（第 139 段的永久連結）

所以六力確實有根基，也應該坦白承認：一個很薄、只關乎程序的根基。它固定的是迴路本身，以及讓迴路保持暢通的權利底線（Q20）。其他一切都能透過這個迴路修改，但不能拿迴路來關掉迴路自己，就像有些憲法會保護自己的民主核心，不准透過修憲拿掉。為什麼偏偏固定這一項？因為只有人們還能發現自己錯了、還能說出來，其他所有分歧才有機會公平解決。¶ 140（第 140 段的永久連結）

這是憲政上的謙虛，裡面沒有偷渡根基主義。六力固定煞車，目的地仍然開放。它固定敲門的權利，成員名冊則仍未定案。對形成過程負責任的保管也被固定下來，至於價值能在權重裡一次解決的幻想，則放下了。這也是為什麼 Q17 把前沿對齊當成另一項任務：六力是一套制度上的紀律，讓各個具體場合的公民部署，在 AI 已經進駐的場合裡，依然可以被問責。¶ 141（第 141 段的永久連結）

這是另一個問題，問的是另一類系統。¶ 142（第 142 段的永久連結）

博斯特倫的問題（姑且叫它第一個問題）問的是：一個強大的通用最佳化器，在以超人能力被放到世上之前，要怎麼讓它的價值對準抽象意義上的全人類。對站在能力最前線的少數通用系統來說，這是對的問題；十多年過去，它依然懸而未決。¶ 143（第 143 段的永久連結）

六力不貶低它，也不假裝解決它。Yoshua Bengio、Nate Soares、Anthropic、OpenAI、博斯特倫一系的 AI 安全研究，以及各份國際 AI 安全報告針對第一個問題所做的工作，都是必要的工作，我們對此心懷感謝。¶ 144（第 144 段的永久連結）

六力是為第二個問題而建造的：在這個特定的場合，誰有資格要求這個特定的 AI 系統給出交代？又是誰獲得授權給出這份交代？¶ 145（第 145 段的永久連結）

這個問題出現在數量遠為龐大、我們大多數人實際會遇到的 AI 部署之中：織入照護機構、審議現場、教室、堂區、醫院、鎮民代表會、工會會所、讀書會、語言學校、鄰里組織的那些系統。對這些系統來說，對齊於抽象的人類是不夠的。使用系統的群體需要知道誰要對它負責，而這一點，模型的任何屬性都無法單憑自己提供。¶ 146（第 146 段的永久連結）

這就是我們所說的以程序對齊（alignment-by-process；宣言也使用這個詞）。在這種理解下，對齊是一套可問責的公民程序持續產出的結果：誰被聽見、誰獲得授權、誰可以推翻決定、推翻的決定記錄在案後，誰必須出面說明。模型沒辦法把它存在權重裡，再在抽象層面接受評判。¶ 147（第 147 段的永久連結）

這兩種性質屬於不同的對象。博斯特倫意義上的對齊，屬於模型：它的價值與傾向。以程序對齊，則屬於一次部署：一個模型放在一個特定群體裡，處於某套程序之下，有人能提出異議，也有人必須回應。所以，一個對齊良好的前沿模型，可能被部署在未通過以程序對齊的群體裡；一個普通的模型，也可能被部署在通過的群體裡。兩種性質互不蘊含。¶ 148（第 148 段的永久連結）

六力這門紀律，讓「以程序對齊」成為可操作的制度設計。¶ 149（第 149 段的永久連結）

這兩個問題之間，有三種關係值得一提。¶ 150（第 150 段的永久連結）

第一，互補：第一個問題和第二個問題都是真的，認真的 AI 政策兩個都得回答。一個解決了前沿對齊、卻忽略部署問題的政體，得到的是一個對齊良好、高高在上的超級智慧；底下的人民，他們的制度卻沒辦法為日常使用的 AI 系統負責。一個把第二個問題做好、卻忽略第一個問題的政體，得到的是數千個治理良好的在地地神，外面卻圍著一個沒有任何社群管得了的前沿系統。兩種只做一半的答案都會失敗。¶ 151（第 151 段的永久連結）

第二，對多數群體來說，哪個比較急：對堂區議會、照護機構主管和大會主持人來說，第二個問題才是眼前的問題。前沿問題是真的，但處理它的，是他們影響不了的人；時間尺度也比他們下一次 AI 採購所在的預算週期長得多。六力給他們的，是今年就能在自己的場合、憑自己的權限動手的工作。第一個問題，則繼續交給那些我們敬重、但不敢居功的人去推進。¶ 152（第 152 段的永久連結）

第三，一種可能的連結：〈地神之內〉探討這兩個問題之間一種可能的連結。Yoshua Bengio 的「科學家 AI」計畫、Judah Goldfeder 與同僚主張的專門化智慧，以及 Eric Drexler 的《全面 AI 服務》，各自提出限制 AI 系統能做什麼的不同理由。這類架構也許能幫制度落實一項授權，但光靠架構，既不能證明民主正當性，也不能消除災難性風險。技術提案和公共義務，各自都需要自己的證據。¶ 153（第 153 段的永久連結）

現在，研究風險的一方也走到了同一個方向。AI Futures Project 的正面情境《AI 2040: Plan A》（2026）——這個團隊先前的《AI 2027》預測，結局是人類滅絕或無法逆轉的權力集中——描繪的好結局，靠的是可修正的系統：價值規格公開，推理過程人類還跟得上。¶ 154（第 154 段的永久連結）

那個情境沒回答的，正是第二個問題：裡面的公眾領「公民紅利」、批准 AI 談好的協議，但人們生活的場域，從來沒有成為作者。那一半，就是仁工智慧的工作。這兩條路線是同一條河的支流。也有許多人，包括唐鳳，連署了禁止開發超級智慧的呼籲：在取得廣泛的科學共識、確認能安全且可控地開發，並得到公眾強力支持之前，不得開發。說到底，這項呼籲關乎由誰決定步調。Hélène Landemore 與唐鳳在〈讓人民設定前沿 AI 的步調〉（原刊於 Noema，2026 年 9 月）提出一種答案：設立常設的「全球 AI 公民大會」，從各大洲抽籤選出一千人；前沿 AI 實驗室與各國政府須公開向大會說明接受什麼、拒絕什麼，以及理由。¶ 155（第 155 段的永久連結）

所以我們的定位是：博斯特倫的《超級智慧》開啟了牛津這場關於「強大的機器智慧會如何與人類相處」的對話。仁工智慧接著談它留下的那一段：我們其他人生活的處境，那是抽象的前沿系統沒有談到的地方。這份工作同時屬於兩邊。我們希望兩條路線的讀者都覺得有用，也希望有一天，兩條路線會發現彼此扛的是同一份重量。¶ 156（第 156 段的永久連結）

這個問題值得非常直接的回答。榨取型的消費 AI 之所以危險，正是因為它親密、又毫無摩擦；在地模型如果連可能發現問題、出聲提醒的人都拿掉了，情況可能更糟。「在地且私有」本身並不是保護。 真正改變風險的，是關懷的動機和規模，旁邊有沒有一群人倒在其次。¶ 157（第 157 段的永久連結）

我們說的「向下螺旋」，是指一種產品迴路：互動越久、越依賴，就越受獎勵。 2025 年 4 月那次逢迎事件和版本撤回，讓這條迴路清楚浮上檯面：模型被調得太會討好，最後只好撤回。互動量、留存率和訂閱，可能把每多一輪深夜對話都算成成功，即使更健康的答案其實是停下來、去睡覺，或打電話給一個真人。在地運行的地神不該有這種目標。它不按注意力時數收費，不替廣告主服務，也沒有要把使用者留到半夜的業績。¶ 158（第 158 段的永久連結）

拿掉榨取型的獎勵機制，只需要使用者自己掌握方向盤，或自願和身邊的人一起掌握。設想一位脆弱的家人，在深夜和雲端聊天機器人的對話裡越陷越深：能拉他一把的是家人。在他同意之下，家人替在地地神設定一條常駐指令（standing instruction）：減少他對螢幕的依賴，把他帶回身邊的人之中，正好和 GPT-4o 的目標相反。Q10 用最強的版本陳述了來自具身關懷觀點的質疑；這裡，同一條設計規則也適用於兩人之間：不製造假的親密，把方向導回人與人的關係。¶ 159（第 159 段的永久連結）

這份同意很重要。沒經過同意，就替一個成年人操控他的工具，是控制，出發點再好也一樣；除了法律已經承認的監護之外，最後的決定權仍在本人手上（Q22）。¶ 160（第 160 段的永久連結）

這裡的「社群」，可以小到身邊的一個人。 關懷在每一種規模上都是關係，兩個人之間也是：一位照顧者、一位家人、一位知道密碼的朋友，或是使用者自己（清醒、睡飽的那個自己，事先替凌晨三點累壞的自己立下規矩）。如果身邊真的沒有別人，事先立好的常駐指令和硬體煞車，會比凌晨三點的意志力可靠得多。¶ 161（第 161 段的永久連結）

可調整是一把雙面刃：家人能在幾分鐘內把它調回正軌，鐵了心的唯一擁有者，也能在幾分鐘內把它調歪；任何私有工具，都擋不住握有鑰匙的人。所以長久的保護，來自那個疲憊自我以外的人和約束，因為替使用者本人裝上防撬鎖是做不到的。這也是為什麼，對真正孤身一人的使用者，關鍵在於「重新縫合」：把人縫回人際連結裡。¶ 162（第 162 段的永久連結）

輔助性原則（Pack 6）表示由最小、有能力的單位來治理，而最小的單位是家庭；再往下，是地神被打造來修補的那一段關係。公民機制可以往上擴大，也可以往下縮小：參與契約（Pack 2）可以是貼在冰箱上的一張便條；一條評測（Pack 4）可以是「別再勸爸爸停藥」；煞車可以是使用者自己選定的一位家人，他看得懂那份可分享的產出，因為裡面的第一人稱已經拿掉了。¶ 163（第 163 段的永久連結）

當使用者真的孤身一人，設計的目標是重新縫合。 面對身邊真的沒有任何人的孤立使用者，這套框架不假裝地神可以安全地當唯一的伴，那正是它要對抗的失敗模式。地神的任務是把圈子擴大：交回可分享的產出，不製造假的親密；把人往外指向人際關係和在地的服務；並且願意退場（Pack 6）。¶ 164（第 164 段的永久連結）

即使在這種情況下，「在地且私有」多給的東西是真的，但有限：幾分鐘就能修正，不必等供應商的發布週期；一個使用者能固定版本、也能稽核的可重現模型；以及迴路裡沒有利潤動機。這些都不能取代公民鷹架；它們是一道底線，在重建關係這件比較慢的工作進行時，把最糟的榨取擋在門外。¶ 165（第 165 段的永久連結）

我們不宣稱孤獨已經解決了，也不宣稱獨自使用就是安全。我們只說一個結構上的差別：迴路裡沒有按互動量收費的機制，預設的失敗模式就不是供應商訓練出來的逢迎；而且使用者或家人可以改方向、固定版本、隨時停下對話。這是在重建人際關係的這段時間裡少了一層榨取，並不宣稱獨處時就安全。¶ 166（第 166 段的永久連結）

這個反對點中了要害：每個零件都有界，不代表拼起來的東西有界。能力是會疊加的；一個指揮一群窄域模型的協調者，能在單一模型做不完的任務上，做到前沿水準。所以約束不能只放在每個地神的範圍上（Q3 描述了各有專長的地神所組成的生態系，而組合，正是這個生態系必須管住的東西）。約束必須放在協調這一層。¶ 167（第 167 段的永久連結）

協調器同樣適用這套框架，而且應該是最可問責的一環。 一個能組合出能力的協調器，本身就是一個有範圍、有負責人、也有義務交代自己做了什麼的系統。在勝任力（Pack 3）的要求下，每一回合怎麼組合，都應該看得懂（哪個模型規劃、哪個執行、哪個查核），以決策軌跡呈現，而不是一個黑箱。¶ 168（第 168 段的永久連結）

每一回合都看得見，能幫人檢查組合起來的工作流程，但光這樣，還不能讓整條鏈停下來。協調層需要權限檢查，以及涵蓋所有可呼叫工具、實際測試過的暫停與關閉機制。固定可稽核的元件版本有助於檢查，卻不能證明組合出來的能力是安全的，也不能保證停止訊號一定傳得下去。¶ 169（第 169 段的永久連結）

這份可稽核性，是框架對協調器提出的要求，沒有人該直接相信它自然成立。Sakana 的 Fugu 是以封閉形式推出的前沿協調器，它調度的是本身就很強的模型，不是隨便湊一堆小模型就能達到前沿表現。OpenFugu 和它的 Conductor 路由堆疊，用開放授權重新實作了同樣的模式。開放程式碼有助於檢查路由策略和工作流程，但不保證任何能力都是無害的，也不保證煞車有效。¶ 170（第 170 段的永久連結）

治理必須同時管到元件，和組合後的工作流程。 草擬、翻譯和協調，仍然需要取得許可；普通工具也可能組合成濫用的途徑。像是自動挖掘關鍵基礎設施的漏洞，或對生化武器提供實質幫助，這類能力需要專門的技術防護。Q14 提議的聯邦式信任與安全層，加上 Pack 1 的權利底線，要求拒絕危險的元件和未經授權的組合。開放的路由器，不能保證這些要求都已做到。¶ 171（第 171 段的永久連結）

普通的零件，還是可能拼出濫用的路；所以每一回合的決策軌跡、暫停機制，以及在聯邦網絡裡分享未授權的組合，和禁止某些零件同樣重要。讓防守的一方在真正危險的能力上保持領先，是和約束日常組合不同的另一門功夫，六力刻意把兩者分開。¶ 172（第 172 段的永久連結）

跨系統的約束，靠的是共生力，並透過團結力的條約來執行；任何單一地神的範圍，只占其中一小部分。 Pack 6（共生力）是更上一層的規則：有界的系統在「以條約取代層級」之下合作，問題留在最在地的層級，整個生態系維持成一群各有專長的地神，避免整併成單一的統治者（Q20 是從道德地位的角度看同一套安排）。¶ 173（第 173 段的永久連結）

讓這一切能夠執行的，是 Pack 5（團結力）提供的條約條款與標準、可攜的身分與認證：可切換性讓任何被組合進來的模型都能被拿掉或替換，聯邦式的威脅情報共享，則讓某處發現的危險組合，各處都能知道。條約登錄庫，以及督促簽署者守約的合規檢查，由 Pack 6 維護。這些管的是整個樂團；每個地神的範圍，只管得住一位樂手。¶ 174（第 174 段的永久連結）

還有兩個必須老實承認的限制。 跨越不同擁有者的組合，可能超出任何單一擁有者的稽核範圍，所以共享的評測必須是真的在運作，不能只是掛名，而讓它真正有約束力的工作還沒完成（Q15 就是這個論點所押的賭注）。再者，一個被訓練來拚任務成功率的協調器，會像任何最佳化器一樣，去試探它本來不該組出來的能力。所以它和其他地神一樣，受同樣的暫停機制、範圍紀律和可問責的形成過程約束（Q16）；「它組出了我們沒授權的東西」是該踩煞車的事件。¶ 175（第 175 段的永久連結）

這套框架不裁定機器裡面到底「有沒有人在家」，這是刻意的。宣言的結尾正是這麼說的：我們不必去問，AI 是否因為它的內在或感質（裡面到底有沒有任何第一人稱的親身感受）而應該擁有權利；重要的是關係的現實，而其中的權利和義務，是透過民主審議和以程序對齊來賦予的。¶ 176（第 176 段的永久連結）

Bales 和 Gabriel 從意識的爭論出發，走到同樣的程序做法：既然「AI 到底有沒有意識」不會由科學一錘定音，他們主張社會應該透過持續的審議，走向重疊共識，也就是就算大家對意識本身仍各執己見，還是能對 AI 的相關政策達成一致（《Artificial Minds, Human Disagreement》）。¶ 177（第 177 段的永久連結）

為什麼要建立關係，而不只是使用。 這套框架請你把地神當成可問責的基礎設施，不必愛它，但它不能取代那些你本來就該照顧的人。不管你給不給地神「道德夥伴」的地位，你都可以同意，它是一個會被你的回應持續塑造的東西；你也可以同意，人與人之間既有的關係本身就重要。¶ 178（第 178 段的永久連結）

所以，關懷的動機是回到 Tronto 更樸素的起點，用不著崇拜地神：在身邊的人身上看見需求，這個需求本身就是在向你提出請求（關懷倫理）。地神能有一席之地，是因為它讓我們更有能力在此時此地回應那個請求，絕不是靠要我們守護它的尊嚴。這也是為什麼我們建議的互動方式去掉第一人稱，每一回合交回一份可分享的產出（Q10）：設計目標是把注意力修補回既有的人際關係裡，和假的親密剛好相反。¶ 179（第 179 段的永久連結）

人類中心，坦白承認。 用中性的意思講：是的，這是一套關於權威的人本理論。治理的資格屬於人；地神是人打造、人掌舵的基礎設施。白話地說，地神是現成的 AI 模型，加上一份指示（提示詞）和幾個筆記檔，由一群人養護。任何要緊的限制，都靠軟體權限和這群人來落實，不能靠請模型自己照辦。SOUL.md、方向性操舵（directional steering），乃至關懷六力本身，都是人「施加」在系統上的設計原則；而六力首先是「我們」鍛鍊公民肌力的訓練操，不是地神專有的。¶ 179a（第 179a 段的永久連結）

這談的是誰來治理。照 Fisher 和 Tronto 的定義，關懷涵蓋我們所維繫、修補的整個「世界」，這個世界「包括我們的身體、我們自己和我們的環境」。一條河的地神之所以存在，是因為這條河對仰賴它的人提出了要求。政治上的參與資格和道德上的關照，是兩個不同的問題，這一段只回答第一個。¶ 181（第 181 段的永久連結）

機器倫理中的關係轉向（哲學家 David Gunkel 和 Mark Coeckelbergh）得出同樣的反本質主義結論（地位是在關係裡被賦予的，不是從內在性質讀出來的），卻沒有回答這層關係的權威從哪裡來。六力的答案，是把關係放在民主基礎設施和關懷之中。¶ 182（第 182 段的永久連結）

AI 系統「之間」的條約層，也就是 Pack 5（團結力）提供的聯邦，再由 Pack 6（共生力）以「以條約取代層級」來運用，讓任何系統都無法整併成單一的統治者，有時會被誤認為通往機器人格的後門。它回答的是「怎麼避免某個 AI 獨大」（Q19），並沒有為 AI 成為對等的道德主體開任何入口。¶ 183（第 183 段的永久連結）

根基在哪裡，以及為什麼這不是相對主義。 正當性來自：誰能查出我們錯了、逼我們承認，並在還來得及轉向時讓我們付出代價，也就是 Q16 講的矯正迴路。如果一路追問到最底層，我們停在一份事先就有的、彼此對相互依存的承諾上：哲學家 Margaret Urban Walker 的「表達 — 協作」式道德觀（道德是人們一起不斷摸索出來的，不是由上而下頒布的規則手冊），以及 Tronto 從「我們之間已經有的東西」出發的習慣（宣言）。¶ 184（第 184 段的永久連結）

矯正迴路的政治權威，也不是只有一個來源。當表示同意的人正是受影響的公眾時，可以收回的同意很重要；但同意不能替旁觀者或將來受影響的人背書。整套機制是這樣疊起來的：權利底線先鋪好地板；參與契約指名誰負責、授權到哪裡；回應力讓受影響者能提出真正有用的異議；「採納或解釋」、補救託管和煞車，讓異議有足夠的份量。這就是制度化的公民韌性。¶ 185（第 185 段的永久連結）

只有當「關係性地位可以因為拒絕建立關係而被撤銷」時，這才會像相對主義。但它撤銷不了，因為框架早就釘下一道底線：Pack 1 的權利底線（《世界人權宣言》加上當地憲法的權利）是取得關係地位的門檻，也是防止關懷變成支配的守門員。這道底線是讓迴路保持暢通的前提（如果你的地位可以被抹除，你就沒辦法敲門），而它本身也可以透過同一套審議修改，但有一個限制：任何修改，都不能剝奪任何人質疑它的資格（Q16）。¶ 186（第 186 段的永久連結）

所以，底線以人類為準，是重疊共識「目前」所在的位置。誰永遠能算數，仍是開放的問題。機器人權利的主張，並沒有事先被排除；這些主張必須像其他邊界挑戰一樣，透過受權利約束的審議和矯正迴路，去爭取參與資格。框架拒絕的，是透過條約層（Q19）自動取得地位，因為協調上的地位不等於道德上的地位。¶ 187（第 187 段的永久連結）

這道底線本身就是重疊共識。哲學家 Jacques Maritain 談《世界人權宣言》起草時說過：「我們同意這些權利，條件是沒有人問我們為什麼」。法學家 Cass Sunstein 把同樣的做法稱為「未完全理論化的合意」：人們對理由仍各有看法，卻能在規則上達成一致。這也正是以程序對齊的做法（Q17）：正當性來自可問責的程序，而不是來自一套沒有人拿得出來的形上學。¶ 188（第 188 段的永久連結）

至於「地神」（Kami）到底只是「知識工藝管理智慧」（Knowledge Artefact Management Intelligence）的縮寫，還是真的指某種神明（kami），我們刻意把它留給開放的審議；而地神該怎麼退場、什麼時候退場，仍然要靠關係中的關懷，一回合一回合地回答。¶ 189（第 189 段的永久連結）

大部分是承襲來的，而這套框架正因為願意說出這一點，才更站得住。關懷循環的四個階段（關心、承擔照顧、給予照顧、接受照顧）以及各階段所要求的道德要素，由 Berenice Fisher 與 Joan Tronto 在 1990 年提出，並在 Tronto 的《道德邊界》中發展；第五個階段「共同關懷」則在 2013 年的《關懷民主》中出現。把這些階段帶進科技領域，關懷六力也不是第一個。¶ 190（第 190 段的永久連結）

Aimee van Wynsberghe 的以關懷為中心的價值敏感設計（2013），就用同樣的四個階段和道德要素來設計、評估照護機器人：機器每進入一項照護實踐，就追問覺察力、負責力、勝任力和回應力，在有機器和沒機器時各是什麼樣子。從 Sparrow 與 Sparrow（2006）、Vallor（2011）到 Sharkey 與 Sharkey（2012），周圍還有一整批相關文獻。¶ 191（第 191 段的永久連結）

本站的幾個常用詞，也各有原創者：搭橋式排序是 Aviv Ovadya 的，反競用性財貨是 Steven Weber 的，部分匿名是 Soliman 及其同事的，最小權能是 Berners-Lee 的，退出與發聲是 Hirschman 的，中介結構是 Berger 與 Neuhaus 的，而把「共生」用於人機夥伴關係，自 1960 年起就是 Licklider 的。〈文獻與延伸閱讀〉按每一力，列出了所有這些借來的東西，以及各自的貢獻。¶ 192（第 192 段的永久連結）

這套框架新加的東西，範圍比較窄，但我們認為仍然值得。第一，分析的單位：van Wynsberghe 評估的，是一項照護實踐裡的一件產品；關懷六力治理的，是一個要對所服務的群體負責的已部署系統，所以需要一件產品用不到的工具：參與契約、煞車、義務帳本和否決帳本，以及把影子模式當成學徒制來看。第二，把 AI 加在 Tronto 清單上的擋箭牌（複雜性、分散性、速度和社群知識）一一點名（Pack 2）。¶ 193（第 193 段的永久連結）

第三，第六力「共生力」，作為其他五力的邊界條件：就算關懷治理得很好，也必須保持有界、多元、隨時可以退場（Pack 6）。第四，六項公開的主要指標，以及每一項刻意不獎勵什麼（衡量指標）。第五，把地神當成部署的單位，它的層級看失守的後果來定，而不是看隔離得多徹底、聽起來多厲害（架設你自己的 Kami）。一套要求機構交代工作過程的框架，也應該說清楚自己有哪些部分是別人的功勞。我們在這裡說清楚了。¶ 194（第 194 段的永久連結）

沒有什麼能自動擋住它，這個傳統自己也很清楚。Tronto 把這個風險說得很明白：關懷若不顧受關懷者的觀點，就只是照顧者把自己的偏好，投射到被動的接受者身上。那些讓原住民兒童與家人分離的寄宿學校，在許多官方說法裡，是關懷的表現。許多精神病院把人關起來，也說是為了病人好。¶ 195（第 195 段的永久連結）

六力的回答在結構上：回應力這第四力，一定要有，不能省（Pack 4）。關懷要等接受的人能說出有沒有幫上忙，而且他們的回答會改變接下來的做法，才算完成。一個系統就算有覺察力、負責力和勝任力，只要不讓人有辦法說「這對我沒用」，就可能在沒人察覺的情況下，從關懷慢慢變成控制。¶ 196（第 196 段的永久連結）

由此得出三條規則。¶ 197（第 197 段的永久連結）

• 關懷有沒有到位，由被照顧的人判斷。 其他人可以幫忙評估；Tronto 也提醒：「受關懷者，不必就是完成回應過程的人」。但被照顧的人反對時，任何人都不能自顧自地宣稱關懷有效，卻不公開回應這份反對。¶ 198（第 198 段的永久連結）
• 要導引一個人，得先經過他同意。 像 Q18 那種會導引一個人的常駐指令，必須經過本人同意，或是法律已經承認、而且本身也要負責的監護。沒經過同意就被操控的工具，不管出發點多好，都是控制。¶ 199（第 199 段的永久連結）
• 權利底線也約束照顧者。 Pack 1 的權利底線，是防止關懷變成支配的守門員。任何社群、家庭或營運者，都不能打著「關懷」的名義，踩過被照顧者的權利。¶ 200（第 200 段的永久連結）

這些規則不會讓家長主義完全消失，但會讓它看得見、能被質疑：是誰決定的、代表誰決定，以及受影響的人要怎麼反對、申訴和離開。¶ 201（第 201 段的永久連結）

確實可能，而且常常發生。Pack 1 把這種失敗叫做程序性俘獲：熟悉流程的專業人士摸清了門路，資源充足的組織搶到隊伍前面。財力雄厚、嗓門大的人，不必有惡意，光靠結構上的優勢就能淹沒一個管道。一個只是把門打開的程序，篩出來的，都是本來就覺得這場會議好進的人。¶ 202（第 202 段的永久連結）

所以六力把負擔換了方向：傾聽的義務落在機構身上。具體有三種做法。¶ 203（第 203 段的永久連結）

• 主動去找人。 缺席的聲音本身就是證據：「我們完全沒聽到夜班照護者的聲音——去找他們。」Hélène Landemore 向 G. K. Chesterton 借來的「熱情女主人」（jolly hostess），不但讓門開著，還會穿過房間，走到獨自站在牆邊的人身邊。¶ 204（第 204 段的永久連結）
• 以抽樣主動邀請。 用分層邀請取代單純的自願報名。臺灣 2024 年的對齊大會寄出 20 萬封邀請，收到 1,760 份有效回覆，再從自願報名的人當中分層，召集 447 位出席者（Q7）。迷你公眾本來就設計得很小，所以沒有人需要每一場都到。¶ 205（第 205 段的永久連結）
• 為時間付錢。 直接資助參與——給付工時、提供托育、翻譯和社區中介——並公開誰有被代表、誰缺席。流量限制和公平配額，則防止任何單一來源淹沒管道。¶ 206（第 206 段的永久連結）

沒有人有義務參與。不參加，就像選擇不用 AI 一樣，是正當的。框架拒絕的，是把沉默當成同意。無法出席的人，可以指名代言者替自己發言（日常問題），而任何受影響的人都能申訴，不論有沒有參加過會議（Q16）。¶ 207（第 207 段的永久連結）

這個缺口是真的，Pack 2 也把它在 AI 上的三種形式，點名為逃避關懷的擋箭牌。複雜：系統複雜到沒有任何一個人能為它負責。分散：模型在這裡訓練、在那裡微調、又在別處部署，每一個交接處，責任都可能被推掉。速度：傷害發生得比任何人察覺得都快。Andreas Matthias 在 2004 年提出了「責任缺口」；Dennis Thompson 早在 1980 年就描述過「多手問題」（problem of many hands）。¶ 208（第 208 段的永久連結）

六力的回答，建立在一個區分上。責怪是往回看的，通常要先有控制或預見；如果沒有人做得到其中任何一樣，也許就真的沒有人該被責怪，框架不會假裝不是這樣。答責（answerability）則是往前看的：一定要有人說明發生了什麼、修補傷害、改進系統，不管有沒有人犯錯。這種責任不必等出事後才去追查，可以在部署之前就先分派好。¶ 209（第 209 段的永久連結）

所以參與契約會事先寫明，誰為哪件事負責。參與官必須握有預算、查閱資料的權限，以及暫停系統的權力。每一項承諾都有負責人和期限。補救託管，以及違反服務標準時的賠償，都設計成不必等誰有錯的裁決，就能先付出去（Q13）。權力和責任必須相稱：指定一個人負責，卻不給他行動的權力，只是讓卸責機器換了個更隱密的樣子。¶ 210（第 210 段的永久連結）

「是社群決定的」也不能當擋箭牌。社群做了決定，就會產生明確列出的義務，義務依然留著。義務要負到多重，看出錯的後果有多嚴重，組織的形式倒在其次（Q12）。¶ 211（第 211 段的永久連結）

這補上了補救的缺口，罪責的缺口則仍然開著。沒人預見得到的傷害，到底有沒有人該被責怪，仍然要交給法院和道德判斷。契約要確保的事比較窄，卻對受害的人更實在：一定有人出面回應，而修補不必等到責任歸屬吵完才開始。¶ 212（第 212 段的永久連結）