當你的 AI 代理開始跟客戶、供應商的 AI 對話：三層治理與一個沒人補得了的缺口

目前多數企業想的是「我要怎麼管好我自己的 AI」。這份報告提醒你下一個問題已經在路上：當你的代理開始跟別人的代理直接互動，而失效是從「互動本身」長出來的，那時候誰管得動？

問題的形狀

報告的前提很務實：隨著組織陸續部署 AI 代理，這些代理會越來越常彼此互動——在組織內部、與夥伴客戶供應商的代理之間、以及與網路上完全未知的對手方之間。

關鍵的一句是：失效可以從互動本身產生；而一旦互動跨出組織的邊界，就沒有任何單一組織能夠完全看見、控制或治理它。

三層部署情境

報告用一個很聰明的判準來分層：任兩個互動中的代理之間，最低限度的共同治理是什麼。

• 單一治理（singular governance）　每一個代理都由同一個組織治理。這是目前多數企業的狀態。
• 聯邦治理（federated governance）　多個組織在議定規則下，把代理部署進一個共享環境。例如供應鏈協作平台。
• 開放環境（open environments）　代理在沒有中央權威的情況下運作，共同標準就算存在也是自願採用。

每往下一層，你能控制的就少一分。報告在每一層分別檢視風險因子、失效模式與可用的控制手段。

我讀完的感想

這份報告的分層方式，其實給了企業一個很好用的自我定位工具。

多數台灣中小企業目前落在第一層——自己的代理、自己管。這一層的風險是可控的，該做的事也清楚。問題在於：很多公司會在沒有察覺的情況下滑進第二層。

例如你接上了某個電商平台的 API、或導入一個會自動與供應商系統溝通的工具，這時你的代理已經在一個共享環境裡運作，而規則是別人訂的。治理層級的轉移，往往不是決策造成的，是整合造成的。

對台灣企業的意義

如果你目前還在第一層，該建立哪些控制，執行期治理的五項要件那篇講得更具體。

一、先確認自己在哪一層。這是零成本的動作，但多數公司沒做過。每接一個新的整合，就問一次：這讓我們跨層了嗎？

二、跨層之前，先問「規則是誰訂的」。進入聯邦治理等於接受別人的規則。簽約時該確認的不只是服務條款，還包括失效時的責任歸屬與稽核權。

三、開放環境目前不適合中小企業主動進入。沒有中央權威、標準自願採用，代表出事時沒有求償對象。除非業務上非做不可，否則這一層先觀望。

現在可以怎麼準備

• 畫一張互動圖。把公司目前所有「會自動與外部系統交換資料」的流程列出來，標出對方是誰、由誰訂規則。這張圖會比你想的還亂。
• 針對每個跨組織介面，確認三件事：出錯時誰負責、你能不能拿到紀錄、能不能單方面停掉。第三項最常被忽略。
• 把「可單方面中止」寫進合約。另外，人與 AI 輪流處理同一件事時介面是否可稽核，在跨組織情境同樣是硬條件。在跨組織的自動化裡，能不能喊停比能不能監控更重要。

可行的解決方案

對中小企業，最務實的策略是刻意停在第一層越久越好：能用批次匯入匯出解決的，就不要接即時 API；必須接的，就把介面數量壓到最少，並確保每一個都有停止開關。

這不是保守，而是因為第二層以上的失效，你既看不見也擋不住——報告本身就是這樣說的。

需要保留的懷疑

這是 arXiv 預印本，在本文寫作時尚無同儕審查紀錄。

• 這是一份分析框架報告，不是實證研究。它提供的是思考結構，沒有量測任何真實系統的失效率。
• 摘要未提供具體的失效案例。因此「互動本身產生的失效」具體長什麼樣子，需要看全文。
• 三層分類是否窮盡，摘要未論證。實務上可能存在混合情境，例如同一個代理同時運作在不同層。
• 報告指出的「集體行動缺口」沒有時程。這類需要跨組織協調的事，歷史上通常進展緩慢，企業不宜把規劃建立在它會被補上的假設之上。

常見問題

我們只是用 AI 客服串接 LINE，算跨組織嗎？

要看它實際做什麼。如果只是把訊息轉進轉出、由你的系統單方面決定回覆，那仍屬單一治理。但如果它會自動去呼叫第三方的服務、或對方系統也有自動化邏輯在回應，那就已經進入共享環境了。判準是「有沒有另一個你管不到的自動決策者參與其中」。

「互動本身產生的失效」是什麼意思？

指的是每個代理單獨看都正常，但互動起來產生問題。例如兩個系統各自的重試機制疊加，造成流量放大；或雙方各自依賴對方的輸出做判斷，形成互相強化的錯誤。這類失效在單獨測試每個元件時完全測不出來。

中小企業真的需要現在就處理這件事嗎？

現在需要做的只有一件事：知道自己在哪一層，以及每接一個新整合會不會跨層。這是盤點，不是建置，一個下午就能完成。完整的控制機制可以等到真的進入第二層時再投入。

想先確認貴公司目前在哪一層？

甫東科技可以協助你盤點所有會自動與外部系統交換資料的流程，標出治理層級、責任歸屬與是否具備停止開關。產出是一張你可以自己維護的介面清單。

前往甫東科技官網洽談 →