封測廠導入 AI 為什麼最後全部走地端?關鍵不在保守,在客戶的保密義務
南台灣封測廠評估生成式 AI 時,第一個提出的顧慮幾乎都是資料外洩。但真正的關鍵不在於封測廠自己怕,而在於他們對 IC 設計客戶負有合約上的保密義務——這個結構性因素,直接決定了地端部署是唯一可行解。
過去這段時間接觸南部封測廠的 AI 導入評估,有一個一致的結果:最後全部採用地端部署,沒有例外。
表面理由是「擔心資料外洩」。但如果理解停在這裡,就會誤判成「傳產保守」,進而給出「雲端其實很安全」這種沒有用的建議。實際的原因是結構性的。
封測廠保護的不是自己的資料
封測是代工。廠內流動的資料——晶圓良率、測試程式、失效分析報告、製程參數——絕大多數的所有權屬於 IC 設計客戶,不屬於封測廠。
這個歸屬關係改變了問題的性質。封測廠與客戶簽的保密協議,通常明文禁止將受託資料傳輸給任何第三方,而公有雲上的商用 LLM 服務在法律定義上就是第三方。
封測廠即使評估後認為雲端服務足夠安全,也沒有權限做這個決定。要用雲端,得回頭去問每一家客戶,而客戶沒有任何動機承擔這個風險。所以答案在提問之前就已經確定了。
這也修正了一個常見的誤解:業界常說傳產保守、不敢碰新技術。但封測廠拒絕雲端 AI 是在履行合約義務,不是保守。把它當成心態問題來說服,只會浪費雙方時間。
地端的實際代價
確定走地端之後,接下來的問題才是真正需要評估的:
- 硬體是一次性資本支出 不是月租。這改變了預算科目與核決層級,通常要走設備採購流程而非軟體訂閱,時程完全不同。
- 模型能力有上限 能在廠內硬體跑起來的模型,能力落後最前沿的雲端模型,這個差距在複雜推理任務上特別明顯。
- 維運責任落在自己身上 模型更新、向量庫重建、權限管理都得有人負責。這是最常被低估的一項。
- 跟進新模型有延遲 前沿模型發布後,能不能在既有硬體上跑、要多久才跑得動,是另一個變數。
所以地端該拿來做什麼
關鍵在於:選擇不需要前沿模型能力就能做好的任務。地端模型能力有限是事實,但很多真正有價值的廠內任務,本來就不需要最強的推理能力。
適合的:
- SOP 與規範文件的檢索問答——資料量大、答案有標準、價值在於省下翻文件的時間
- 工單與異常回報的分類與路由
- 會議紀錄與日報表的整理
- 教育訓練教材的初稿產出
不適合的:
- 良率分析與製程最佳化。這是統計與領域知識的問題,不是語言模型的問題。把良率分析和 LLM 混為一談,是這個產業目前最常見的認知落差,也是最容易造成期待落空的地方。
- 需要跨大量結構化資料做精確計算的任務
給評估中的封測廠
建議的順序是:
一、先確認資料歸屬與 NDA 條款,而不是先比較模型。這一步會直接刪掉大部分選項,省下大量評估時間。很多廠是花了好幾輪會議比較各家雲端服務之後,才發現合約根本不允許。
二、選一個文件密集、答案有標準的任務當第一個標的。不要一開始就挑良率——那是最難的,失敗了會讓整個組織對 AI 失去信心。
三、先確定維運由誰負責,再談採購。沒有指定負責人的導入案,通常在半年內回到原本的做法。
地端之後,還有三件事要決定
確定走地端只是第一步。真正花時間的是接下來這三個決定:
一、模型放在哪一層。放在廠內的中央機房,還是各產線的邊緣裝置?前者好管理但有網路延遲,後者反應快但要維護多份模型。判準是:這個判斷需要多快回應?如果是即時的製程控制,邊緣;如果是報告彙整與查詢,中央。
二、誰有權限問什麼。地端不等於全公司都能查。封測廠的資料按客戶隔離,AI 系統也必須沿用同一套隔離——A 客戶的工程師不能透過問答系統問出 B 客戶的良率。這件事在導入前就要設計,事後補會很痛。
三、模型更新怎麼進來。地端最容易被忽略的長期成本。新版模型出來時,誰負責測試、誰決定要不要換、換的時候產線要不要停。這個流程沒有先講好,系統會停在導入時的版本好幾年。
常見問題
封測廠為什麼不能用雲端 AI 服務?
關鍵不在於封測廠自己怕,而在於資料所有權。廠內流動的良率資料、測試程式、失效分析報告,所有權多屬於 IC 設計客戶。與客戶簽的保密協議通常明文禁止把受託資料傳給任何第三方,而公有雲上的商用 LLM 在法律定義上就是第三方。因此封測廠即使評估後認為雲端夠安全,也沒有權限做這個決定——這是履行合約,不是保守。
地端部署是不是就等於符合資安要求?
不是。地端解決的是「資料不離開廠區」這一件事,但存取控管、稽核軌跡、留存期限、客戶間的資料隔離這些要求,一項都不會因此自動滿足。特別是客戶隔離——封測廠的資料按客戶分隔,AI 問答系統也必須沿用同一套隔離,否則會出現 A 客戶的工程師問出 B 客戶良率的情況。
地端導入最容易被低估的成本是什麼?
模型更新的流程成本。新版模型出來時,誰負責測試、誰決定是否更換、更換時產線要不要停——這個流程若沒有事先講好,系統往往會停留在導入當時的版本好幾年,逐漸失去效益。硬體採購是一次性的,維運流程才是長期負擔。
出處與延伸依據
本文為賴家榮的顧問現場觀察,非編譯外電,不含實測統計數字。不同封測廠的客戶結構與資料治理成熟度差異很大,實際做法需個案評估。
關於地端不等於自動合規的討論,可參考本站的地端不等於隱私一文;跨法域的治理要求可參考 NIST AI RMF(AI 100-1)。
延伸來源
以下為與本文論點相關、且經實際查閱確認的外部來源。標示為預印本者尚未經同儕審查,引用時請留意。
- NIST, "AI Risk Management Framework"(NIST AI 100-1,2023-01-26):www.nist.gov
- Zhang et al., "Long Context Compression with Activation Beacon", arXiv:2401.03462(2024-01-07):arxiv.org
- EU Artificial Intelligence Act — Implementation Timeline(法案整理與追蹤網站,非官方發布管道):artificialintelligenceact.eu