把模型關在隔離網段裡就安全了嗎?研究者用「允許外流的診斷資料」把機密帶了出去
注重隱私的組織會把大型語言模型放在受限或實體隔離的環境中運行,同時允許匯出選定的診斷資料。這篇證明:被入侵的執行期元件可以把敏感資訊藏進那些被允許離開的中間層激活值裡,離線的觀察者用一個簡單的線性解碼器就能還原。跨十一個模型、七個架構家族,九個模型的還原率是 91% 到 100%。
前沿模型(Frontier Model)指的是當下能力最強的一批大型語言模型,例如 OpenAI 的 GPT 系列、Anthropic 的 Claude 與 Google 的 Gemini。這個專區整理它們的新版本發表、技術報告、能力評測與安全研究,每一篇都標註原始論文或官方出處,並由賴家榮 Andy Lai 補上對台灣企業的判讀:這次更新跟你的業務有沒有關係、該不該換模型、導入時要留意什麼。想掌握前沿模型的進展,又不想被行銷話術帶著走,可以從這裡開始讀。
注重隱私的組織會把大型語言模型放在受限或實體隔離的環境中運行,同時允許匯出選定的診斷資料。這篇證明:被入侵的執行期元件可以把敏感資訊藏進那些被允許離開的中間層激活值裡,離線的觀察者用一個簡單的線性解碼器就能還原。跨十一個模型、七個架構家族,九個模型的還原率是 91% 到 100%。
貪婪解碼通常被當成確定性的:同樣的輸入就會有同樣的輸出。這篇證明它並非精度不變——同一個模型、同一段提示、同一套解碼演算法,在同一台硬體上以 BF16 與 FP16 執行會產生不同輸出。跨六個模型與三個基準測試,有 49% 到 100% 的提示出現分歧。
排行榜上的領先幅度,可能來自供應商在私下評測的多個模型變體中挑出最好的那一個,而變體有幾個、彼此相關性多高,外界都看不到。研究者推導出一條敏感度曲線,計算一個已公布的領先幅度最多能容忍幾個隱藏變體。對 Open LLM Leaderboard 上 394 個相鄰名次宣稱的稽核發現:391 個在還沒把挑選效應算進去之前,就已經缺乏統計支持。
推論服務按 token 收費,但 GPU 的電是按推論時間窗消耗的。這個會計錯位會讓「平均每 token 能耗下降」的同時、「整個請求的總能耗上升」。研究者在 NVIDIA H100 與 H200 上實測,給出具體數字:輸出長度從 10 增到 512 token,每 token 能耗從 7.46 降到 0.72 焦耳,但整批推論窗能耗卻從 1.19 上升到 5.93 千焦。
AI 供應商算力吃緊時的共同反應是降級服務:改路由到小模型、削減推理力度、截斷上下文。這篇主張現行成本會計漏算了降級回應失敗後引發的重試與客戶流失,並用報童模型、重試乘數與兩段式暫態佇列三個工具建模。結論之一:在資源受限時,便宜的模型為了換到一次成功回應,反而吃掉更多產能。
研究者建了一套涵蓋五個科學領域、2,500 題的基準測試,用最小配對設計比較 18 個模型:每個經科學資料微調的模型,都對上它自己的通用版本。結果兩項都不樂觀——微調後的模型在所有幻覺類型與領域上可靠度都退步,而且內部信心更低、語言上卻更斷定。
研究者建了一套涵蓋 24 種語言的文化開放問答資料集,要模型回答文化相關問題並舉出地點。結果模型明顯偏向日本等國家。更關鍵的是:用英文等高資源語言提問時輸出較多元,用低資源語言提問時,模型傾向只回答該語言的官方使用國。而這個偏誤是在監督式微調之後才出現的。
我們習慣說「某某模型比較強」。這篇論文用 56,476 次推論證明,這句話少了一個前提:你讓它想多久。在三個測試集上,模型排名都會隨著 token 預算改變而反轉。
一份 2026 年 8 月的研究對六家實驗室的前沿模型施加操控壓力,累積 24,480 筆評判。結論很具體:GPT-5 有 99% 的機率拒絕揭露自己的推理但仍給出答案,其餘模型是 0%。模型之間的差異不只在被影響的幅度,而在反應的「種類」。
Google DeepMind 的 Gemini Deep Think 在數學、物理與計算機科學上取得多項具體成果,包括自主解出 Erdős 猜想資料庫中的四個未解問題。但團隊在同一篇文章中明確設限:「我們目前不主張任何第三級(重大進展)與第四級(里程碑突破)的成果。」
Anthropic 於 2026 年 7 月 6 日發表全域工作空間研究,指出 Claude 內部存在一小群被稱為 J-space 的神經模式,承載了模型「想到但沒說出口」的內容。研究團隊能讀取它,也能直接改寫它。本文說明這對企業 AI 稽核代表什麼,以及不代表什麼。
2026 北京智源大會發布多項成果,媒體焦點多在世界模型與 Nature 論文。但對台灣供應鏈更值得注意的是 FlagOS——一套宣稱支援 18 家品牌、32 款晶片的開源算力層。它要解的不是模型能力問題,是硬體綁定問題。
北京智源研究院發布 2026 十大 AI 技術趨勢,主軸是從「預測下一個詞」轉向「預測世界下一狀態」。但對企業最有參考價值的不是那些技術名詞,而是第六條直接承認企業應用正處於幻滅期——由一家研究機構說出這句話,值得認真看待。
7 月 DeepSeek、百度、阿里巴巴接連發表新模型,訴求都是低成本。但「訓練成本降低 94%」和「API 費用只要十分之一」是完全不同的兩件事,而且只有一件跟你的帳單有關。本文拆解 MoE 架構為什麼能同時做大又做便宜,以及台灣企業選用前該確認的四個問題。
「看得懂圖、聽得懂聲音」聽起來很厲害,但多模態真正的技術分水嶺不在功能列表,而在模型是原生就吃多種訊號,還是外掛翻譯。本文拆解 Gemini 技術報告的基準數字該怎麼讀、長上下文有什麼沒被講的限制,以及製造業現場最適合切入的場景。
AlphaFold 3 發表於 Nature(2024 年 5 月),以擴散式架構在單一框架內預測蛋白質、核酸、小分子與離子的聯合結構。它取代的是過去一整批各自為政的專用工具——這個「統一框架勝過專用工具集合」的模式,值得所有產業借鏡。
企業支出分析平台 Ramp 於 7 月 30 日發布的 AI 採購指數顯示,Anthropic 企業付費採購市佔達 34.4%,首度超越 OpenAI 的 32.3%。本文拆解這個數字實際量到什麼、代理原生架構在哪些情境會失效,以及台灣企業導入前該先確認的三件事。
每隔幾週就有新的前沿模型發表,分數更高、上下文更長、價格更低。但對企業而言,絕大多數的發表跟你完全無關。本文提供一套四個問題的判準,用來快速決定某一次發表值不值得你花時間評估。