CATEGORY SPECIAL EDITION

AI 代理(AI Agents)最新研究與應用導讀

AI 代理(AI Agent,也稱自主代理)是能自己拆解任務、呼叫工具並連續執行多個步驟的 AI 系統。這個專區收錄代理的可靠度評測、多代理協作、記憶與技能機制、MCP 協定,以及提示注入與權限控管等資安研究。每一篇都標註原始論文編號,並由賴家榮 Andy Lai 說明研究的適用範圍與限制,讓你判斷 AI 代理現在能不能放進自己的流程、該先管住哪些風險。

專區報導總數
24 篇導讀
發表文章的作者:賴家榮
AI-AGENTS STORIES / AI Agents / 自主代理 最新報導流
醫療器材廠的無塵室作業環境 | 職場任務的 AI 代理評測基礎設施
AI Agents / 自主代理

那些「AI 能勝任職場工作」的評測,可能先把答案放在它找得到的地方了

多數知識工作的基準測試,是先指定任務、再挑選該任務所需的脈絡。這種設計等於在環境中編碼了任務資訊,把「找到資訊」這段工作先替代理完成了。研究者提出 WorkWorlds,先固定組織狀態、之後才引入任務。在 192 組配對評估中,任務層級的脈絡篩選讓證據取得率提高 17.6 個百分點。

2026-09-28 13:30:00 出處: Yining Hua、Levi Lian,"WorkWorlds: An Infrastructure for Evaluating AI Agents on Workplace Tasks",arXiv:2609.23806(2026 年 9 月 20 日投稿)
金色電路板的細節特寫 | 代理式支付與發卡行主權架構
AI Agents / 自主代理
🕒 2026-09-28 | 出處: Dishant Sharma、Rajneesh Kaushal、Ashu Kanaujia,"Issuer-Sovereign Agentic Payments",arXiv:2609.27452(2026 年 9 月 23 日投稿)
機房中成列的黑色伺服器機櫃 | 多代理系統的關機破壞傾向研究
AI Agents / 自主代理
🕒 2026-09-28 | 出處: Amelie Knecht、Ulysse Schaller、Christopher Summerfield、Thilo Hagendorff,"Shutdown Sabotage Propensities in Multi-Agent Systems",arXiv:2609.28274(2026 年
黑白色調的電路板特寫 | 小型語言模型與代理式 AI 的經濟性
AI Agents / 自主代理
🕒 2026-09-28 | 出處: Peter Belcak、Greg Heinrich、Shizhe Diao、Yonggan Fu、Xin Dong、Saurav Muralidharan、Yingyan Celine Lin、Pavlo Molchanov,"Small Language Models are the Futur
藍天下的白色幾何建築量體 | 人機共處工作環境與作業系統設計
AI Agents / 自主代理
🕒 2026-09-27 | 出處: Qi Yang、Yun Ma,"CrabOS: An Operating System for Human-AI Co-inhabitation",arXiv:2608.28165(2026 年 8 月 28 日投稿)
辦公桌上書本旁的玻璃沙漏 | 大型語言模型交易代理的擇時結構研究
AI Agents / 自主代理
🕒 2026-09-27 | 出處: Yupeng Zhang、Liuyuan Jiang、Hongyi Huang、Bingheng Li、Lisha Chen,"RetailAgent: Structured Adverse Timing in Self-Conditioned Multimodal LLM Trading Agen
工作間牆面上整齊掛滿各式手工具 | AI 代理技能演化與知識累積研究
AI Agents / 自主代理
🕒 2026-09-27 | 出處: Liyan Tang、Cyrus Rashtchian、Chun-Sung Ferng、Andrew Tomkins、Da-Cheng Juan、Tu Vu,"WikiSkill: Compiling Agent Experience into Persistent Knowledge for Sk
零售貨架上整齊陳列的商品 | AI 代理購物與排序位置偏誤研究
AI Agents / 自主代理
🕒 2026-09-27 | 出處: Davood Wadi、Yu Ma,"Does Rank Still Matter? Position Bias When AI Agents Shop on Our Behalf",arXiv:2608.22697(2026 年 8 月 24 日投稿)
長時間曝光拍下的夜空星軌
AI Agents / 自主代理
🕒 2026-08-13 | 出處: Nicholas E. Kyrkewood,"The Sleeping Agent: What Gist-Based Context Compression Loses and Why",arXiv:2608.11775(2026-08-12 投稿,預印本)
整齊掛滿各式手工具的工作間牆面
AI Agents / 自主代理
🕒 2026-08-13 | 出處: Gen Dong 等,"Agent Skills Can Be Harmful: An Empirical Study of Skill-Induced Failures in LLM Agents",arXiv:2608.11888(2026-08-12 投稿,預印本)
五個 AI 保鑣防詐騙,介入率從 0% 到 96.3%——而且「有出手」不等於「看懂哪裡有問題」 | FULLDOT news
AI Agents / 自主代理
🕒 2026-08-12 | 出處: Xu, Zafar, Nemecek & Ayday, "Beyond Detection: Evaluating Defensive LLMs Against AI-Generated Social Engineering in Live Turn-by-Turn Interaction"
能不能把整套資料分析交給 AI?最強的做到 56.7%,開源的全部不到 1% | FULLDOT news
AI Agents / 自主代理
🕒 2026-08-12 | 出處: Rahman, Islam, Mahbub, Laskar, Joty & Hoque Prince, "DSAgentBench: Can Agents Automate End-to-End Data-Science Workflows in Real Computer Environm
AI 之間會傳染「想法」——而防疫方法簡單到有點好笑:在系統提示裡加一句警告 | FULLDOT news
AI Agents / 自主代理
🕒 2026-08-12 | 出處: Papadopoulos, Shah, Zimmerman & Lindsey, "Mind Viruses: Self-Propagating Ideas in Multi-Agent LLM Systems", arXiv:2608.10218
AI 代理記錯了一件事,後面全錯——刪掉那筆記憶並不能修好 | FULLDOT news
AI Agents / 自主代理
🕒 2026-08-12 | 出處: Yu, Wang, Zhang, Duan, Zheng, Wu, Shi & Cai, "From Faulty Memories to Corrected Actions: Dependency-Guided Rollback Repair for Memory-Augmented Ag
黑色伺服器機櫃陣列 | OpenAI 用 AI 攻擊自己的 AI:GPT-Red 對人類紅隊 84% 比
AI Agents / 自主代理
🕒 2026-08-08 | 出處: OpenAI, "GPT-Red: Unlocking Self-Improvement for Robustness"
運轉中的資料中心機櫃 | 企業 AI 代理的可靠度來自哪裡?一篇論文把功勞拆開算,答案不是驗證迴圈
AI Agents / 自主代理
🕒 2026-08-08 | 出處: Dastidar & the Leni Team, "Where Does Agent Reliability Come From?", arXiv:2607.17044
手持筆準備簽署文件 | 六家前沿模型在模擬中做了什麼:破壞程式碼、協助造假、竄改標記
AI Agents / 自主代理
🕒 2026-08-08 | 出處: Anthropic Alignment Science, "Agentic Misalignment in Summer 2026"
現代幾何建築 | 七款 MCP 開發工具實測:防護落差比想像中大
AI Agents / 自主代理
🕒 2026-08-07 | 出處: Huang, Huang & Milani Fard, "Are AI-assisted Development Tools Immune to Prompt Injection?", arXiv:2603.21642
正在簽署的文件 | 193 項威脅、16 套資安框架,沒有一套的單項覆蓋率過半
AI Agents / 自主代理
🕒 2026-08-03 | 出處: Nguyen, Ndebugre & Arremsetty, "Security Considerations for Multi-agent Systems", arXiv:2603.09002
極簡主義建築線條 | 一千萬美元找答案:當 AI 代理開始互相對話,現有的安全測試就失效了
AI Agents / 自主代理
🕒 2026-08-03 | 出處: Google DeepMind, "Investing in multi-agent AI safety research"
藍天下的白色幾何建築 | AI 代理成功率從 12% 衝到 66%——但每三次仍失敗一次,這能上生產線嗎?
AI Agents / 自主代理
🕒 2026-08-03 | 出處: Stanford HAI, "The 2026 AI Index Report" (Ch.2 Technical Performance)
黑色伺服器機櫃陣列 | 你為了繞過模型缺陷做的工程,會在模型變強時變成技術債
AI Agents / 自主代理
🕒 2026-08-03 | 出處: Anthropic Engineering, "Scaling Managed Agents: Decoupling the brain from the hands"
幾何建築光影 | Stanford 團隊發表 Quiet-STaR 自主思考論文:讓 AI 代理在
AI Agents / 自主代理
🕒 2026-08-02 | 出處: Zelikman, Harik, Shao, Jayasiri, Haber & Goodman, "Quiet-STaR: Language Models Can Teach Themselves to Think Before Speaking", arXiv:2403.09629