週三晚上去了一場聊天機器人小聚,主講的是阿竣,他專門幫企業把 AI 導入成真正的資源管理系統,他現場打開電腦,直接在 Discord 頻道裡打了一句話,一個叫做 M5 的 Bot 就開始幫他查主機、開專案、報昨天的新聞。那一刻我才意識到,企業導入 AI Agent 這件事,早就不是簡報上的名詞,而是有人已經把它當成遠端員工在用了。
先說一個很多人會混淆的前提:AI 跟 AI Agent 差在哪?差在能不能呼叫工具。你問 ChatGPT 一個問題、它回你一段話,那是 AI;但如果它能接著去執行你電腦裡的程式、去讀你的資料庫、去幫你把文章上架,那就是 AI Agent。阿竣的說法很直白——會呼叫工具(function calling)的,就叫代理人。這個區別聽起來像廢話,卻是整場分享的地基:因為 Agent 會做事,所以它才可能取代掉一個職位,而不只是回答問題。
企業導入 AI 的現狀:你的 Agent 跟我的 Agent 各說各話
阿竣講的第一個問題,我聽了特別有感。現在企業裡大部分人是各自打開自己的 AI,各自產出報告、簡報、文件。結果就是「你的 Agent」跟「我的 Agent」各說各話,最後兜出來的東西對不上公司的標準。
這件事我天天遇到。客戶常常直接把 AI 的回答貼給我,而我看到之後,還得再丟給我自己的 AI 去確認「他到底在講什麼」以及「這內容對不對」。如果人的角色只剩下在不同 Agent 之間複製貼上,那為什麼不乾脆讓大家在同一個環境、用同一個 AI,而且讓這個 AI 拿得到公司內部的真實資料來討論?光是想到這裡,效率的差距就很明顯了。
阿竣把這個現象講得更狠。他說你大拇指壓在 AI 的回答上兩秒,跳出來一個「貼上」,然後你把它貼到別的地方——那一刻你不是在用 AI,你是 AI 的奴隸,你在幫它搬運。要擺脫這件事只有一條路:大家一起用同一個 AI。
阿竣的做法:把 Agent 當遠端員工塞進 Discord
那要怎麼讓一群人用同一個 AI?阿竣的選擇是 Discord。
他的架構拆成兩層:一個 Bot 當「協調者」,負責接收你在頻道裡打的話;後面掛一個或多個 Agent 當「做事的人」。你在頻道裡對 Bot 說「幫我查一下這個網站的預覽功能為什麼壞掉」,協調者就會去叫起對應的 Agent,Agent 走 MCP(模型上下文協議)或 SSH 進到那台主機,把問題查出來、修好、回報。對頻道裡的人來說,這就像半夜有一個遠端上班的同事,你隨時可以丟問題給他。
選 Discord 不是因為它潮,而是因為它免費、任何人開帳號就能進來,而且權限管理細到誇張。它有一套 ACL 的權限機制,可以限制到「某個使用者」甚至「某個身分組」看不看得到某個頻道。這一點很關鍵——因為每一個頻道,對阿竣來說就像一間公司裡的一個部門。採購頻道、銷售頻道、倉庫頻道、網站管理頻道,各自有各自的 Agent、各自的權限,彼此看不到對方的東西,但每個人跟 Agent 的對話都會留在頻道裡。
這裡藏著我覺得最漂亮的一個設計:工作記憶會沉在頻道裡。業務離職是 B2B 環境最大的硬傷,很多 know-how 沒辦法寫進交接文件。但如果所有的討論、所有的習慣都收斂在這個頻道的對話裡,新業務接手時只要下一句話:「請你告訴我,之前的業務在這個頻道都是怎麼跟你協作的」,Agent 就會把過去的脈絡吐給他。知識不再跟著人走,而是留在工作場裡。
(延伸閱讀:關於 Agent 管網站到底該走 MCP、REST API 還是 SSH + WP-CLl,我之前寫過一篇實測比較。)
為什麼是 Kiro:一筆省 token 的商業帳
阿竣的後端 Agent 引擎選的是 Kiro(Amazon 的 CLI 工具,前身叫 Q Developer),這一段是整場我覺得最「B2B」的地方。
他算了一筆帳。現在的 AI 訂閱大概兩種計價:一種是吃到飽訂閱制,一種是 pay as you go 的 API。API 貴到嚇人——聰明的模型通常 input 每百萬 token 5 美金、output 30 美金,員工還沒摸熟 Agent 就玩個幾輪,帳單直接爆炸。而訂閱制的問題更致命:它會叫你「休息五小時」。這對個人玩家無所謂,但企業不能接受——今天十萬火急的狀況正在發生,你跟我說系統要休息五小時?
Kiro 的計價是用量計制,一個 turn、一個 credit 才 0.02 美金,而且不是 API 那種 input/output 分開算的貴法。對一群還在學 Agent 的員工來說,這個容錯成本低很多。阿竣說他導入之後,業務工作被取代掉八成以上。
模型龍頭當初都不是為 B2B 定價的,他們定位在 B2C,拿產品去做 CRM,讓大家先用先上癮。這句話點破了一件事:當你在用免費或吃到飽的 AI 時,你其實是他們的訓練資料來源。而 B2B 才是這些公司真正的核心收入。所以阿竣不追求把每一家訂閱都整合進來,他把工具收斂在計價方式最適合企業的那一個,同時保留 OMP(一套開源框架)當備援,讓客戶哪天想用自己的訂閱、想跟他分手,都能自己拿去用。
(關於省 token 這件事,我另外整理過一篇上下文工程的心得,跟阿竣的思路是同一個方向。)
MCP 權限管理:安全操作的環境怎麼設計
放手讓員工在頻道裡跟 Agent 對話,老闆第一個問的一定是安全。阿竣的答案是一層叫 MCP Manager 的東西。
它可以做兩層授權。第一層是頻道層級——這個頻道授權哪幾個 MCP、停用哪幾個,公開頻道就整個不授權。第二層更細,同一個 MCP 裡面還能按「工具」授權:他允許 Bot 把資料送回 Discord,但不允許送任何非結構化的敏感資料,而且會經過一層遮罩,任何 token、API key、帳號密碼都會被遮掉。這樣一來,頻道就是一個安全的操作環境,權限跟著頻道走,跟著企業原本的 ACL 走。
一個頻道,對應 Agent 的一個帳號。看不看得到某張價格表、看不看得到採購價還是零售價、看不看得到哪個倉庫——全部可以限縮。這就是為什麼他敢把這套東西賣進製造業、醫藥業、零售業。權限的邊界畫清楚了,Agent 才能安心地長出手腳。
知識庫要做成 RAG,不是丟一堆 MD 檔
分享到後半,有人問記憶怎麼管,這一段接到了我心得裡想記下來的另一個重點。
阿竣的記憶管理分三層:最外層是公司維度的通用規則,中間是每個頻道的 agents.md(相當於大家熟悉的 CLAUDE.md),最內層是 Agent 當下作業的 session。但真正讓知識可用的,是他自己寫的一套 RAG 知識庫。
他特別強調:知識庫必須是向量化的,不能只是一個裝滿 MD 檔的資料夾。差別在哪?如果是純文字檔,Agent 每次要用某段知識,就得把整包檔案拉進上下文裡看完再吐回來,很快就撐爆記憶體、觸發壓縮,一壓縮就失憶、就做錯事。而向量化的 RAG 是先檢索、再生成,只把相關的片段拉進來,精度高又省 token。當你更新一段業務流程,只要跟 Agent 說「把這個寫進知識庫」,系統會自動重新切片、重新向量化,不需要手動維護。
這一點我認同。相較於把 AI 問出來的東西寫成一本「LLM Wiki」給人看——那本筆記你八成不會再打開——真正該做的是讓 Agent 自己寫一份它之後看得懂的筆記,再灌進向量知識庫,讓它需要時自己抽出來。AI first,不是 human first。傳統的 RAG 架構在資料品質上,反而比花俏的第二大腦更能幫企業主挖到真正的商業洞見。
觀念轉變:從終端機思維到自然聊天
這場小聚對我最大的衝擊,其實是一個觀念的翻轉。
我以前一直覺得,終端機(Terminal)是最好的互動方式,所以會傾向去訓練使用者掌握終端機的邏輯、去下對指令。但這其實是工程師的視角。阿竣提醒了一件我沒想通的事:最自然的互動方式是聊天。你在公司裡請同事做事,不就是出一張嘴嗎?既然「跟人講話」已經是最自然的協作介面,那做一個能聊天的 Bot,就是最合理的事。
他甚至連自家設計的指令(command)都不太希望大家去學。理由跟現在那些 Agent 工具一樣——我能嘴他,幹嘛還特地去背指令?任何模型現在在解決的核心問題,就是「理解你的意圖」。所以他的工具雖然有一堆指令,但他要的是使用者裝上去之後直接開口,而不是先讀一本說明書。
(這讓我想起之前寫的一篇「你會用 AI,但你會教 AI 嗎?」——會用跟會教,中間隔的就是這層觀念。)
工程師的新角色:維護 Agent,而不是碰產線
順著這個思路,工程師的職責也跟著變了。
阿竣現在不接後端工程了,他自嘲說自己是「AI Agent 的修復員」跟「AI Agent 的語言治療師」,大部分時間在幫忙聊天,而不是寫程式。未來還在寫程式的工程師,只會去維護公司的 Agent,不會去碰產線上的任何一條東西——因為產線用 Agent 就好,工程師不需要懂客戶那些欄位的意義,他讓 Agent 懂就好。
這帶來一個有意思的副作用:權力分割。一個無法被替代的工程師,對公司其實是風險;一個團隊裡任何一顆無法被替代的螺絲,都是風險。所以把「維護 Agent」跟「操作產線」拆開,讓每一塊都可替代,公司才安全。這也是為什麼他一直把自己掛在嘴邊的目標是「取代自己」——先做出一個能取代掉自己的代表作,然後就有時間去做別的事。
他講到維護一個 Agent 並不容易,裡面牽扯到很多 harness engineering 的東西。所以他選擇不自己從零造一個 Agent,而是當一個「協調者」,站在開源大神們的肩膀上做整合。這個選擇背後的判斷是:模型跟框架半年就換一代,與其自己維護,不如相信那些幾千幾萬人在用的開源專案。
結論
聽完整場,我試著把阿竣的分享,跟我自己的體會收斂成三件事:
- 知識要留下來。 把工作流收斂在一個共用的頻道裡,業務離職、新人接手,脈絡都還在。
- 不要再一個人用一個 AI。 各自為政的超級個體沒有意義,大家對齊在同一個 Agent 上,才會慢慢收斂出團隊的共識,而不是每個人被自己的偏見餵成不同的形狀。
- 工具是手段,商業才是目的。 從選 Discord、選 Kiro、到堅持做 RAG,每一步背後都是「省 token、可替代、能落地」的商業盤算,不是為了技術炫技。
阿竣最後說了一句我很買單的話:技術從來都不是重點,人文才是。這整套工具的出發點,從頭到尾都是同一個問句——如果可以取代掉「我」,那我就能去做更值得做的事。我是這場小聚的聽眾,不是講者,但走出場地的時候,我確實開始重新想:我手上那些「只有我會」的東西,到底該留給自己,還是該教給 Agent。
如果你也在想企業導入 AI Agent 這件事,我之前寫過一篇企業主導入 AI 的實戰紀錄,可以搭配這篇一起看,激發一下靈感。會後我就把阿竣開源的 kiro-discord-bot 裝起來實際測試看看在 Discord 裡面做事情,不得不說真的很有意思,等用的更深入再來分享我的使用心得。