甚麼是代理式 AI?
代理式系統以語言模型作為推理核心,再配備工具、記憶及執行循環,讓它能把目標拆解為步驟、在真實系統中採取行動、觀察結果並作出調整。其決定性特質不在於生成,而在於具回饋的自主能力——由系統決定下一步做甚麼。
生成式 AI 產生內容。代理式 AI 則運用這種能力去達成目標——規劃、調用 API,並協調其他代理,直至任務完成。
這是架構上的轉變。聊天機械人一次過把輸入映射為輸出;代理則運行一個循環:規劃 → 行動 → 觀察 → 修正,不斷重複直至達到停止條件。這個循環,加上可存取的工具及記憶,正是令其行為具「代理性」的原因。
關鍵在於,自主能力是一個光譜。大部分生產系統都是半自主的:代理處理例行步驟,並在既定的檢查點把工作升級給人類處理。在高風險環境中,完全無人監督的自主運作十分罕見——而這是刻意的設計。
代理式 AI 是一種範式——能朝目標規劃、行動及協調的系統。AI Harness 則是令這類系統在生產環境中安全可靠的工程層。本頁介紹代理式系統是甚麼,以及它們在哪裡創造價值;至於底層運作的工程——工具、記憶、防護機制、評估——請參閱我們的 AI Harness 頁面。
主要區別
生成式 AI:創作者
根據提示創作內容(文本、程式碼、圖像),然後等待下一個提示。
AI 代理:獨立執行者
單一模型配備工具及循環,讓它能朝目標行動,而不只是回答問題。
代理式 AI:協作的樂團
更廣泛的範式:通常由多個互相協調的代理組成——SQL 代理、分析代理、檔案生成代理——各有專長,在負責指揮的規劃代理帶領下協作。系統不只是生成輸出;它會決策、行動及調整,直至達成目標。
兩個層面,一個系統
代理式 AI 是一種範式;AI Harness 則是其下的工程。左邊的每項能力,都由右邊的工程令其可靠——同一個組件在兩個頁面共用,各自突顯自己的一方。
代理式 AI ——系統做甚麼
策略及能力
AI HARNESS ——甚麼令它可靠
基礎設施及管治
規劃
把目標拆解為有序的步驟
情境及可重用流程
每一步都有合適的資訊;重用已驗證的做法
在系統上行動
真正地查詢、更新及執行
工具調用及代理循環
經驗證的工具調用;重試、停止條件及升級處理
協調多個代理
多個專責代理朝同一目標工作
受管治的共享記憶
每項事實只有一個版本,可追溯並在代理之間共享
安全地達成目標
有問責的自主能力
防護機制、權限及遙測
審批關卡、政策過濾及完整審計追蹤
基本組成部分
推理核心(模型)
一個能理解目標並決定下一步行動的強大 LLM。先思考後回答的推理優化模型,能顯著提升多步驟任務的可靠性。
規劃及拆解
把目標拆解為一組有序的子任務。常見模式包括 ReAct(推理與行動交替進行)、先規劃後執行,以及反思。
工具及函數調用
通往真實世界的橋樑:API、資料庫、程式碼執行、搜尋及內部系統。代理會選擇調用哪個工具,並把結果納入考量。
記憶
短期記憶(當前任務的工作情境)及長期記憶(持久保存的事實、過往互動、檢索得來的知識——通常儲存在向量資料庫中)。
編排
在步驟及代理之間分派工作的控制邏輯——可以是順序式、階層式(由主管代理分派給執行代理),或以圖為基礎、包含分支、循環及檢查點。
防護機制及政策
限制代理可以做甚麼:允許使用的工具、開支上限、輸出驗證,以及內容/安全過濾。
評估及可觀察性
記錄每一步、每次工具調用及每項決策的追蹤,加上任務層面的成功指標。沒有這些,代理式系統便是無法審計的黑盒。
人工參與
在行動執行前,由人批准、修改或拒絕的既定檢查點——在任何不可逆或高風險的行動中都不可或缺。
實際應用場景
代理式 AI 的價值,在於處理由一連串判斷組成、而非單一答案的工作——涉及多個步驟、多個系統,而且數量足夠龐大,令自動化例行路徑能讓專家騰出時間處理例外情況。以下應用今天已投入生產,而不只是停留在概念驗證。
代理讀取查詢、取得帳戶資料、草擬解決方案,並按審批規則執行處理(退款、更新、升級)。
從 CRM 及歷史紀錄收集客戶資料的助理,實時建議最佳下一步行動,並草擬度身訂造的聯絡訊息。
編程代理讀取程式庫、規劃修改、編寫及執行測試,並提交 pull request,反覆修改直至所有檢查通過。
代理拆解問題、搜尋多個來源、綜合研究結果,並撰寫附有引用的簡報。
橫跨多個系統及步驟的發票處理、數據對賬及報告生成。
收集症狀、加以整理,並把病人轉介至合適專科的分流助理(設有臨床人員監督)。
代理式 AI在香港
隨著 AI 急速發展,香港企業正超越內容生成,轉而尋求真正能完成工作的系統。ThinkCol 一直走在前線,為本港各核心行業的機構實施代理式 AI——而在香港行之有效的模式自有其獨特之處。
香港成功的實施案例有以下共通點:從清晰的業務目標出發、與現有工具整合,並在保留人工監督的同時,隨著表現獲得驗證而逐步擴大自主程度。現成的代理產品只能提供其中部分;持久的價值來自按機構自身流程打造的系統——這正是 ThinkCol 的工作。
物流及貿易
香港依靠貨物流通而運作,國際航運的「文件噩夢」正是代理的用武之地:監察各司法管轄區的規例變化、即時產生更新文件,並同時以多種語言與司機、倉庫及客戶溝通。負責庫存、需求預測及物流規劃的協調代理,能令供應鏈的反應明顯更靈敏。
專業及金融服務
代理為前線團隊處理會前研究、通話後跟進及潛在客戶分派;在營運方面,它們自動化多步驟流程——理賠、開戶、採購——這些流程中每宗個案都略有不同,以規則為本的自動化往往會失效。
人手密集的營運
人力資源團隊運用代理物色及篩選候選人並安排面試;項目辦公室把代理與 Jira 及 Slack 等工具整合,以分派任務、追蹤進度並保持報告最新;電子商務客服代理則根據實時庫存及訂單系統端到端解決一線問題,只把真正棘手的個案升級處理。
將游標移至節點以了解詳情
人工檢查點:在不可逆的行動之前設有清晰的審批關卡——在高風險流程中不可或缺。
由單一代理到多個代理
複雜目標由多代理拓撲處理:主管/執行者模式中,協調代理拆解任務並分派給專責子代理;順序流程中,代理沿著一條鏈傳遞工作;以及以圖為基礎的編排——最主流的生產模式——工作流程是一個有向圖,包含分支、循環、重試及明確的人工審批節點。
MCP(Model Context Protocol)的角色
一個常見問題是:如何把代理連接到工具及數據,而無需為每項整合編寫度身的黏合程式碼。MCP 統一了模型發現及調用外部工具與情境來源的方式——實際上是一個共用的介面層,讓同一個代理可接入多個系統,而同一個工具亦可服務多個代理。
代理式 AI 如何創造業務價值
加速軟件開發及工程
代理式 AI 系統在軟件開發流程中找到了理想位置——拆解複雜的工程任務、編寫及測試程式碼、除錯,並在無需持續人工指示的情況下反覆改進方案。開發團隊運用代理加快功能交付、減少重複的實作工作,並令不同貢獻者維護的程式碼更一致。結果是工程師更具生產力,能把更多時間花在設計決策上,而非樣板程式碼。
知識工作及研究
在知識密集的環境中,代理同時存取多個數據來源、綜合複雜資訊,並產生結構化的分析或報告。法律團隊運用代理審閱合約,在數百份文件中標示風險條款;顧問公司用它們加快市場研究;金融分析師則用它們在以往查詢一個來源的時間內,匯總及解讀數十個來源的資訊。
業務流程自動化
代理式 AI 特別適合需要一連串決策的工作流程——保險理賠處理、員工入職、採購審批及客戶投訴升級管理。傳統自動化要求預先訂明每條規則,而代理能以規則系統無法比擬的靈活度處理變化及特殊情況。人工監督檢查點則確保高風險決策仍有問責。
應用案例詳解
真實部署,而非概念驗證——每位客戶面對的情況,以及隨之而來的成果。
為高級珠寶零售商打造 AI 銷售助理
情況
每當顧客進店,銷售人員都要以人手把資料輸入 CRM、翻查購買紀錄,並憑記憶推薦產品——導致服務水平參差、錯失商機,亦沒有實時指引教他們如何向眼前的顧客銷售。
每位員工都能像最出色的員工一樣銷售,而每次互動都會豐富 CRM,而不是繞過它。
代理團隊
高級零售ThinkCol 如何協助您實施代理式 AI?
代理式 AI 為自動化、效率及業務轉型帶來非凡機遇——但它亦帶來自身的挑戰:模型可靠性、數據質素、系統複雜度、管治,以及專業人才。ThinkCol 的六步流程,正是我們帶領香港機構由「我們覺得代理或許有用」走到受管治的生產系統的方法:
步驟 1 · 諮詢 — 為代理找出合適的問題
並非每個工作流程都需要多代理系統,過度設計是典型的失敗模式。我們與實際執行流程的人一起梳理您的流程,找出哪裡有大量重複出現的多步驟決策、足以支持代理自主運作——以及哪裡用較簡單的模型或規則便已足夠。我們會一起訂定何謂成功及如何衡量。
六個步驟背後的理念來自我們見證過的成功經驗:從清晰的業務目標出發、與現有工具整合、保留人工監督,並只在表現獲得驗證後才擴大代理的自主程度。
香港常見問題
多年來香港團隊向我們提出的問題——保留他們的原話。
生成式 AI 創作內容,然後等待下一個提示。AI 代理是單一執行者——一個配備工具、朝目標進發的模型。代理式 AI 則是樂團:多個專責代理在規劃者協調下朝共同目標工作。實際上的分別在於自主能力——生成式 AI 負責回答;代理式 AI 負責行動。
重點摘要
隨著代理式 AI 日漸成熟,受惠最多的機構都會以清晰的目標,以及對管治及可靠性的實際期望來看待它。
建立一個代理正變得愈來愈容易;在生產環境中建立一個值得信賴、易於維護的代理,才是真正的功夫所在。
ThinkCol 一直致力協助香港企業負責任地實施代理式 AI。
這意味著找出合適的問題,並設計值得信賴的系統。
這亦意味著建立人工監督架構,令自主 AI 能在受監管及企業環境中部署。
準備好探索這對您的機構有何意義了嗎?
與 ThinkCol 聯絡