領域概覽

甚麼是代理式 AI?

代理式系統以語言模型作為推理核心,再配備工具、記憶及執行循環,讓它能把目標拆解為步驟、在真實系統中採取行動、觀察結果並作出調整。其決定性特質不在於生成,而在於具回饋的自主能力——由系統決定下一步做甚麼。

生成式 AI 產生內容。代理式 AI 則運用這種能力去達成目標——規劃、調用 API,並協調其他代理,直至任務完成。

基本概念

這是架構上的轉變。聊天機械人一次過把輸入映射為輸出;代理則運行一個循環:規劃 → 行動 → 觀察 → 修正,不斷重複直至達到停止條件。這個循環,加上可存取的工具及記憶,正是令其行為具「代理性」的原因。

關鍵在於,自主能力是一個光譜。大部分生產系統都是半自主的:代理處理例行步驟,並在既定的檢查點把工作升級給人類處理。在高風險環境中,完全無人監督的自主運作十分罕見——而這是刻意的設計。

代理式 AI 是一種範式——能朝目標規劃、行動及協調的系統。AI Harness 則是令這類系統在生產環境中安全可靠的工程層。本頁介紹代理式系統是甚麼,以及它們在哪裡創造價值;至於底層運作的工程——工具、記憶、防護機制、評估——請參閱我們的 AI Harness 頁面。

主要區別

生成式 AI:創作者

根據提示創作內容(文本、程式碼、圖像),然後等待下一個提示。

AI 代理:獨立執行者

單一模型配備工具及循環,讓它能朝目標行動,而不只是回答問題。

代理式 AI:協作的樂團

更廣泛的範式:通常由多個互相協調的代理組成——SQL 代理、分析代理、檔案生成代理——各有專長,在負責指揮的規劃代理帶領下協作。系統不只是生成輸出;它會決策、行動及調整,直至達成目標。

基本概念

兩個層面,一個系統

代理式 AI 是一種範式;AI Harness 則是其下的工程。左邊的每項能力,都由右邊的工程令其可靠——同一個組件在兩個頁面共用,各自突顯自己的一方。

代理式 AI ——系統做甚麼

策略及能力

AI HARNESS ——甚麼令它可靠

基礎設施及管治

規劃

把目標拆解為有序的步驟

情境及可重用流程

每一步都有合適的資訊;重用已驗證的做法

在系統上行動

真正地查詢、更新及執行

工具調用及代理循環

經驗證的工具調用;重試、停止條件及升級處理

協調多個代理

多個專責代理朝同一目標工作

受管治的共享記憶

每項事實只有一個版本,可追溯並在代理之間共享

安全地達成目標

有問責的自主能力

防護機制、權限及遙測

審批關卡、政策過濾及完整審計追蹤

LLM——兩個層面共同包覆的推理核心
核心概念

基本組成部分

推理核心(模型)

一個能理解目標並決定下一步行動的強大 LLM。先思考後回答的推理優化模型,能顯著提升多步驟任務的可靠性。

規劃及拆解

把目標拆解為一組有序的子任務。常見模式包括 ReAct(推理與行動交替進行)、先規劃後執行,以及反思。

工具及函數調用

通往真實世界的橋樑:API、資料庫、程式碼執行、搜尋及內部系統。代理會選擇調用哪個工具,並把結果納入考量。

記憶

短期記憶(當前任務的工作情境)及長期記憶(持久保存的事實、過往互動、檢索得來的知識——通常儲存在向量資料庫中)。

編排

在步驟及代理之間分派工作的控制邏輯——可以是順序式、階層式(由主管代理分派給執行代理),或以圖為基礎、包含分支、循環及檢查點。

防護機制及政策

限制代理可以做甚麼:允許使用的工具、開支上限、輸出驗證,以及內容/安全過濾。

評估及可觀察性

記錄每一步、每次工具調用及每項決策的追蹤,加上任務層面的成功指標。沒有這些,代理式系統便是無法審計的黑盒。

人工參與

在行動執行前,由人批准、修改或拒絕的既定檢查點——在任何不可逆或高風險的行動中都不可或缺。

應用

實際應用場景

代理式 AI 的價值,在於處理由一連串判斷組成、而非單一答案的工作——涉及多個步驟、多個系統,而且數量足夠龐大,令自動化例行路徑能讓專家騰出時間處理例外情況。以下應用今天已投入生產,而不只是停留在概念驗證。

客戶營運

代理讀取查詢、取得帳戶資料、草擬解決方案,並按審批規則執行處理(退款、更新、升級)。

銷售支援

從 CRM 及歷史紀錄收集客戶資料的助理,實時建議最佳下一步行動,並草擬度身訂造的聯絡訊息。

軟件工程

編程代理讀取程式庫、規劃修改、編寫及執行測試,並提交 pull request,反覆修改直至所有檢查通過。

研究及分析

代理拆解問題、搜尋多個來源、綜合研究結果,並撰寫附有引用的簡報。

後勤辦公自動化

橫跨多個系統及步驟的發票處理、數據對賬及報告生成。

醫療接診

收集症狀、加以整理,並把病人轉介至合適專科的分流助理(設有臨床人員監督)。

香港

代理式 AI在香港

隨著 AI 急速發展,香港企業正超越內容生成,轉而尋求真正能完成工作的系統。ThinkCol 一直走在前線,為本港各核心行業的機構實施代理式 AI——而在香港行之有效的模式自有其獨特之處。

香港成功的實施案例有以下共通點:從清晰的業務目標出發、與現有工具整合,並在保留人工監督的同時,隨著表現獲得驗證而逐步擴大自主程度。現成的代理產品只能提供其中部分;持久的價值來自按機構自身流程打造的系統——這正是 ThinkCol 的工作。

物流及貿易

香港依靠貨物流通而運作,國際航運的「文件噩夢」正是代理的用武之地:監察各司法管轄區的規例變化、即時產生更新文件,並同時以多種語言與司機、倉庫及客戶溝通。負責庫存、需求預測及物流規劃的協調代理,能令供應鏈的反應明顯更靈敏。

專業及金融服務

代理為前線團隊處理會前研究、通話後跟進及潛在客戶分派;在營運方面,它們自動化多步驟流程——理賠、開戶、採購——這些流程中每宗個案都略有不同,以規則為本的自動化往往會失效。

人手密集的營運

人力資源團隊運用代理物色及篩選候選人並安排面試;項目辦公室把代理與 Jira 及 Slack 等工具整合,以分派任務、追蹤進度並保持報告最新;電子商務客服代理則根據實時庫存及訂單系統端到端解決一線問題,只把真正棘手的個案升級處理。

架構

運作方式

每個代理的核心都是一個控制循環。生產級代理會再加上:持久狀態及檢查點、重試及後備方案、成本及步數預算、結構化的可觀察性(完整追蹤)、評估框架,以及對不可逆行動設置人工審批關卡。

LLM推理+ 記憶目標規劃行動觀察修正人工檢查點

將游標移至節點以了解詳情

1.
目標 — 接收目標及情境
2.
規劃 — 拆解目標,選擇下一步行動
3.
行動 — 以選定的參數調用工具
4.
觀察 — 把工具結果回饋到情境中
5.
修正 — 評估進度,決定繼續或停止

人工檢查點:在不可逆的行動之前設有清晰的審批關卡——在高風險流程中不可或缺。

由單一代理到多個代理

複雜目標由多代理拓撲處理:主管/執行者模式中,協調代理拆解任務並分派給專責子代理;順序流程中,代理沿著一條鏈傳遞工作;以及以圖為基礎的編排——最主流的生產模式——工作流程是一個有向圖,包含分支、循環、重試及明確的人工審批節點。

MCP(Model Context Protocol)的角色

一個常見問題是:如何把代理連接到工具及數據,而無需為每項整合編寫度身的黏合程式碼。MCP 統一了模型發現及調用外部工具與情境來源的方式——實際上是一個共用的介面層,讓同一個代理可接入多個系統,而同一個工具亦可服務多個代理。

實際成效

代理式 AI 如何創造業務價值

加速軟件開發及工程

代理式 AI 系統在軟件開發流程中找到了理想位置——拆解複雜的工程任務、編寫及測試程式碼、除錯,並在無需持續人工指示的情況下反覆改進方案。開發團隊運用代理加快功能交付、減少重複的實作工作,並令不同貢獻者維護的程式碼更一致。結果是工程師更具生產力,能把更多時間花在設計決策上,而非樣板程式碼。

知識工作及研究

在知識密集的環境中,代理同時存取多個數據來源、綜合複雜資訊,並產生結構化的分析或報告。法律團隊運用代理審閱合約,在數百份文件中標示風險條款;顧問公司用它們加快市場研究;金融分析師則用它們在以往查詢一個來源的時間內,匯總及解讀數十個來源的資訊。

業務流程自動化

代理式 AI 特別適合需要一連串決策的工作流程——保險理賠處理、員工入職、採購審批及客戶投訴升級管理。傳統自動化要求預先訂明每條規則,而代理能以規則系統無法比擬的靈活度處理變化及特殊情況。人工監督檢查點則確保高風險決策仍有問責。

應用案例

應用案例詳解

真實部署,而非概念驗證——每位客戶面對的情況,以及隨之而來的成果。

為高級珠寶零售商打造 AI 銷售助理

情況

每當顧客進店,銷售人員都要以人手把資料輸入 CRM、翻查購買紀錄,並憑記憶推薦產品——導致服務水平參差、錯失商機,亦沒有實時指引教他們如何向眼前的顧客銷售。

每位員工都能像最出色的員工一樣銷售,而每次互動都會豐富 CRM,而不是繞過它。

閱讀完整案例研究

代理團隊

高級零售
客戶分析代理
推薦引擎
AI 銷售教練
我們的工作

ThinkCol 如何協助您實施代理式 AI?

代理式 AI 為自動化、效率及業務轉型帶來非凡機遇——但它亦帶來自身的挑戰:模型可靠性、數據質素、系統複雜度、管治,以及專業人才。ThinkCol 的六步流程,正是我們帶領香港機構由「我們覺得代理或許有用」走到受管治的生產系統的方法:

步驟 1 · 諮詢 — 為代理找出合適的問題

並非每個工作流程都需要多代理系統,過度設計是典型的失敗模式。我們與實際執行流程的人一起梳理您的流程,找出哪裡有大量重複出現的多步驟決策、足以支持代理自主運作——以及哪裡用較簡單的模型或規則便已足夠。我們會一起訂定何謂成功及如何衡量。

六個步驟背後的理念來自我們見證過的成功經驗:從清晰的業務目標出發、與現有工具整合、保留人工監督,並只在表現獲得驗證後才擴大代理的自主程度。

常見問題

香港常見問題

多年來香港團隊向我們提出的問題——保留他們的原話。

生成式 AI 創作內容,然後等待下一個提示。AI 代理是單一執行者——一個配備工具、朝目標進發的模型。代理式 AI 則是樂團:多個專責代理在規劃者協調下朝共同目標工作。實際上的分別在於自主能力——生成式 AI 負責回答;代理式 AI 負責行動。

總結

重點摘要

  • 隨著代理式 AI 日漸成熟,受惠最多的機構都會以清晰的目標,以及對管治及可靠性的實際期望來看待它。

  • 建立一個代理正變得愈來愈容易;在生產環境中建立一個值得信賴、易於維護的代理,才是真正的功夫所在。

  • ThinkCol 一直致力協助香港企業負責任地實施代理式 AI。

  • 這意味著找出合適的問題,並設計值得信賴的系統。

  • 這亦意味著建立人工監督架構,令自主 AI 能在受監管及企業環境中部署。

準備好探索這對您的機構有何意義了嗎?

與 ThinkCol 聯絡

聯絡我們

準備好打造您的 AI 方案了嗎?

告訴我們您的目標,我們的團隊將盡快與您聯絡。