術語表
代理 (Agent)
代理 (Agent):一種可以與工具互動、處理複雜工作流程並與使用者通訊的 AI 實體。
大型語言模型 (LLM):支援代理能力的底層 AI 模型。
訊息 (Message):代理系統中的通訊單元,代表從使用者、助理或系統傳遞的資料。
提示詞 (Prompt):提供給 LLM 的對話歷程記錄,由來自使用者、助理和系統的訊息組成。
系統提示詞 (System prompt):提供給代理的指令,用於引導其行為、定義其角色,並提供執行其任務所需的關鍵資訊。
上下文 (Context):LLM 互動發生的環境,具有存取對話歷程記錄和工具的權限。
LLM 工作階段 (LLM session):與 LLM 互動的結構化方式,包括對話歷程記錄、可用工具以及發出請求的方法。
代理工作流程 (Agent workflow)
- 策略 (Strategy):為代理定義的工作流程,由順序子圖組成。策略定義了代理如何處理輸入、與工具互動以及產生輸出。策略圖由透過邊連接的節點組成,邊代表節點之間的轉換。
策略圖 (Strategy graphs)
圖 (Graph):定義代理策略工作流程的節點連邊結構。
節點 (Node):代理策略工作流程的基本建構元素,代表特定的操作或轉換。
邊 (Edge):代理圖中節點之間的連接,定義了操作流程,通常帶有指定何時遵循每條邊的條件。
條件 (Conditions):決定何時遵循特定邊的規則。
子圖 (Subgraph):代理策略中一個獨立的處理單元,擁有自己的一組工具、上下文和職責。
工具 (Tools)
工具 (Tool):代理可用於執行特定任務或存取外部系統的函式。代理知道可用工具及其引數,但缺乏對其實作細節的瞭解。
工具呼叫 (Tool call):LLM 要求使用提供的引數執行特定工具。其運作方式類似於函式呼叫。
工具描述符 (Tool descriptor):工具元資料,包括其名稱、描述和參數。
工具註冊表 (Tool registry):代理可用的工具清單。註冊表會告知代理有哪些可用工具。
工具結果 (Tool result):執行工具產生的輸出。例如,如果工具是一個方法,結果將是其傳回值。
歷程記錄壓縮 (History compression)
- 歷程記錄壓縮 (History compression):透過應用各種壓縮策略來縮減對話歷程記錄大小以管理權杖 (token) 使用量的過程。若要了解更多,請參閱 歷程記錄壓縮。
功能 (Features)
- 功能 (Feature):擴充並增強 AI 代理功能的元件。
EventHandler 功能
- EventHandler:一種能夠監控並回應各種代理事件的功能,提供攔截器 (hooks) 用於追蹤代理生命週期、處理錯誤,以及在整個工作流程中處理工具調用。
