關鍵概念

代理

• 代理 (Agent)：一種 AI 實體，能夠與工具互動、處理複雜的工作流程並與使用者溝通。

• LLM (大型語言模型)：驅動代理功能的底層 AI 模型。

• 訊息 (Message)：代理系統中的一個通訊單位，代表從使用者、助理或系統傳遞的資料。

• 提示 (Prompt)：提供給 LLM 的對話歷史，由來自使用者、助理和系統的訊息組成。

• 系統提示 (System prompt)：提供給代理的指令，用於引導其行為、定義其角色並提供其任務所需的關鍵資訊。

• 上下文 (Context)：LLM 互動發生的環境，可存取對話歷史和工具。

• LLM 會話 (LLM session)：與 LLM 互動的一種結構化方式，包含對話歷史、可用工具以及發出請求的方法。

代理工作流程

• 策略 (Strategy)：為代理定義的工作流程，由連續的子圖組成。 策略定義了代理如何處理輸入、與工具互動以及產生輸出。 策略圖由透過邊連接的節點組成，這些邊代表節點之間的轉移。

策略圖

• 圖 (Graph)：由邊連接的節點結構，定義了代理策略工作流程。

• 節點 (Node)：代理策略工作流程的基本建構塊，代表特定的操作或轉換。

• 邊 (Edge)：代理圖中節點之間的連接，定義了操作流程，通常附帶條件，指定何時沿著每條邊進行。

• 條件 (Conditions)：決定何時沿著特定邊進行的規則。

• 子圖 (Subgraph)：代理策略中一個自我包含的處理單元，擁有自己的一套工具、上下文和職責。有關子圖操作的資訊可以封裝在子圖內，也可以使用 AgentMemory 功能在子圖之間傳輸。

工具

• 工具 (Tool)：代理可以用來執行特定任務或存取外部系統的函數。代理了解可用的工具及其引數，但缺乏對其實現細節的了解。

• 工具呼叫 (Tool call)：LLM 發出的請求，使用提供的引數執行特定工具。其功能類似於函數呼叫。

• 工具描述符 (Tool descriptor)：工具中繼資料，包含其名稱、描述和參數。

• 工具註冊表 (Tool registry)：代理可用的工具列表。此註冊表通知代理有關可用工具的資訊。

• 工具結果 (Tool result)：執行工具所產生的輸出。例如，如果該工具是一個方法，結果將是其回傳值。

歷史壓縮

• 歷史壓縮 (History compression)：透過應用各種壓縮策略來減少對話歷史大小的過程，以管理 Token 使用量。 欲了解更多，請參閱 History compression。

功能

• 功能 (Feature)：擴展和增強 AI 代理功能的元件。

EventHandler 功能

• EventHandler：一個功能，可以監控和回應各種代理事件，提供用於追蹤代理生命週期、處理錯誤以及在整個工作流程中處理工具呼叫的鉤子。

AgentMemory 功能

• AgentMemory：一個功能，讓 AI 代理能夠在對話中儲存、檢索和使用資訊。欲了解更多，請參閱 AgentMemory。

• 概念 (Concept)：AgentMemory 功能中，具有相關中繼資料的資訊類別，包含關鍵字、描述和事實類型。概念是 AgentMemory 系統的基本建構塊，代理可以記憶和回憶。 欲了解更多，請參閱 AgentMemory。

• 事實 (Fact)：儲存在 AgentMemory 系統中的單一資訊片段。 事實與概念相關聯，可以具有單一值或多個值。 欲了解更多，請參閱 AgentMemory。

• 記憶範圍 (Memory scope)：事實相關的上下文。欲了解更多，請參閱 AgentMemory。