Skip to content

為何選擇 Koog

Koog 的設計旨在以 JetBrains 等級的品質解決現實世界中的問題。 它提供進階 AI 演算法、開箱即用的成熟技術、Kotlin DSL 以及 Java 流式 API (fluent API),並提供超越傳統架構的強大多平台支援。

其首要重點在於可靠性 —— 實現可放心用於嚴苛企業環境中的 AI 代理。

與 Java 和 Kotlin 應用程式整合

Koog 提供專為 Kotlin 開發人員設計的 Kotlin 領域特定語言 (DSL),以及為 Java 使用者提供的 Java 流式 API。 同一個架構在兩種 JVM 語言中都能提供原生感,確保順暢整合至 Kotlin 與 Java 應用程式中,同時顯著提升生產力並增強整體的開發者體驗。

經 JetBrains 產品實戰驗證

Koog 為多款 JetBrains 產品提供支援,包括內部的 AI 代理。 這種實戰整合確保了 Koog 針對實際使用案例進行持續的測試、改進與驗證。 它專注於實務中的有效性,並結合來自廣泛回饋和真實產品場景的洞察。 這種整合賦予了 Koog 與其他架構截然不同的優勢。

開箱即用的進階解決方案

Koog 包含預先建置且可組合的解決方案,以簡化並加速代理系統 (agentic system) 的開發,使其與僅提供基礎元件的架構有所區別:

  • 結合領域建模的圖形工作流。 將 AI 工作流建模為建立在經過驗證的領域模型之上的明確圖形。藉由將需求表示為結構化資料類別,而非僅依賴單純的提示詞 (prompting),您可以精確控制代理行為,並顯著提升可靠性與可預測性。
  • 多種歷程記錄壓縮策略。 Koog 開箱即提供進階策略來壓縮與管理長期的對話,無需手動嘗試各種方法。憑藉經 ML 工程師測試與改進的微調提示詞、技術與演算法,您可以依靠成熟的方法來提升效能。如需更多關於壓縮策略的詳細資訊,請參閱 歷程記錄壓縮。若要探索 Koog 如何在現實場景中處理壓縮與內容管理,請查看 這篇文章
  • 進階永續性(持久執行)。 Koog 讓您能恢復完整的代理狀態機,而不僅僅是聊天訊息。這實現了檢查點、失敗恢復等功能,甚至能復原到狀態機執行過程中的任何時間點。
  • 一個架構涵蓋所有現代代理模式。 圖形工作流、GOAP (Goal-Oriented Action Planning) 與 LLM 規劃、多代理協調 —— 完全支援且完全可組合。建置完全符合您使用案例需求的代理。
  • 無縫 LLM 切換。 您可以在任何時間點將對話切換到具有一組新可用工具的不同大型語言模型 (LLM),而不會遺失現有的對話歷程記錄。Koog 會自動重寫歷程記錄並處理無法使用的工具,實現平滑轉換與自然的互動流程。
  • 強大的重試元件。 Koog 包含一個重試機制,讓您可以在代理系統中封裝任何操作集,並持續重試直到符合可設定的條件為止。您可以提供回饋並調整每次嘗試,以確保結果可靠。如果 LLM 呼叫逾時、工具運作不如預期或發生網路問題,Koog 可確保您的代理保持彈性,即使在暫時性失敗期間也能有效運作。如需更多技術細節,請參閱 重試功能

廣泛的整合、多平台支援與增強的可觀測性

Koog 支援在多種平台與環境中開發與部署代理應用程式:

  • Spring Boot、Spring AI 與 Ktor 整合。Koog 與廣泛使用的企業環境整合。
    • 對於 Spring Boot,Koog 提供即用型 bean 和自動配置的 LLM 用戶端,讓您輕鬆開始建置由 AI 驅動的工作流。
    • 如果您已經在使用 Spring AI 提供的 LLM 與 RAG 功能,可以將 Koog 層疊在其之上作為協調與代理架構。這讓您在利用 Spring AI 廣泛整合的同時,也能受益於 Koog 進階、可靠且具成本效益的 AI 工作流。
    • 如果您擁有 Ktor 伺服器,可以將 Koog 安裝為外掛程式,使用設定檔配置提供者,並直接從任何路由呼叫代理,而無需手動連接 LLM 用戶端。
  • 多平台支援。您可以將代理應用程式部署至 JVM、JS、WasmJS、Android 和 iOS 目標。
  • 廣泛的 AI 整合。Koog 與主要的 LLM 提供者(包括 OpenAI、Anthropic、Google、DeepSeek、Mistral、Alibaba)以及企業級 AI 雲端(如 Bedrock)整合。它也支援 Ollama 等本地模型。如需可用提供者的完整清單,請參閱 LLM 提供者
  • OpenTelemetry 支援。Koog 針對熱門的可觀測性提供者(如 W&B WeaveLangfuseDataDog)提供開箱即用的整合,用於監控與偵錯 AI 應用程式。藉由原生的 OpenTelemetry 支援,您可以使用系統中已有的工具來追蹤、記錄與測量您的代理。若要了解更多,請參閱 OpenTelemetry

與 ML 工程師和產品團隊協作

Koog 的獨特優勢在於與 JetBrains ML 工程師和產品團隊的直接協作。 這確保了使用 Koog 建置的功能不只是理論,而是根據現實世界的產品需求進行測試與改進。 這意味著 Koog 納入了:

  • 針對現實世界效能優化的微調提示詞與策略
  • 透過產品開發發現並驗證的成熟工程方法,例如其獨特的歷程記錄壓縮策略。您可以在這篇詳細文章中了解更多資訊。
  • 幫助 Koog 保持效率並適應不斷變化需求的持續改進

對開發者社群的承諾

Koog 團隊致力於建立強大的開發者社群。 藉由積極收集並納入回饋,Koog 不斷演進以有效滿足開發人員的需求。 我們正積極擴展對多樣化 AI 架構、全面效能基準測試、詳細使用案例指南以及教育資源的支援,以賦能開發人員。

從何處開始