探索 LLM 應用的過程中,LLM作為 Agent 的"大腦"有著無限可能。其中,"代碼編寫"已經成為了少數幾個成功大規模落地的場景之一,這讓我們不禁想到:既然 LLM 可以寫出高質量的代碼,為什么不能讓它更進一步,編寫并運行代碼來控制 Agent 自身的行為呢?這樣運行邏輯,就不簡簡單單的是“下一個”這么簡單,而是讓Agent擁有分支、循環等各種復雜邏輯。
這個想法雖然聽起來有點魔幻,但仔細想想確實是可行的。在這篇文章中,我想和大家分享我們是如何一步步構建這樣一個能夠"自我編程"的 Agent 的歷程。
我們的目標是將Agent模式,打造成一個“師弟”,一個真正能在內部的DevOps系統中,能幫得上忙的AI助手。
Agent系統設計
Agent簡介
-
技術架構方面,我們在 ReAct Agent 模式基礎上進行了深度優化:
-
改造傳統 JSON + 組裝調用方式,基于Py4j,實現" Code+泛化調用 "機制,顯著提升工具調用的靈活性和執行效率;
-
采用 Spring Boot 技術棧構建后端架構,整合 Spring AI 生態及 Spring AI Alibaba 能力完成模型接入;
-
通過 內部評測平臺 和 內部觀測平臺 實現全鏈路評測與觀測;
-
底層工具采用 Mcp 協議實現業務能力補充;
-
基于 A2A 協議實現 Multi Agent 架構,高效對接各子 Agent;
-
模型策略采用混合部署方案,根據不同場景使用最優模型:
-
翻譯/數據提取任務:Qwen3-Turbo(低延遲優先);
-
思考/動態代碼生成:Qwen3-Coder(強化代碼能力);
-
通用場景:按需調用各個平臺提供的Qwen、Deepseek等模型 (Agent內部模塊分布);
