FIND研究員:李啟榮
AI代理人(AI Agent)是一種用AI模擬真人作業的功能型模組,與傳統AI機器人相比,除具有某種程度的自主判斷和決策力之外,也發展出對周遭環境和情報的認知、理解能力;而雲端本身是一個宏大的架構,各種模組和機能環環相扣,牽一髮而動全身;若能將AI代理人導入到雲端運算領域,就有望減輕雲端架構維運管理的負擔,並與AI全自動開發部署在雲端環境協同作業,為雲端生態系寫下新頁。
【技術發展背景】
雲端運算是一種技術和資金都很密集的IT營運模式,除了要將本地端遷移到雲端部署外,也要勞心費神地進行著系統上雲後的維運、監控、管理等作業,才能確保萬無一失、降低事故衝擊。另外,雲端的運作從早期投注大量人力實施開發維運,演變為現代以AI為主軸的開發維運型態,可以從源頭由AI自動寫程式、自動部署、自動測試,到上線部署後的AI監控、偵錯、效能調校、安全防護等環節,由AI代理人一條龍包辦,以應付瞬息萬變的雲端環境挑戰。
【技術介紹與應用現況】
依據由微軟、加州大學柏克萊分校、伊利諾大學等機構組成之研究團隊,在2024年於ACM發表的論文(Shetty, et al., 2024),該團隊設計一套稱為「AIOpsLab」的系統,以「統籌者模組(Orchestrator)」為各項指令和數據的中介橋樑,串接幕後運作的AI Agent、AIOps工作排程器、效能監測暨偵錯模組、微服務模組(如Helm、Kubernetes),以效能監控模組蒐集到的運作數據為基底,回傳到中樞統籌模組,並在AI Agent幕後運作下,經由中樞統籌模組微服務模組、AIOps工作排程模組,下達對應的指令並蒐集回傳數據,有望以微服務模組來實現自動化效能改善和問題排除作業。
圖 1:AIOpsLab架構簡圖
資料來源:Shetty, et al., 2024
另外,同一團隊也在ArXiv網站上傳研究文章(Chen, et al., 2025),依據前述成果進行更深入的剖析,推出「代理人雲端介面(Agent-Cloud-Interface)」,並以雲端效能和偵錯測試為主軸,從Agent端經由中樞統籌模組,發動微服務的效能和錯誤測試,並在中樞統籌模組進行分析後,將測試結果回傳給Agent端;AI Agent可依據測試數據,進行雲端系統體質調校的建議,以便從源頭解決維運監控方面的問題,保障系統穩定性。
圖 1:AIOpsLab架構簡圖
圖 2:AIOpsLab測試情境與流程
資料來源:Chen, et al., 2025
【未來展望/挑戰】
藉由讓AI代理人幕後掌握雲端平台的開發維運作業,除了能省下人力和維護成本外,也能實現24小時不間斷監控,並藉由AI代理人輔助下,省下繁複的開發和改版的時間和流程;而AI代理人的潛力不止於此,甚至有機會隨著物聯網、邊緣運算、6G的普及,降低AI代理人的入手門檻,進而成為與使用者形影不離的隨身良伴,提升日常工作效率和步調,小兵立大功。
參考資料來源:
Chen, Y., Shetty, M., Somashekar, G., Ma, M., Simmhan, Y., Mace, J., . . . Rajmohan, S. (2025, January 12). AIOpsLab: A Holistic Framework to Evaluate AI Agents for Enabling Autonomous Clouds. doi:10.48550/arXiv.2501.06706
Shetty, M., Chen, Y., Somashekar, G., Ma, M., Simmhan, Y., Zhang, X., . . . Rajmohan, S. (2024). Building AI Agents for Autonomous Clouds: Challenges and Design Principles. 2024 ACM Symposium on Cloud Computing (pp. 99-110). Redmond, WA: ACM. doi:10.1145/3698038.3698525