Blog

Tại sao không dùng Mastra hay LangChain mà tự build? Series này hướng dẫn xây dựng AI Agent Framework nhẹ, không bloat, chạy native trên Cloudflare Workers.

Hướng dẫn thiết kế @flare-agent/types — package zero-dependency định nghĩa toàn bộ interfaces cho LLM, Agent, Tool, Memory và Runtime của framework.

Xây dựng @flare-agent/providers — LLM Router chuẩn hóa Groq, Cloudflare Workers AI và Ollama về cùng 1 interface, swap provider không đổi 1 dòng code.

Xây dựng @flare-agent/memory — abstract hóa Cloudflare KV, D1, Vectorize về cùng interface để agent có short-term memory, long-term storage và RAG capability.

Xây dựng @flare-agent/core — trái tim của framework với Agent class, AgentLoop xử lý tool calling, và ToolRegistry quản lý tools type-safe.

Xây dựng @flare-agent/workflow — graph-based workflow engine cho phép định nghĩa multi-step agent flows, conditional branching và parallel execution trên Cloudflare.

Kết hợp tất cả packages của flare-agent để xây dựng edu-ai-platform hoàn chỉnh — vocabulary learning agent với quiz workflow, RAG memory và SSE streaming trên Cloudflare.

Sau 34 bài về agent system, bài cuối tổng kết: core mechanics không thay đổi từ CLI đến enterprise. Chỉ có infrastructure xung quanh thay đổi — và biết điều này là lợi thế lớn.

Human-in-the-Loop không phải dấu hiệu agent kém. Đó là design pattern cho high-stakes decisions. Bài này xây dựng framework quyết định khi nào agent tự làm, khi nào phải hỏi.

LLM API không reliable như database. Agent system phải design for partial failure từ đầu. Bài này xây dựng retry, fallback và timeout strategy cho production agent.

Token cost trong enterprise agent system không phải afterthought. Bài này xây dựng model routing strategy và token optimization để giảm cost mà không hy sinh quality.

Agent không nên kế thừa 100% permission của user. Principle of least privilege áp dụng cho agent cũng như người — nhưng cơ chế enforcement khác biệt căn bản.