LLM

Google vừa trình làng Gemini 3.5, Spark và Omni tại I/O 2026, trong khi Apple lặng lẽ chuẩn bị genai.apple.com trước thềm WWDC. AI không còn là chatbot nữa.

Tại sao không dùng Mastra hay LangChain mà tự build? Series này hướng dẫn xây dựng AI Agent Framework nhẹ, không bloat, chạy native trên Cloudflare Workers.

Hướng dẫn thiết kế @flare-agent/types — package zero-dependency định nghĩa toàn bộ interfaces cho LLM, Agent, Tool, Memory và Runtime của framework.

Xây dựng @flare-agent/providers — LLM Router chuẩn hóa Groq, Cloudflare Workers AI và Ollama về cùng 1 interface, swap provider không đổi 1 dòng code.

Xây dựng @flare-agent/memory — abstract hóa Cloudflare KV, D1, Vectorize về cùng interface để agent có short-term memory, long-term storage và RAG capability.

Xây dựng @flare-agent/core — trái tim của framework với Agent class, AgentLoop xử lý tool calling, và ToolRegistry quản lý tools type-safe.

Kết hợp tất cả packages của flare-agent để xây dựng edu-ai-platform hoàn chỉnh — vocabulary learning agent với quiz workflow, RAG memory và SSE streaming trên Cloudflare.

Sau 34 bài về agent system, bài cuối tổng kết: core mechanics không thay đổi từ CLI đến enterprise. Chỉ có infrastructure xung quanh thay đổi — và biết điều này là lợi thế lớn.

Human-in-the-Loop không phải dấu hiệu agent kém. Đó là design pattern cho high-stakes decisions. Bài này xây dựng framework quyết định khi nào agent tự làm, khi nào phải hỏi.

LLM API không reliable như database. Agent system phải design for partial failure từ đầu. Bài này xây dựng retry, fallback và timeout strategy cho production agent.

Token cost trong enterprise agent system không phải afterthought. Bài này xây dựng model routing strategy và token optimization để giảm cost mà không hy sinh quality.

Multi-agent failures không rõ ràng như single-agent failures. Bài này phân tích 5 failure mode đặc trưng của distributed agent system và cách phòng chống mỗi loại.

Context sharing giữa agents tạo ra implicit coupling mà bạn chỉ phát hiện khi sảy ra vấn đề. Bài này phân tích khi nào chia sẻ, khi nào cô lập, và tại sao orchestrator là gateway.

Agents communicate theo ba pattern: Push, Pull, và Event-driven. Mỗi pattern có coupling, reliability và latency khác nhau. Bài này phân tích khi nào dùng cái nào.

Task decomposition quyết định multi-agent system hiệu quả hay không. Bài này phân tích các nguyên tắc decompose đúng và dependency graph để orchestration rõ ràng.

Orchestrator Pattern là nnền tảng của multi-agent system. Orchestrator không làm việc — nó plan, delegate, monitor và synthesize. Bài này phân tích ranh giới và communication protocol.

Multi-agent không phải giải pháp cho mọi vấn đề. Bài này phân tích ba giới hạn thực sự của single-agent và framework quyết định khi nào cần mở rộng.

RAG không phải magic bullet. Nó shift vấn đề từ context size sang retrieval quality. Bài này phân tích khi nào RAG thực sự cần và khi nào nó là over-engineering.

Summarization không phải lossy compression — là information distillation. Bài này phân tích các strategy nén conversation history mà vẫn giữ được signal quan trọng.

Token budget không phải afterthought — là resource management bắt buộc trong production agent. Bài này xây dựng hệ thống đếm, phân bổ và cắt token chủ động.

Thứ tự các phần trong context window không ngẫu nhiên. LLM attend khác nhau theo vị trí. Bài này thiết kế context stack tối ưu cho coding agent.

Context window không chỉ là giới hạn kỹ thuật. Nó là design constraint ảnh hưởng đến mọi quyết định trong agent architecture. Bài này giải thích tại sao.

Agent không chỉ có một loại memory. Bài này xây dựng taxonomy đầy đủ: in-context, external, episodic, semantic — mỗi loại phục vụ một use case khác nhau.

Viết tool cho LLM khác viết function cho human developer. Bài này đưa ra 6 nguyên tắc thiết kế tool dựa trên cách LLM reason và ra quyết định.

Error handling trong agent system khác fundamentally so với trong service thường. Lỗi không chỉ được throw — nó có thể được đưa về cho LLM để tự recover. Bài này xây dựng taxonomy lỗi và chiến lược xử lý từng loại.

Tool Dispatcher là security boundary giữa LLM decision và actual execution. Bài này phân tích toàn bộ pipeline: từ khi nhận tool_use block cho đến khi trả tool_result về LLM.

LLM đọc JSON Schema để hiểu tool — giống như developer đọc API docs. Chất lượng schema quyết định LLM có dùng đúng tool không. Bài này phân tích anatomy của schema tốt và các anti-patterns.

Misconception phổ biến nhất về Tool Calling: LLM không execute gì cả. Nó chỉ trả về structured data. Bài này phân tích toàn bộ request/response cycle và tại sao sự phân biệt này quan trọng.

System prompt là code, không phải text. Nó định nghĩa toàn bộ behavior, constraints và personality của coding agent. Bài này phân tích anatomy của một system prompt hiệu quả và các nguyên tắc thiết kế.

Agent Core là trung tâm điều phối của CLI Agent — nơi agentic loop sống, context được build, và tool dispatch xảy ra. Bài này phân tích từng component và sequence diagram của một complete turn.

Agentic Loop là vòng lặp Observe–Think–Act nằm ở trung tâm của mọi AI Agent. Bài này phân tích từng bước trong loop, điều kiện thoát, và các failure mode phổ biến nhất.

LLM là reasoning engine mạnh mẽ nhưng bị cô lập hoàn toàn với thế giới thực. Tool Calling ra đời để giải quyết chính xác vấn đề đó — nhưng kèm theo những trade-off không nhỏ.

Chatbot, Automation và AI Agent thường bị dùng lẫn lộn. Bài này phân tích rõ ranh giới cơ chế giữa ba paradigm, kèm diagram so sánh flow và trade-off của từng loại.

Sau khi thiết kế và vẽ flow, bước tiếp theo là test. Bài này đi vào cách test hệ thống token limit — đặc biệt là concurrent sessions, race condition trong quota enforcement, và Stripe Webhook idempotency.

Bài trước mình đã thiết kế hệ thống token limit. Bài này đi sâu hơn: vẽ toàn bộ flow từ lúc user bấm Submit đến lúc token được deduct — cả từ góc UX lẫn góc kỹ thuật.

OpenAI Codex vừa chuyển sang token-based pricing từ tháng 4/2026. Bài viết này phân tích cách thiết kế hệ thống rate limiting và token quota tương tự — từ data model, đến sliding window counter, đến fair-use enforcement.

AI engineering đang chuyển từ prompt engineering sang context engineering. Vì sao AI agent fail trong production và MCP lại nổi lên?

SubQ 1M-Preview ra mắt với kiến trúc subquadratic đột phá, xử lý 12M token với O(n log n) thay vì O(n²). Phân tích kỹ thuật và ý nghĩa với tương lai LLM.

Phân tích chuyên sâu về Model Context Protocol (MCP) — kiến trúc, cơ chế hoạt động, transport layer, security model và những bài học thực chiến khi tích hợp MCP vào hệ thống production.

Cuộc đua LLM 2026 nóng chưa từng có: GPT-5.5, Claude Sonnet 4.8, DeepSeek V4 sắp ra mắt. Phân tích điểm mạnh, benchmark và lựa chọn đúng cho từng use case.

Ollama cho phép chạy hơn 100 LLM models (Llama 3, Mistral, Phi-3) trực tiếp trên máy tính, không cần API key, hoàn toàn private và offline.

SubQ ra mắt tháng 5/2026 với kiến trúc subquadratic — LLM thương mại đầu tiên không phải Transformer, context 12M token với chi phí O(n·log·n).

Claude Opus 4.7 đạt 87.6% SWE-bench, giảm 60% task abandonment — model agentic AI mạnh nhất 2026 dành cho developer.

Ollama đã trở thành tiêu chuẩn để chạy LLM locally, mang đến privacy tuyệt đối và không tốn chi phí API. Hướng dẫn đầy đủ từ cài đặt đến tích hợp vào workflow phát triển phần mềm cho developer Việt Nam.

GPT-5.5 Instant trở thành default của OpenAI, cạnh tranh với Claude Opus 4.7, DeepSeek V4, Gemini 3.1. Phân tích cuộc đua LLM năm 2026 và đưa ra lỷ khuyến.

SubQ ra mắt tháng 5/2026 với kiến trúc subquadratic đầu tiên, context window 12M token. Phân tích tại sao đây là bước ngoặt của ngành AI.

SubQ 1M-Preview ra mắt tháng 5/2026 với kiến trúc subquadratic, context 12M token và chi phí thấp hơn 5 lần. Tìm hiểu tại sao đây là bước đột phá.