Postscript: Quay lại Agent = LLM + context + tools

Cuốn sách bắt đầu bằng công thức: Agent = LLM + context + tools. Mười chương của cuốn sách đều được diễn tả trong ba từ này.

Chương 1 Thiết lập sự hiểu biết ba lớp về công thức - lớp triển khai, lớp trực giác và lớp học thuật, đồng thời đưa ra phổ điều phối từ quy trình làm việc đến quyền tự chủ Agent. Các chương 2 đến 7 sau đây đã lần lượt xây dựng ba trụ cột của công thức:

• Ngữ cảnh (Chương 2, 3) - "Những gì Agent đã thấy". Context Engineering (kỹ thuật ngữ cảnh) xác định thế giới phía trước mô hình trong một phiên duy nhất; bộ nhớ người dùng và cơ sở kiến thức sau đó mở rộng nó từ một phiên duy nhất sang tích lũy lâu dài qua các phiên.
• Công cụ (Chương 4 và 5) - "Agent có thể làm gì". Công cụ xác định ranh giới của khả năng; Coding Agent được mở rộng riêng vì code là công cụ đa năng nhất - một công cụ có thể tạo ra các công cụ mới.
• Mô hình (Chương 6, 7) - "Bản thân bộ não của Agent". Đánh giá khả năng biến hiệu suất của Agent thành các tín hiệu có thể so sánh, sau đó huấn luyện và biến các tín hiệu này thành chính mô hình: trí thông minh đo lường và trí thông minh khuếch đại, cùng nhau xác định mục LLM trong công thức có thể đi được bao xa.

Các chương 8 đến 10 kết hợp ba trụ cột này và tập trung vào các ứng dụng phức tạp hơn:

• Chương 8 - Tự tiến hóa. Hãy để Agent tích lũy các chiến lược từ kinh nghiệm, ghi lại quy trình làm việc, ngoại hóa kiến thức và thậm chí chủ động tạo ra các công cụ mới mà không thay đổi trọng lượng.
• Chương 9 - Tương tác đa phương thức và thời gian thực. Mở rộng nhận thức và hành động từ văn bản sang thế giới hình ảnh, lời nói và vật lý, đồng thời đối mặt với những thách thức kiến trúc do thời gian thực mang lại.
• Chương 10 - Cộng tác đa Agent. Đây không phải là điều gì mới ngoài công thức: liệu ngữ cảnh có được chia sẻ hay không là cách diễn đạt "cách ly tốt hơn nén" trong Chương 2 ở cấp độ kiến trúc hệ thống; "Agent là công cụ chung" xuất phát trực tiếp từ thiết kế công cụ cộng tác trong Chương 4; tiêu chí "thông tin mới" để đánh giá ưu và nhược điểm của nhiều Agent lặp lại ý tưởng cốt lõi trong đánh giá của Chương 6.

Hai đám mây đen

Năm 1900, Kelvin nói rằng có hai đám mây đen lơ lửng trên bầu trời quang đãng của vật lý - một đám mây sau này trở thành thuyết tương đối và đám mây kia trở thành cơ học lượng tử. Bầu trời tại Agent hôm nay cũng không trong xanh, tôi còn nhìn thấy hai đám mây đen.

Đám mây đen đầu tiên là cách Agent tương tác trực tiếp với môi trường theo thời gian thực. Ngày nay, phần lớn Agent vẫn ở chế độ "yêu cầu-phản hồi" dựa trên các vòng (turn-by-turn): sau khi bạn nói xong một câu, nó sẽ nghĩ về cả một đoạn văn rồi đưa ra kết quả trong một lần. Nhưng thế giới thực không dừng lại và chờ đợi những suy nghĩ của nó kết thúc - lời nói bị gián đoạn, hình ảnh liên tục thay đổi, email liên tục đến. Một Agent thực sự "sống động" sẽ có thể suy nghĩ trong khi nghe và nói, bắt đầu lập kế hoạch khi bạn mới nói được nửa chừng và có thể chủ động phát hiện "email này cần được xử lý" khi không ai yêu cầu bạn làm như vậy. Có hai cách để đạt được loại hiệu suất thời gian thực này, thường tiến triển song song: Một là tách nhanh và chậm trong kiến trúc - thời gian thực và trí thông minh gần như là hai trục trực giao và rất khó để một mô hình duy nhất có thể lấy cả hai, vì vậy mô hình nhanh front-end duy trì nhịp hội thoại, và mô hình chậm nền tảng chịu trách nhiệm cho tư duy chuyên sâu; thứ hai là làm cho lý luận tự nó nhanh hơn - khi tốc độ giải mã đủ cao, thời gian chờ cho mỗi vòng ngắn đến mức gần như biến mất, đồng thời ranh giới giữa turn-by-turn và "thời gian thực" cũng bị xóa nhòa. Con đường này đang được phát triển nhanh chóng bởi chip và công cụ suy luận: Xiaomi MiMo đã cho phép mô hình tham số 1T đẩy tốc độ tạo lên trên 1000 token/s[^mimo] trên một nút 8 thẻ duy nhất và các giải pháp chuyên dụng củng cố toàn bộ mô hình trực tiếp vào chip (chẳng hạn như Taalas HC1) đã đẩy mô hình tham số 8 tỷ lên khoảng 17000 token/s, với phản hồi thấp hơn 100 mili giây[^taalas]. Khi mô hình có thể nói ra hàng nghìn từ mỗi giây, khoảng cách kinh nghiệm giữa "nói sau suy nghĩ" và "nói trong khi suy nghĩ" sẽ bị xóa bỏ.

Đám mây đen thứ hai là cách Agent, giống như con người, tiếp tục tích lũy kinh nghiệm từ những thành công và thất bại trong việc tương tác với môi trường. Mô hình ngày nay giống một thiên tài có trí nhớ siêu phàm nhưng không học được điều mới: anh ta ghi nhớ kỹ lưỡng kiến thức nhân loại trong quá trình đào tạo, nhưng hầu như không phát triển sau khi nhận việc. Vào cuối mỗi nhiệm vụ, hầu hết những cạm bẫy anh ta đã giẫm phải và những mánh khóe anh ta đã thử đều bị loại bỏ cùng với ngữ cảnh. Liệu đây có phải là một câu hỏi thực sự hay không phụ thuộc vào hai giả định cạnh tranh nhau.

Một là "giả thuyết thế giới nhỏ": một mô hình đủ lớn - chẳng hạn như hàng nghìn tỷ tham số - có thể chứa gần như toàn bộ kiến thức tổng quát quan trọng trong thế giới vật chất, và học nó một lần là đủ. Những người giữ quan điểm này (có nhiều nhà nghiên cứu từ OpenAI và Anthropic) sẽ chỉ ra rằng AI ngày nay mạnh nhất chỉ về lập trình, không phải vì mã dành riêng cho mô hình, mà vì lập trình là lĩnh vực mở nhất của nhân loại: mã nguồn mở khổng lồ có sẵn để học; và hầu hết các ngành đều không có thông tin và dữ liệu công khai nào cả. Vì vậy, những gì Frontier Labs thực sự đang làm là hợp tác với nhiều ngành khác nhau để “chắt lọc” năng lực chuyên môn tương ứng của họ vào cùng một mô hình lớn. Theo quan điểm này, điểm nghẽn không phải là năng lực của mô hình hay liệu nó có thể học được nó hay không, mà là liệu dữ liệu có đủ hay không - cung cấp dữ liệu và huấn luyện nó một lần, và vấn đề đã được giải quyết.

Nhưng “giả thuyết thế giới lớn” chỉ ra một lớp không thể lấp đầy chỉ bằng “đào tạo một lần”: kiến thức thuộc về một người dùng cụ thể hoặc một công ty cụ thể. Các tiêu chuẩn mã hóa của công ty bạn, sở thích tạo PPT của nhóm bạn và tính khí đặc biệt của một khách hàng nhất định - chúng không nằm trong bất kỳ kho đào tạo nào và chúng luôn thay đổi; Để phù hợp với "thế giới rộng lớn" được tạo thành từ vô số tình huống cụ thể này, mô hình chỉ có thể tiếp tục học hỏi sau khi đi làm và không thể mong đợi được cấu hình tất cả cùng một lúc khi rời khỏi nhà máy. Đây chính xác là hướng mà trí nhớ của Chương 3 và quá trình tự tiến hóa của Chương 8 đang khám phá: viết kinh nghiệm thành mã có cấu trúc, lưu trữ chúng trong cơ sở kiến thức hay chắt lọc chúng trở lại thành các tham số mô hình? Hơn nữa, AI đã bắt đầu tự phát triển - "AI cho AI" mà Anthropic đã nói đến và "AI cho Khoa học" mà ngày càng nhiều công ty đang triển khai đã đưa Agent lên vị trí hàng đầu trong lĩnh vực khoa học để khám phá; và không có điểm kết thúc cho biên giới, nơi không có câu trả lời tiêu chuẩn làm sẵn cũng như không có kho ngữ liệu để đọc, Agent chỉ có thể học độc lập từ những thành công và thất bại trong thử nghiệm của chính mình, thay vì yêu cầu người khác mọi thứ. Vì vậy, khả năng mạnh nhất của mô hình sẽ không phải là ghi nhớ mà là học hỏi và thích nghi.

Hai đám mây đen này không thể bị thổi bay chỉ bằng một lần nâng cấp mô hình. Để hiểu cuối cùng chúng sẽ bị vượt qua như thế nào, trước tiên bạn phải thấy rõ một điều: mô hình và Agent không bao giờ ngược dòng hay xuôi dòng mà cùng nhau tiến về phía trước.

Đồng tiến hóa giữa model và Agent

Nhìn lại các lớp logic ẩn trong các Harness đó - nén ngữ cảnh đa cấp, thử lại thất bại hàng nghìn lần trước khi cầu chì bị đứt và các phán đoán cấp phép mặc định bi quan là "không an toàn" - mọi "ngọn núi chết tiệt" có vẻ xấu xí đều ghi lại các khu vực mà mô hình hiện vẫn chưa ổn định. Khi mô hình thế hệ tiếp theo nội hóa các ràng buộc này, mã tương ứng có thể bị xóa; và lý do tại sao mô hình có thể được nội địa hóa chính xác là vì Agent đã trải qua những cạm bẫy này trong hoạt động kinh doanh thực tế và nó đã tích lũy như một tín hiệu cho đợt đào tạo tiếp theo. Người dùng đặt ra những vấn đề thực sự và lớp ứng dụng sử dụng Harness để bù đắp cho những thứ mà mô hình tạm thời không thể làm tốt. Những biện pháp khắc phục này lần lượt trở thành tín hiệu huấn luyện cho lần lặp tiếp theo của mô hình - đây là một bánh đà tự gia cố, dựa vào đó để đẩy hai đám mây đen ra xa từng chút một.

Chính bánh đà này cũng trả lời cho câu hỏi còn bỏ ngỏ ở Chương 1: liệu mô hình cuối cùng có "nuốt chửng" Harness hay không? Có, nuốt từng lớp một. Mỗi khi mô hình nội hóa ổn định một năng lực nào đó, lớp Harness tương ứng có thể bị xóa đi — mô hình tương tác ở Chương 9 chính là một ví dụ như vậy: những hành vi như ngắt lời, chen ngang vốn trước đây phải dựa vào Harness bên ngoài mới ghép lại được, nay đã được đưa thẳng vào bên trong mô hình. Nhưng quá trình "nuốt" này sẽ không bao giờ kết thúc. Thứ nhất, huấn luyện tính bằng tháng, mô hình có thể chờ được nhưng nghiệp vụ thì không; thứ hai, mô hình không thể nội hóa mọi ràng buộc và sở thích trong nghiệp vụ thực tế, luôn có một lớp ranh giới mới nhất cần logic bên ngoài đỡ lấy; thứ ba, mỗi thế hệ mô hình đều mở ra một biên giới năng lực mới, và chính tại biên giới đó mô hình lại là kém ổn định nhất. Vì vậy Harness sẽ không biến mất, nó chỉ dịch chuyển không ngừng tới những biên giới mới cùng với mô hình. Đây cũng chính là cách đọc The Bitter Lesson (Bài học cay đắng) trong thời đại Agent: các phương pháp tổng quát rồi sẽ chiến thắng, nhưng mỗi chặng đường nằm trong hai chữ "rồi sẽ" ấy đều do Harness lát nên.

Nơi bánh đà quay nhanh nhất là người giữ cả hai đầu cùng một lúc. Những gì Anthropic làm với Claude Code là cho phép mô hình riêng và Harness riêng của nó hỗ trợ lẫn nhau và cùng nhau phát triển: mô hình biết Harness sẽ gọi nó như thế nào và Harness cũng biết ranh giới của mô hình ở đâu và mọi thay đổi ở cả hai đầu đều có thể được phản hồi lại cho bên kia ngay lập tức. Ai đó đã từng tiến hành một thử nghiệm trong đó độ chính xác của nhiệm vụ tăng từ 52,8% lên 66,5% mà không thay đổi mô hình, chỉ thay đổi Harness. Điều này không chỉ cho thấy sức mạnh của Harness ngày nay mà còn nhắc nhở bạn: sở dĩ nó có đòn bẩy lớn như vậy chính là do mô hình chưa đạt đến điểm đó. Bởi vì điều này, bản thân bánh đà là con hào sâu nhất trong thời đại này: hoạt động kinh doanh thực tế, dữ liệu phản hồi và vòng lặp mô hình càng chặt chẽ thì những người khác sẽ càng khó bắt kịp từ bên ngoài.

Điều này có ý nghĩa gì với bạn tùy thuộc vào việc bạn đang đứng ở đầu nào của bánh đà. Nếu bạn đang xây dựng một mô hình, con hào sẽ quay bánh đà - cho phép phản hồi từ cảnh thực quay trở lại quá trình đào tạo nhanh nhất có thể. Nếu bạn xây dựng các ứng dụng dựa trên mô hình, Harness là đòn bẩy kỹ thuật sắc bén nhất của bạn trong thời gian ngắn, nhưng hãy lưu ý: mỗi khi mô hình tiếp thu một lớp ràng buộc, nó sẽ dễ dàng xóa bỏ một số lợi thế được thiết lập chỉ bằng Harness. Con hào dài hạn thực sự của lớp ứng dụng thường nằm ngoài công nghệ - dữ liệu độc quyền, kênh ổn định, niềm tin của người dùng, hiệu ứng mạng và các tình huống phức tạp mà AI không thể xử lý trong thời gian ngắn và phải được hoàn thành bởi sự cộng tác của con người và Agent. Sử dụng Harness để câu giờ và sử dụng thời gian này để xây dựng các rào cản khác ngoài công nghệ. Đây là một cách chơi an toàn.

Vì vậy, bạn không cần phải lo lắng về việc framework trong tay mình có trở nên lỗi thời hay không. Mô hình này được lặp lại vài tháng một lần và API, các sản phẩm và danh sách cụ thể sẽ được cập nhật, nhưng ba câu hỏi "xem gì, làm gì và cách xác minh xem nó có được thực hiện chính xác hay không" sẽ không lỗi thời - chúng mô tả không phải cách sử dụng một mô hình nhất định mà là cách cơ bản mà một hệ thống thông minh tương tác với thế giới. Làm chủ chúng và bất kỳ khả năng mới nào mà mô hình thế hệ tiếp theo mang lại, bạn sẽ biết nên đưa nó vào đâu trong công thức và xem nhanh việc thổi bay hai đám mây đen đó gần đến mức nào.

Công nghệ Agent vẫn đang phát triển nhanh chóng và một cuốn sách không thể theo kịp tất cả những thay đổi. Nhưng nếu những gì cuốn sách này mang lại cho bạn không phải là cách sử dụng cụ thể của một API nào đó, mà là một tập hợp các nhận định có thể giúp bạn tỉnh táo trong làn sóng công nghệ, thì nó đã hoàn thành sứ mệnh của mình. Tất cả văn bản, hình minh họa và mã thử nghiệm hỗ trợ của cuốn sách này đều là nguồn mở. Bạn có thể đến nhà kho và tự mình thực hiện thử nghiệm, gửi vấn đề và PR - có một dòng sông giữa việc đọc và thực hiện nó mà chỉ có bàn tay của bạn mới có thể vượt qua. Điều hấp dẫn nhất về Agent là nó có thể tạo ra những khả năng mới và thậm chí tự cải thiện bản thân bằng cách viết mã; sau khi đọc đến đây bạn đã nắm được nguyên lý “sáng tạo”. Tiếp theo, hãy xây dựng một cái gì đó.

[^mimo]: Xiaomi MiMo-V2.5-Pro-UltraSpeed sử dụng đồng thiết kế hệ thống mô hình của lượng tử hóa FP4, giải mã suy đoán song song DFlash và hệ thống suy luận TileRT để đẩy tốc độ tạo mô hình tham số 1T lên hơn 1000 token/s trên một nút 8-GPU đa năng duy nhất lần đầu tiên. Xem blog công nghệ chính thức của Xiaomi MiMo “Đẩy tốc độ tạo mô hình 1T-Parameter lên 1000 TPS”, 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps

[^taalas]: Taalas HC1 củng cố toàn bộ mô hình Llama 3.1 8B thành chip 6nm, đạt được khoảng 17.000 token/s và phản hồi dưới 100 mili giây; cái giá phải trả là con chip chỉ có thể chạy mô hình đã được củng cố và các bản cập nhật mô hình yêu cầu phải dán lại băng. Xem Karl Freund, “Taalas ra mắt chip lõi cứng với hiệu suất suy luận AI 'điên cuồng'," Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/.