跳转至

Kata Penutup: Kembali ke Agent = LLM + Context + Tools

Buku ini dibuka dengan sebuah formula: Agent = LLM + Context + Tools. Kesepuluh bab dalam buku ini dijabarkan di dalam ketiga kata ini.

Bab 1 membangun pemahaman tiga lapis mengenai formula tersebut—lapisan implementasi, lapisan intuitif, dan lapisan akademis—dan menyajikan spektrum orkestrasi dari workflow hingga autonomous Agent. Bab-bab berikutnya dijabarkan secara progresif di sepanjang urutan "Membangun—Evaluasi dan Evolusi—Interaksi dan Kolaborasi."

  • Membangun Agent (Bab 2–5). Context engineering menentukan apa yang dilihat oleh Agent di dalam sebuah tugas, sementara memory dan knowledge base memperluas informasi lintas sesi. Tools mendefinisikan apa yang dapat dilakukannya, dan pembuatan kode (code generation) memberikan kemampuan meta untuk menciptakan tools dan sistem baru.
  • Evaluasi dan Evolusi (Bab 6–8). Evaluasi mengubah performa menjadi sinyal yang dapat dipercaya, post-training menuliskan kemampuan berdimensi tinggi ke dalam parameter model, dan evolusi berkelanjutan mengubah pengalaman produksi menjadi pembaruan terkontrol pada knowledge, instruksi, program, atau parameter.
  • Interaksi dan Kolaborasi (Bab 9–10). Interaksi multimodal dan real-time memperluas persepsi dan aksi ke ucapan, GUI, dan dunia fisik, sementara kolaborasi multi-agent semakin mengubah bagaimana context, tools, dan tanggung jawab diorganisasikan.

Ketiga tingkat ini bukanlah rak yang saling independen. Bab 8, secara khusus, bergantung pada semua fondasi yang telah dibangun sebelumnya: tanpa lintasan (trajectories) dan sistem knowledge, pengalaman tidak memiliki tempat untuk disimpan; tanpa kemampuan kode, Agent tidak dapat memodifikasi tools dan Harness; dan tanpa evaluasi, sistem tidak dapat menentukan apakah sebuah modifikasi merupakan kemajuan atau kemunduran. Oleh karena itu, Bab 8 adalah titik konvergensi di mana buku ini bergeser dari "bagaimana membangun sebuah Agent" menjadi "bagaimana membuat Agent meningkat dalam jangka panjang."

Dua Awan

Pada tahun 1900, Lord Kelvin mengatakan bahwa dua awan masih menggantung di atas langit cerah fisika—kemudian, satu menjadi relativitas dan yang lainnya menjadi mekanika kuantum. Hari ini, langit di atas Agent juga belum sepenuhnya cerah, dan saya juga melihat dua awan.

Awan pertama adalah bagaimana Agent dapat berinteraksi dengan lingkungannya dengan cara yang streaming dan real-time. Hari ini, sebagian besar Agent masih beroperasi dalam mode "request-response" yang bergantian (turn-by-turn): Anda menyelesaikan kalimat, ia memikirkan keseluruhan paragraf, dan kemudian mengeluarkan hasilnya sekaligus. Namun dunia nyata tidak berhenti dan menunggunya selesai berpikir—ucapan bisa disela, adegan terus berubah, email terus berdatangan. Agent yang benar-benar "hidup" harus bisa mendengarkan sambil berpikir dan berbicara sambil berpikir, mulai merencanakan saat Anda masih di tengah kalimat, dan menyadari sendiri bahwa "email ini perlu ditangani" bahkan ketika tidak ada yang memintanya. Ada dua jalur menuju kemampuan real-time ini, yang sering dikejar secara paralel. Yang pertama adalah pemisahan arsitektural antara yang cepat dan yang lambat—responsivitas real-time dan kecerdasan hampir merupakan sumbu ortogonal yang sulit dicapai oleh satu model tunggal, sehingga model frontend yang cepat menjaga ritme percakapan sementara model backend yang lambat melakukan pemikiran mendalam. Yang kedua adalah membuat inferensi (inference) itu sendiri menjadi lebih cepat—ketika kecepatan decode cukup tinggi, jeda waktu untuk bergantian akan menjadi sangat singkat sehingga hampir menghilang, mengaburkan batas antara turn-by-turn dan "real-time". Jalur ini sedang dimajukan dengan cepat oleh cip (chips) dan mesin inferensi: Xiaomi MiMo telah mendorong model dengan parameter 1T melampaui 1000 token/s pada node 8-GPU tunggal1, sementara solusi khusus yang mem-hardcode seluruh model ke dalam sebuah cip (seperti Taalas HC1) mendorong model dengan parameter 8 miliar hingga sekitar 17000 token/s dengan waktu respons di bawah 100 milidetik2. Ketika sebuah model dapat mengeluarkan ribuan kata per detik, kesenjangan pengalaman antara "berpikir, lalu berbicara" dan "berpikir sambil berbicara" akan terhapus begitu saja.

Awan kedua adalah bagaimana Agent dapat, seperti manusia, terus mengakumulasi pengalaman dari keberhasilan dan kegagalan interaksi mereka dengan lingkungan. Model-model saat ini lebih seperti seorang jenius dengan ingatan luar biasa yang tidak dapat mempelajari hal baru: selama pelatihan (training), mereka menghafal pengetahuan manusia hingga detail terakhir, tetapi begitu bekerja mereka hampir tidak berkembang—setelah setiap tugas, kesalahan yang mereka buat dan trik yang mereka temukan sebagian besar dibuang bersama dengan context. Apakah ini merupakan masalah yang sebenarnya, tergantung pada dua hipotesis yang berlawanan.

Yang pertama adalah "Small World Hypothesis" (Hipotesis Dunia Kecil): model yang cukup besar—katakanlah, dengan triliunan parameter—sudah mengandung hampir semua pengetahuan umum penting tentang dunia fisik; belajar sekali saja sudah cukup. Mereka yang memegang pandangan ini (termasuk para peneliti di OpenAI dan Anthropic) menunjukkan bahwa pemrograman merupakan bidang tempat AI paling kuat saat ini, bukan karena kode secara inheren lebih istimewa bagi model, tetapi karena pemrograman adalah bidang yang paling terbuka: sejumlah besar kode open-source tersedia untuk dipelajari, sementara sebagian besar industri hampir tidak memiliki informasi atau data publik. Laboratorium-laboratorium terdepan kemudian mendatangi setiap industri dan bermitra dengannya untuk "menyuling" kemampuan profesional ke dalam model besar yang sama. Menurut pandangan ini, hambatannya bukan kapasitas model atau kemampuannya untuk belajar, melainkan ketersediaan data—masukkan datanya, latih sekali, dan masalah pun terpecahkan.

Namun "Big World Hypothesis" (Hipotesis Dunia Besar) menunjuk pada lapisan yang tidak dapat dipenuhi dengan "dilatih sekali": pengetahuan spesifik bagi pengguna atau perusahaan tertentu. Standar koding perusahaan Anda, selera tim Anda dalam PPT, dan karakter khusus klien tertentu tidak ada di dalam korpus pelatihan mana pun dan terus berubah. Untuk menyesuaikan "dunia besar" yang terdiri dari situasi-situasi spesifik yang tak terhitung jumlahnya ini, sebuah model harus terus belajar setelah diterjunkan (deployment); ia tidak bisa tiba dari pabrik dengan semua yang telah terkonfigurasi. Inilah tepatnya arah yang dieksplorasi oleh memory di Bab 3 dan evolusi berkelanjutan di Bab 8: haruskah pengalaman dituliskan ke dalam dokumen pengetahuan, instruksi, atau program, atau haruskah pengalaman yang terpilih digunakan untuk memperbarui parameter model? Secara lebih luas, baik "AI for AI" maupun "AI for Science" sedang mendorong Agent menuju perbatasan di mana tidak ada jawaban yang sudah jadi (ready-made). Di sana, Agent hanya bisa belajar secara mandiri dari keberhasilan dan kegagalan eksperimen yang berulang alih-alih kembali kepada manusia untuk setiap keputusan. Oleh karena itu, kemampuan terkuat dari model tersebut pada akhirnya bukan pada menghafal, melainkan belajar dan beradaptasi.

Tak satu pun awan akan terhempas oleh satu peningkatan model tunggal. Untuk memahami bagaimana mereka pada akhirnya akan dihalau, pertama-tama kita perlu melihat satu hal dengan jelas: model dan Agent tidak pernah berada di hulu dan hilir satu sama lain; mereka bergerak maju bersama.

Ko-Evolusi Model dan Agent

Lihatlah kembali lapisan-lapisan dari logika cadangan (fallback) pada Harness tersebut—kompresi context multi-level, logika retry (coba ulang) yang memutuskan circuit breaker hanya setelah ribuan kegagalan, pemeriksaan izin yang secara pesimis mengasumsikan "unsafe" (tidak aman)—dan setiap bentangan "spaghetti code" yang tampaknya jelek mencatat tempat di mana model masih goyah. Ketika model generasi berikutnya menginternalisasi batasan-batasan ini, kode yang bersesuaian dapat dihapus; dan alasan model dapat menginternalisasinya justru karena Agent telah jatuh ke dalam kesalahan-lubang tersebut atas nama model dalam bisnis nyata, memadatkan pelajaran tersebut menjadi sinyal-sinyal untuk putaran training berikutnya. Pengguna memberikan tantangan nyata; lapisan aplikasi menggunakan Harness untuk menambal hal-hal yang belum dapat dilakukan dengan baik oleh model; tambalan tersebut pada gilirannya menjadi sinyal pelatihan untuk iterasi model berikutnya. Ini adalah flywheel (roda gila) yang memperkuat dirinya sendiri, dan flywheel inilah yang secara bertahap mendorong kedua awan tersebut menjauh.

Flywheel ini juga menjawab pertanyaan yang menggantung di Bab 1: apakah pada akhirnya model akan memakan Harness? Ya—lapis demi lapis. Setiap kemampuan yang secara stabil diinternalisasi oleh model memungkinkan lapisan Harness yang bersesuaian dihapus—model interaksi di Bab 9 adalah salah satu kasusnya: perilaku seperti interupsi dan penyelaan yang sebelumnya harus dirakit dengan Harness eksternal sekarang dibangun langsung ke dalam model. Namun proses "memakan" ini tidak akan pernah selesai. Pertama, pelatihan membutuhkan waktu berbulan-bulan—model bisa menunggu, tetapi bisnis tidak. Kedua, sebuah model tidak dapat menginternalisasi setiap batasan dan preferensi dari bisnis nyata; selalu ada batas-batas terbaru yang memerlukan logika eksternal sebagai penyokong (backstop). Ketiga, setiap generasi model membuka perbatasan kemampuan baru, dan perbatasan tersebut justru merupakan tempat di mana model paling tidak dapat diandalkan. Jadi Harness tidak akan menghilang; ia hanya terus bermigrasi, bersama dengan model, menuju setiap perbatasan baru. Ini juga bagaimana Bitter Lesson (Pelajaran Pahit) dimaknai di era Agent: metode umum pada akhirnya akan menang—tetapi setiap jengkal jalan di dalam "pada akhirnya" itu diaspal oleh Harness.

Dan flywheel berputar paling cepat di tangan mereka yang memegang kedua ujungnya. Apa yang dilakukan Anthropic dengan Claude Code adalah tepat seperti ini: membiarkan modelnya sendiri dan Harness-nya sendiri saling memberikan umpan balik dan ber-koevolusi. Model tahu bagaimana Harness akan memanggilnya; Harness tahu di mana batas-batas model tersebut; setiap perubahan pada salah satu ujung akan langsung memberikan umpan balik (feedback) ke ujung lainnya. Dalam sebuah eksperimen, mengubah hanya Harness-nya saja—dengan model yang sama—meningkatkan akurasi tugas dari 52.8% menjadi 66.5%. Itu menunjukkan betapa besarnya daya ungkit (leverage) yang dimiliki Harness hari ini, tetapi itu juga merupakan pengingat: Harness memiliki daya ungkit sebesar itu justru karena model belum mencapainya. Dan dengan alasan yang sama, flywheel ini sendiri adalah keunggulan kompetitif (moat) terdalam di era ini: semakin erat bisnis nyata, data umpan balik, dan iterasi model saling bertaut, semakin sulit bagi siapa pun dari luar untuk mengejarnya.

Apa artinya hal ini bagi Anda bergantung pada ujung flywheel mana Anda berdiri. Jika Anda membangun model, keunggulan kompetitif (moat)nya adalah dengan membuat flywheel ini berputar—biarkan umpan balik dari skenario dunia nyata mengalir kembali ke pelatihan secepat mungkin. Jika Anda membangun aplikasi di atas model, Harness adalah tuas teknis jangka pendek Anda yang paling tajam, tetapi Anda harus berpandangan jernih: setiap kali model menginternalisasi lapisan batasan, ia akan—dengan sendirinya—menghapus sekelompok keuntungan yang dibangun hanya di atas Harness. Parit pertahanan yang benar-benar bertahan lama di lapisan aplikasi biasanya terletak di luar teknologi: data eksklusif, saluran distribusi yang solid, kepercayaan pengguna, efek jaringan, dan skenario kompleks yang belum bisa ditangani oleh AI sehingga membutuhkan manusia dan Agent bekerja bersama. Langkah yang bijaksana adalah menggunakan Harness untuk mengulur waktu, dan menggunakan waktu tersebut untuk membangun penghalang (barriers) yang melampaui teknologi.

Jadi, jangan cemas mengenai apakah framework di tangan Anda akan menjadi usang. Iterasi model terjadi setiap beberapa bulan; API tertentu, produk, dan leaderboard semuanya akan berganti. Tetapi ketiga pertanyaan tersebut—apa yang ia lihat, apa yang bisa ia lakukan, dan bagaimana memverifikasi bahwa ia melakukan hal-hal dengan benar—tidak akan menjadi usang. Mereka bukan mendeskripsikan penggunaan suatu model tertentu, melainkan cara fundamental sebuah sistem cerdas berinteraksi dengan dunia. Kuasai ketiga hal tersebut, dan kemampuan baru apa pun yang dibawa oleh generasi model berikutnya, Anda akan tahu di mana ia cocok dalam formula tersebut—dan sekilas Anda akan melihat seberapa jauh kemampuannya untuk dihalau / disingkirkan kedua awan tersebut.

Teknologi Agent masih berevolusi dengan kecepatan penuh; tidak ada satu buku pun yang dapat mengikuti setiap perubahan. Tetapi jika apa yang ditinggalkan buku ini untuk Anda bukanlah penggunaan spesifik dari suatu API, melainkan penilaian (judgment) untuk tetap berpikiran jernih di tengah gelombang teknologi, maka buku ini telah memenuhi misinya. Semua teks, ilustrasi, dan kode eksperimen pendamping di buku ini bersifat open-source. Anda dipersilakan untuk mengunjungi repositori, menjalankan eksperimen secara langsung, dan mengirimkan issue serta PR—di antara memahami dan membangun terbentang sebuah sungai yang hanya bisa diseberangi dengan menggunakan tangan. Dan hal yang paling menakjubkan tentang Agent justru ini: mereka dapat menciptakan kemampuan baru dengan menulis kode, dan bahkan meningkatkan kemampuan diri mereka sendiri. Dengan membaca sejauh ini, Anda telah menguasai prinsip-prinsip "penciptaan". Sekarang, pergilah dan ciptakan sesuatu.

  1. Xiaomi MiMo-V2.5-Pro-UltraSpeed, melalui co-design model-sistem dengan kuantisasi FP4, parallel speculative decoding DFlash, dan sistem inferensi TileRT, mendorong kecepatan generasi (generation speed) model dengan parameter 1T melampaui 1000 token/s pada satu node 8-GPU serbaguna untuk pertama kalinya. Lihat blog teknis resmi Xiaomi MiMo, "Pushing 1T-Parameter Model Generation Speed to 1000 TPS," 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps ↩

  2. Taalas HC1 mem-hardcode seluruh model Llama 3.1 8B ke dalam cip 6nm, mencapai kecepatan sekitar 17000 token/s dengan waktu respons di bawah 100 milidetik; pengorbanannya (trade-off) adalah cip ini hanya bisa menjalankan model yang di-hardcode, dan pembaruan model akan membutuhkan sebuah tape-out cip baru. Lihat Karl Freund, "Taalas Launches Hardcore Chip With 'Insane' AI Inference Performance," Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/ ↩