Tokenmaxxing: Ketika Perusahaan Membakar Miliaran Dolar untuk AI Tanpa Hasil
Baca dalam 60 detik
- Meta menghabiskan 60 triliun token AI dalam sebulan hanya untuk bersaing di papan peringkat internal, dengan estimasi biaya mencapai US$900 juta.
- Perusahaan teknologi berlomba meningkatkan konsumsi token sebagai tolok ukur produktivitas, meski banyak penggunaan tidak efektif dan memicu pemborosan.
- Para ahli mendorong efisiensi token melalui pemilihan model yang tepat, prompt yang jelas, dan pemantauan biaya agar AI tetap ekonomis.

Meta menghabiskan 60 triliun token AI hanya dalam 30 hari pada awal tahun ini, demi menempati posisi teratas di papan peringkat internal yang dijuluki "Claudeonomics". Kolumnis teknologi Gergely Orosz memperkirakan biaya yang dikeluarkan mencapai sekitar US$900 juta berdasarkan harga resmi Anthropic, meski Meta kemungkinan membayar jauh lebih murah. Fenomena ini menjadi cermin bagaimana perusahaan teknologi memperlakukan token sebagai ajang gengsi, bukan sekadar alat kerja.
Praktik pemborosan serupa terjadi di banyak perusahaan. Konsultan Bain & Company, Jue Wang, mengamati bahwa pengguna sering kali langsung memilih model tercanggih seperti Opus untuk tugas sederhana seperti menulis surel. "Banyak perusahaan dan pengguna default menggunakan Opus untuk segala hal, termasuk membuat email," ujarnya kepada Associated Press beberapa waktu lalu. Ia menganalogikannya seperti menyewa Albert Einstein untuk menghitung uang kembalian di restoran cepat saji.
Token adalah satuan teks yang diproses model AI, kira-kira setara tiga perempat kata. Setiap kata yang diketik ke ChatGPT atau Claude, dan setiap kata yang dihasilkan, dihitung dalam token. Pada langganan US$20, token menentukan seberapa cepat pengguna mencapai batas pemakaian. Pada API, token menentukan tagihan yang harus dibayar pengembang.
Perilaku boros ini bermula dari budaya Silicon Valley yang memamerkan konsumsi token. Microsoft, Shopify, dan Amazon dilaporkan memiliki papan peringkat karyawan berdasarkan jumlah token yang digunakan. CEO Nvidia Jensen Huang bahkan mengatakan akan "sangat khawatir" jika seorang insinyur bergaji US$500.000 tidak membakar setidaknya US$250.000 token. Di Amazon, karyawan mengaku memperbesar angka dengan menjalankan alat AI internal untuk tugas tidak relevan, hingga seorang wakil presiden senior menegur, "Jangan gunakan AI hanya demi menggunakan AI."
Di balik pemborosan itu, ada tiga konsep yang menjelaskan ke mana token pergi. Pertama, agent loop: model yang dapat menggunakan alat, berpikir, mencari di web atau menjalankan kode, lalu mengulanginya hingga selesai, dengan mengirim ulang seluruh percakapan setiap putaran. Kedua, orkestrasi: satu model bertindak sebagai manajer yang membagi permintaan ke subagen, yang masing-masing menjalankan loop dengan memori sendiri. Anthropic mencatat tim agen di Claude Code dapat memakai sekitar tujuh kali lebih banyak token daripada sesi standar. Ketiga, graph: kerangka kerja seperti LangGraph memetakan alur kerja seperti peta kereta bawah tanah, sehingga model mengikuti rute tetap alih-alih mengulang tanpa arah.
Untuk menekan pemborosan, pengguna dapat menerapkan beberapa kebiasaan sederhana tanpa coding. Pertama, beralih ke model yang lebih kecil dan cepat untuk tugas seperti email, ringkasan, dan penulisan ulang, sambil menyimpan model teratas untuk penalaran rumit. Uji lima tugas dari minggu lalu pada kedua model; jika model kecil lulus, gunakan model itu. Pada API, langkah ini dapat memangkas tagihan hingga 99%. Kedua, tulis prompt yang jelas dan spesifik, karena tiga putaran permintaan perbaikan akan mengirim ulang seluruh percakapan dan menambah biaya. Ketiga, mulai obrolan baru setiap kali topik berubah, karena model membaca ulang seluruh percakapan setiap kali pengguna mengirim pesan. Anthropic menyebut penurunan kualitas akibat konteks panjang sebagai "context rot". Keempat, batasi panjang output, misalnya "tiga poin, di bawah 100 kata", karena token output lima kali lebih mahal daripada input. Kelima, manfaatkan model gratis melalui OpenRouter atau jalankan model lokal dengan LM Studio atau Ollama pada kartu grafis 8GB atau Mac seri M.
Bagi pengguna tingkat lanjut, efisiensi dapat ditingkatkan dengan mematikan extended thinking untuk pertanyaan sederhana, mengatur batas pengeluaran bulanan di pengaturan Claude Pro dan Max, serta menggunakan perintah seperti /model, /clear, /compact, /context, /mcp, dan /usage di Claude Code. Hindari menempelkan spreadsheet 5.000 baris ke dalam obrolan; mintalah rumus atau skrip singkat, jalankan sendiri, lalu berikan hasilnya ke model. Nonaktifkan server MCP yang tidak digunakan dan jaga file instruksi agen tetap di bawah 200 baris. Untuk perubahan besar, gunakan plan mode dengan menekan Shift+Tab agar agen mengusulkan rencana sebelum menyentuh file. Batasi jumlah langkah dan anggaran dolar untuk setiap proses agen, dan tetapkan definisi "selesai" sebelum dimulai.
Pada tingkat API, optimasi dapat dilakukan dengan menempatkan instruksi stabil di awal dan bagian yang berubah di akhir, lalu menandai blok stabil untuk caching. Kedua penyedia utama menawarkan diskon 50% untuk pemrosesan batch, sehingga mengunggah 1.000 faktur sebagai satu file batch jauh lebih murah daripada 1.000 panggilan langsung. Studi yang dipimpin Stanford menemukan model paling baik menggunakan informasi di awal atau akhir prompt, dan paling buruk ketika informasi terkubur di tengah. Untuk pekerjaan yang mahal jika salah, seperti klausul kontrak atau angka pembayaran, pertimbangkan model kedua sebagai pemeriksa.
Meski harga token terus turun, belanja AI justru meningkat. Data Silicon Data menunjukkan harga token turun lebih dari 90% sejak 2023, tetapi belanja model bahasa besar berlipat sejak akhir 2025. Bain & Company mencatat biaya token setengahnya antara Desember 2024 dan 2025, sementara jumlah token yang dikonsumsi tumbuh 450%. Fenomena ini dikenal sebagai paradoks Jevons: ketika sumber daya semakin murah, orang justru menghabiskan lebih banyak secara total.
Di Indonesia, gelombang adopsi AI generatif juga mulai terasa di sektor jasa keuangan, e-commerce, dan layanan publik. Tanpa tata kelola token yang baik, perusahaan berisiko mengikuti pola pemborosan yang sama, terutama jika hanya mengejar jumlah penggunaan tanpa mengukur nilai. Pelaku industri perlu menetapkan kebijakan internal tentang pemilihan model, batas anggaran, dan audit penggunaan API. Pertanyaannya, akankah perusahaan di Tanah Air belajar dari kelebihan konsumsi di Silicon Valley, atau justru mengulanginya dengan label transformasi digital?



