Amazon Larang Tokenmaxxing: Metrik Penggunaan AI Dinilai Menyesatkan
Baca dalam 60 detik
- Amazon menganggap jumlah token dan volume kode bukan tolok ukur sahih adopsi AI.
- Perusahaan teknologi mulai membatasi konsumsi token demi menekan biaya operasional.
- Kebijakan ini menandai pergeseran dari euforia adopsi AI ke pengukuran hasil nyata.

Amazon secara terbuka mengoreksi cara perusahaan menilai pemanfaatan kecerdasan artifisial di lingkungan kerja. Dalam memo internal yang beredar September lalu dan baru dipublikasikan di situs resmi perusahaan pada Selasa (27/10), raksasa e-commerce itu menyebut jumlah token serta banyaknya kode yang dihasilkan sebagai indikator yang "sangat cacat" untuk mengukur adopsi AI. Langkah ini menjadi sinyal bahwa gelombang adopsi AI generatif mulai memasuki fase evaluasi yang lebih dingin.
Memo tersebut menegaskan bahwa metrik seperti pemakaian token, tingkat adopsi alat AI, hingga jumlah perubahan atau tinjauan kode tidak layak dijadikan patokan tunggal. Menurut Amazon, ketergantungan pada angka-angka itu justru berpotensi membengkakkan biaya dan menambah kerumitan sistem. Namun perusahaan tidak serta-merta meminta karyawan mengabaikannya; data semacam itu tetap boleh dilihat, asalkan disertai pertimbangan matang dan dibandingkan dengan indikator lain.
"Kami percaya bahwa yang terbaik adalah mengukur, dan diukur oleh, hasil jangka panjang," demikian bunyi memo tersebut. Pernyataan ini menandai pergeseran retorika dari sekadar mendorong eksperimen AI ke arah akuntabilitas hasil. Amazon juga menegaskan bahwa jika suatu pekerjaan tidak memperoleh manfaat dari perkakas AI yang ada, itu merupakan temuan yang sah, bukan kegagalan. Seorang insinyur yang mampu menjelaskan di titik mana AI belum membantu pekerjaannya justru dinilai menunjukkan pertimbangan yang diharapkan perusahaan.
Praktik yang dikritik Amazon dikenal sebagai tokenmaxxing, yakni penggunaan model AI sebanyak mungkin tanpa memedulikan mutu keluaran. Fenomena ini muncul seiring melonjaknya biaya komputasi AI. Sejumlah perusahaan telah memasang pagar pembatas konsumsi token atau beralih ke model sumber terbuka yang lebih murah untuk tugas-tugas tertentu. Amazon sendiri sempat menutup papan peringkat internal pada Mei setelah mendapati karyawan memacu penggunaan token demi menaikkan posisi di daftar.
Menurut Marc Brooker, wakil presiden dan distinguished engineer di Amazon Web Services, perusahaan kini lebih menimbang "kecepatan fitur" โ seberapa banyak peluncuran dan perubahan berhasil di produksi โ sebagai ukuran produktivitas insinyur. Pendekatan itu, katanya, pada dasarnya adalah perhitungan laba atas investasi: jika ada masalah penting bagi pelanggan atau bisnis, perusahaan akan menginvestasikan alat, waktu, token, dan tenaga manusia. Yang hendak dihindari adalah pemborosan untuk memecahkan persoalan yang tidak penting, meski ia mengakui tetap perlu ruang untuk bereksperimen.
Langkah Amazon mencerminkan tekanan yang lebih luas di industri teknologi global. Setelah dua tahun berlomba mengintegrasikan AI generatif, perusahaan kini dituntut membuktikan bahwa belanja besar untuk model bahasa dan infrastruktur komputasi berbanding lurus dengan kinerja. CEO Amazon Andy Jassy sebelumnya memperkirakan AI akan mengubah cakupan dan kecepatan kerja sehari-hari, bahkan berpotensi menyusutkan jumlah karyawan korporat dalam beberapa tahun ke depan, sembari menciptakan jenis pekerjaan baru.
Bagi Indonesia, dinamika ini relevan bagi perusahaan yang mulai mengadopsi AI generatif. Banyak organisasi domestik mengukur keberhasilan transformasi digital dari jumlah lisensi atau intensitas pemakaian alat, bukan dari dampak bisnis. Pelajaran dari Amazon menunjukkan bahwa tanpa kerangka evaluasi yang matang, adopsi AI bisa berujung pada pembengkakan biaya tanpa perbaikan produktivitas yang sepadan. Perusahaan di dalam negeri yang ingin menghindari jebakan serupa perlu lebih dulu menetapkan indikator hasil, misalnya waktu peluncuran produk atau kualitas layanan, sebelum memperluas penggunaan AI.
Ke depan, persaingan antarperusahaan teknologi kemungkinan tidak lagi soal siapa paling cepat mengadopsi AI, melainkan siapa paling cermat menghitung untung-ruginya. Pertanyaannya, akankah metrik seperti kecepatan fitur benar-benar mampu menangkap nilai AI, atau justru melahirkan bentuk pengukuran baru yang sama-sama bisa dimanipulasi?



