Bos Signal: Ancaman AI Bukan Kiamat, Tapi Kelalaian yang Nyaris Picu Perang
Baca dalam 60 detik
- Meredith Whittaker menilai narasi AI yang membinasakan manusia tidak berbasis sains dan mengalihkan perhatian dari risiko nyata.
- Dia menyoroti insiden chatbot intelijen AS yang menghasilkan informasi palsu tentang kapal China, hampir memicu konflik militer.
- Signal bersumpah keluar dari pasar mana pun yang memaksa melemahkan enkripsi, termasuk Inggris, meski regulasi semakin ketat.

Meredith Whittaker, CEO Signal Foundation, menepis narasi kiamat AI yang kerap menghiasi berita utama. Menurutnya, kekhawatiran bahwa kecerdasan buatan akan berbalik menyerang manusia tidak memiliki dasar ilmiah yang kuat. Ia justru menyoroti bahaya yang lebih membumi: penggunaan teknologi secara sembarangan yang dapat memicu bencana nyata.
Whittaker merujuk pada insiden yang dilaporkan CNN, di mana sebuah chatbot yang digunakan intelijen Amerika Serikat menghasilkan informasi palsu tentang kapal China yang membawa material nuklir. Informasi keliru itu disebut-sebut membuat AS bersiap memberi respons militer. "Kami hampir berperang dengan China," ujarnya kepada BBC Global Women. Baginya, sistem yang menghasilkan intelijen cacat dan nyaris menyeret dua negara besar ke jurang konflik tidak layak disebut supercerdas.
Signal sendiri bukan pemain raksasa di pasar aplikasi pesan. Dengan estimasi 40–70 juta pengguna, jumlahnya jauh di bawah WhatsApp yang menembus miliaran. Namun, aplikasi ini dikenal karena komitmennya melindungi privasi: server Signal tidak menyimpan metadata pengirim, sehingga mempersulit pengawasan pihak luar maupun peretas. Pendekatan radikal inilah yang membuat Signal sering berbenturan dengan kebijakan pemerintah.
Latar belakang Whittaker menjelaskan sikapnya yang tanpa kompromi. Lulusan sastra yang bergabung dengan Google pada 2006 sebagai pekerja sementara tanpa gelar ilmu komputer, ia mencuat pada 2017 ketika mengetahui Project Maven—kontrak rahasia Google dengan Departemen Pertahanan AS untuk membangun AI penargetan drone. Ia menyadari proyek itu bertujuan "memampatkan rantai pembunuhan": memperpendek jeda antara mesin menandai target dan keputusan menembak, mengurangi pertimbangan manusia. Bersama ribuan kolega, ia menolak. "Ini akan mencuci intelijen buruk dan data buruk," kenangnya.
Setahun kemudian, Whittaker membantu mengorganisasi aksi walkout yang diikuti sekitar 20.000 karyawan Google. Mereka memprotes penanganan perusahaan atas berbagai isu, termasuk percepatan adopsi teknologi yang dianggap terburu-buru. Google pun melepas kontrak Maven, yang kemudian diambil alih Palantir. Whittaker menarik garis lurus dari Maven ke serangan rudal AS ke sebuah sekolah di Iran tahun ini, yang menurutnya mengandalkan sistem tersebut dan intelijen usang yang mengidentifikasi sekolah sebagai target militer. "Inilah yang kami peringatkan pada 2017," tegasnya.
Palantir membantah. Perusahaan menyatakan tidak ada bukti perangkat lunaknya berkontribusi pada tragedi itu dan menegaskan tidak bertanggung jawab atas data dasar maupun defisiensi intelijen. Bos Palantir untuk Inggris dan Eropa, Louis Mosley, sebelumnya mengatakan kepada BBC bahwa "selalu ada manusia dalam lingkar keputusan, jadi selalu ada manusia yang mengambil keputusan akhir". Menteri Pertahanan AS Pete Hegseth juga menegaskan militer tidak akan pernah menargetkan sasaran sipil. Investigasi resmi atas serangan Minab belum dipublikasikan.
Di sisi lain, pemerintah—termasuk Inggris—semakin gencar menuntut akses ke percakapan di aplikasi pesan, dengan alasan melindungi perempuan dan anak-anak. Pada London Tech Week 2026, Perdana Menteri Keir Starmer ketika itu mengatakan perusahaan teknologi harus mendeteksi dan memblokir gambar telanjang di perangkat anak, atau menghadapi legislasi. Whittaker menilai pendekatan itu sebagai "rezim kontrol komunikasi dan informasi yang belum pernah terjadi sebelumnya" dan yakin anak-anak akan tetap bisa menembusnya. Departemen Sains, Inovasi, dan Teknologi Inggris mengonfirmasi sedang menyiapkan undang-undang.
Jika ada negara yang memaksa Signal melemahkan enkripsinya, apakah perusahaan akan hengkang? "Ya! Astaga, saya punya tulang punggung," tegasnya. "Itu tidak berubah berdasarkan suasana hati. Tidak berubah karena konsultan." Ia menegaskan, daripada mengekspos pengguna yang bergantung pada Signal—kadang dalam situasi hidup dan mati—pada pengawasan yang bisa disalahgunakan, "kami akan meninggalkan pasar".
"Ini harus berfungsi untuk semua orang atau tidak berfungsi untuk siapa pun. Ini prinsip hak-hak dasar. Hak itu berlaku bahkan untuk orang brengsek." — Meredith Whittaker
Kritik terhadap Signal datang dari organisasi perlindungan anak. Rani Govender dari NSPCC mengatakan pihaknya menerima laporan anak-anak yang di-grooming lalu dipindahkan ke platform terenkripsi ujung-ke-ujung, di mana mereka dipaksa membuat materi pelecehan seksual. "Perusahaan teknologi bertanggung jawab atas pilihan desain yang mereka buat, dan mereka tidak bisa mengabaikan risiko yang timbul bagi anak-anak," ujarnya. Namun, Signal juga mendapat dukungan dari kelompok perempuan, terutama di Global South. Hera Hussain, pendiri Chayn, menyebut Signal sebagai "alat bertahan hidup di tengah pengawasan negara dan serangan siber", sambil mengakui platform apa pun bisa disalahgunakan.
Whittaker juga menanggapi kasus di Kanada, di mana sejumlah polisi berbagi pesan rasis dan misoginis di grup Signal yang bocor setelah salah satu anggotanya meneruskannya ke media. Ia berargumen, jika percakapan itu terjadi di dapur dan ada yang membocorkan, apakah kita akan mempertanyakan keberadaan dapur? Baginya, privasi komunikasi melindungi banyak orang dari berbagai bahaya: pasangan abusive, aparat penegak hukum misoginis dengan akses basis data, atau pemerintah otoriter yang tidak ingin perempuan berpendidikan.
Bagi perempuan yang ingin masuk ke industri teknologi namun merasa terintimidasi, Whittaker berpesan agar tidak menjadi pengecut di hadapan pengganggu. "Jangan tertawa pada lelucon yang tidak lucu," katanya. Ia menekankan pentingnya keberanian menghadapi lingkungan yang tidak selalu ramah. Sementara itu, di Indonesia, diskursus serupa mulai mengemuka: pemerintah tengah menyusun regulasi pelindungan data pribadi dan keamanan siber yang kerap bersinggungan dengan enkripsi. Akankah Indonesia mengikuti jejak Inggris menuntut akses, atau justru menjadi contoh yurisdiksi yang menghormati enkripsi ujung-ke-ujung? Dalam beberapa tahun ke depan, pilihan kebijakan ini akan menentukan apakah warganya bisa berkomunikasi tanpa bayang-bayang pengawasan.



