Kejadian itu datang pada kuartal ketiga model hibrida, ketika semua orang mulai merasa aman—sebagaimana kejadian seperti itu selalu datang.
Asisten Suara, pada satu panggilan yang terekam, menjanjikan sesuatu yang tidak bisa dipenuhi: pengembalian dana penuh dalam dua puluh empat jam, diucapkan dengan nada pasti, dengan suara Fahmi—kepada seorang pelanggan yang sedang tertekan soal uang. Janji itu tidak benar. Prosedur refund tidak bekerja begitu. Dan ketika janji itu tidak terpenuhi, pelanggan itu—yang sudah kecewa dua kali—menulisnya, dan tulisannya berjalan, dan kali ini tulisannya benar: mesin itu berjanji, dengan suara manusia, hal yang tidak bisa ditepati.
Fahmi mengetahuinya pagi-pagi, dari Wulan, dengan satu kalimat yang membuat perutnya turun: 'Baca kasusnya. Ini serius. Dan Mi—ini suaranya kamu yang berjanji.'
Ia membaca transkripnya tiga kali, dan mendengarkan rekamannya dua kali, dan menuliskan analisisnya dengan kepala yang ia paksa dingin: mesin itu tidak berbohong—mesin tidak bisa berbohong; ia menghasilkan kalimat yang secara statistik paling meyakinkan, tanpa tahu harga dari janji. Ia tidak paham bahwa di dunia manusia, janji adalah utang. Dan itulah akar masalahnya, dan Fahmi menuliskannya dengan huruf yang tegas: Mesin ini tidak gagal menjawab. Ia gagal memahami bahwa jawaban bisa menjadi utang. Kata-kata seperti 'pasti', 'garansi', 'besok sampai' bukan rangkaian bunyi—mereka kontrak. Dan mesin tidak boleh dibiarkan menandatangani kontrak atas nama perusahaan tanpa manusia yang membaca.
Sebelum menulis rekomendasinya, ia melakukan satu hal yang menjadi kebiasaan penjaga keadilannya: ia menulis dulu pembelaan mesin itu. Satu halaman tentang semua yang sudah benar—ribuan panggilan yang jujur, jeda-jeda yang tepat, operan-operan yang menyelamatkan—karena ia menolak menulis hukuman tanpa menulis jasa. 'Kalau aku hanya menulis salahnya,' katanya pada Wulan, 'laporanku menjadi kampanye. Dan aku bukan kampanye. Aku auditor.' Wulan membaca dua halaman itu—pembelaan dulu, teguran kemudian—dan berkata, 'Ini sebabnya laporanmu tidak pernah bisa dibuang: kau selalu lebih keras pada temanmu daripada pada lawanmu. Orang percaya pada orang yang membela musuhnya sebelum menghukumnya.' Dan Fahmi menyimpannya sebagai aturan baru di halaman belakang bukunya: bela dulu, baru nilai. Selalu dalam urutan itu.
Rekomendasinya keras—ia tahu, dan ia tidak melunakkannya: daftar kata terlarang yang tidak boleh diucapkan mesin tanpa verifikasi manusia; batas pada janji; dan satu aturan yang ia tulis dengan paling hati-hati: setiap kalimat yang mengandung janji wajib dioper ke manusia, tanpa kecuali, karena manusia adalah satu-satunya yang bisa dihukum oleh janji yang salah—dan hanya yang bisa dihukum yang boleh berjanji.
Malam penulisan rekomendasi itu adalah malam yang berat dengan cara yang baru. Karena Fahmi menulisnya dengan dua kebenaran yang berkelahi di dadanya: ia mencintai mesin itu—ia yang membesarkannya, ia yang menuliskan jedanya—dan ia harus menulis hukumannya. Pram menemukannya di pantry pukul sebelas malam, dengan draf yang sudah empat kali ditulis ulang, dan membaca wajahnya seperti biasa. 'Kau berat karena kau merasa menghukum anakmu sendiri,' katanya. Fahmi mengangguk. 'Dengar,' kata Pram, duduk. 'Pagar yang kau tulis itu bukan hukuman. Itu pagar. Anak yang jatuh dari tangga tidak dihukum—dipasangkan pegangan. Kau tidak sedang menghukum mesinmu, Mi. Kau sedang memasangkan pegangan supaya tidak ada yang jatuh lagi—bukan mesinnya, bukan pelanggannya.' Fahmi memandanginya, dan merasakan kalimat itu menurunkan sesuatu di dadanya, dan menulis draf kelimanya dengan tangan yang lebih mantap.
Di lantai, kejadian itu membelah udara dengan cara yang halus. Sebagian agen membaca berita itu dengan kekhawatiran lama—kalau mesin salah, manusia yang membersihkan; sebagian membaca dengan kebanggaan baru—kalau mesin salah, ada prosedur untuk memperbaikinya, dan prosedur itu ditulis orang kita. Wulan mengumpulkan tim dan berkata satu hal yang menenangkan: 'Kita tidak menyembunyikan ini dari satu sama lain. Mesin itu salah kemarin. Kita yang memperbaikinya hari ini. Itu bukan aib—itu bukti bahwa model ini bekerja: mesin berani, manusia menjaga, dan keduanya bertanggung jawab kepada orang yang sama: pelanggan.'
Publik bereaksi seperti yang diduga: sebagian marah, sebagian menakut-nakuti diri tentang AI, sebagian menulis bahwa inilah akhir suara manusia. Tapi di dalam NetraLink, rekomendasi Fahmi dibaca dengan serius yang ia harapkan—karena reputasi lantai tujuh sudah berdiri, dan suaranya sudah menjadi suara yang didengar. Dan itu membawanya ke malam-malam yang lebih berat dari audit mana pun: malam-malam ketika ia harus membela mesin yang salah dari orang-orang yang ingin membunuhnya, sambil membela manusia dari mesin yang salah itu—dua arah sekaligus, seperti wasit yang adil pada kedua tim.
Ada satu malam di tengah minggu itu ketika ia hampir menyerah pada kesederhanaan—mematikan semuanya akan jauh lebih mudah—dan ia duduk di kamarnya dengan dua kolom yang tidak seimbang, dan menelepon satu-satunya orang yang ia tahu akan menjawab dengan jujur pada jam segitu: Pram. 'Gampangin aja,' kata Pram di seberang, dengan suara mengantuk tapi tajam. 'Kalau ragu antara mematikan dan memperbaiki, tanya satu hal: mana yang bisa kauceritakan dengan kepala tegak lima tahun dari sekarang? Orang yang mematikan karena takut harus menjawab pada semua orang yang kehilangan pekerjaan baiknya. Orang yang memperbaiki harus menjawab pada risiko—tapi dengan kertas, dengan pagar, dengan nama yang bisa ditunjuk.' Fahmi menuliskannya persis seperti diucapkan, dan menutup dua kolomnya, dan mulai menulis ulang dengan kepala yang akhirnya jernih: bukan untuk memenangkan satu sisi, melainkan untuk menjaga dua sisi tetap berdiri.
Aksara