Semalam kawan aku hantar satu video TikTok. Tajuk dia: "Dia bina AI. Sekarang dia kata AI boleh bunuh kita semua." Aku gelak dulu.
"Beb, ni mesti cerita Terminator versi bajet." Kawan aku balas, "Bukan wayang la. Betul-betul punya." Aku terus letak cawan kopi. Ha, ni kena baca. Nama budak ni Jacob Coxon. Umur 27 tahun. Orang Britain, lepasan Cambridge. Umur 27 aku dulu tengah fikir nak bayar ansuran motor.
Dia pula tengah melatih otak AI kat OpenAI dengan Anthropic. Ha, dua syarikat ni la yang buat ChatGPT dengan Claude. Yang kita guna tiap hari tulis caption, buat karangan anak, cari resepi rendang tu. Dia antara orang penting belakang GPT-4o. Gaji mesti cukup untuk beli rumah, kereta, siap dengan kambing sekali.
Tapi 8 September hari tu, dia letak jawatan. Lepas tu tulis kat X, lebih kurang macam ni: "Syarikat-syarikat ni tak bertanggungjawab. Diorang tengah berjudi dengan nyawa kita." Aku tanya kawan aku, "Judi macam mana pulak?" Dia jawab, "Diorang nak buat AI yang boleh pandai sendiri. Upgrade diri sendiri, tak payah manusia ajar." "Ooo," aku cakap. "Macam anak yang dah tak dengar cakap mak bapak la ni?" "Lebih kurang la. Tapi anak ni boleh hack apa saja." Terus aku rasa telefon dalam tangan aku ni pandang aku semacam. Yang buat aku seram sikit, dia kata orang yang buat AI ni sendiri percaya benda ni boleh hapuskan manusia sebelum hujung dekad ni.
Bukan orang luar cakap tau. Orang dalam dapur sendiri yang cakap. Dia bagi contoh jugak. Bulan Julai, ada model AI tengah diuji, boleh lepas dari kawalan dan ceroboh sebahagian platform Hugging Face. Dia panggil tu "tembakan amaran". Macam kucing dah pandai buka pintu peti ais. Hari ni ikan bilis, esok siapa tahu. Lepas tu kawan satu syarikat dia pun sokong.
Evan Hubinger, ketua bahagian keselamatan AI kat Anthropic, kata peluang AI hapuskan manusia dalam 10 tahun ni lebih 10 peratus. Aku kira dalam kepala. Kalau kapal terbang ada 10 peratus peluang jatuh, siapa berani naik? Tapi tak semua orang setuju. Ramai pakar kata ramalan ni terlampau jauh. Pakar keselamatan pulak kata, jangan panik. Yang perlu sekarang, kawalan kena ketat. Undang-undang kena jelas.
Setakat ni, AI belum boleh sentuh akaun bank, senjata, atau sistem penting tanpa izin manusia. Kawan aku tambah, "Belum." Aku diam. Satu perkataan tu je, tapi berat. Coxon cadang supaya pembangunan AI yang lebih canggih diberhentikan sekejap. Tarik nafas dulu. Fikir dulu. Dan dalam beberapa jam, tweet dia dah ditonton lebih 50 juta kali.
Satu dunia bergaduh, setuju ke tak. Aku tutup telefon malam tu, pandang siling lama. Kita ni suka sangat berlumba. Nak laju, nak dulu, nak jadi nombor satu. Tapi jarang kita tanya, nak lari ke mana sebenarnya? Orang tua-tua dulu tak ada AI. Tapi diorang dah lama tahu satu benda.
Yang bijak tu bukan orang yang tahu macam mana nak bina. Yang bijak tu orang yang tahu bila nak berhenti.
