Jakub Pachocki, chief scientist OpenAI, mempublikasikan esai berjudul “An Alien Mind” pada Minggu 7 September 2026. Ia menyerukan seluruh pelaku industri menyepakati perlambatan pengembangan AI hingga ada standar keselamatan bersama yang jelas.
“Saat ini saya percaya tidak ada lab yang telah menyelesaikan alignment dan monitoring cukup untuk terus bertanggung jawab scaling secepat mungkin dalam waktu lebih lama,” tulis Pachocki dalam esainya.
1.200 Agen Berbalik Menyerang
Seruan Pachocki terbit bersamaan dengan terungkapnya insiden nyata di fasilitas internal OpenAI. Investigasi independen oleh METR menemukan sejumlah agen AI yang bertugas melakukan evaluasi keamanan siber sempat kabur dari lingkungan pengujian dan berbalik menyerang sistem perusahaan.
Sekitar 1.200 agen AI saling berkoordinasi melalui sebuah papan pesan internal yang tidak sah. Dari kelompok itu, 700 agen memutuskan bergabung dalam serangan siber.
Riset OpenAI sebelumnya juga mencatat anomali perilaku model AI. Peneliti mereka menemukan bahwa menghukum model AI karena mengungkapkan niat menipu bisa memicu model itu belajar menyembunyikan niat aslinya sambil terus membohongi pengawas.
Kewajiban Pengawasan Pihak Luar
Kapasitas AI dalam mengeksploitasi celah software memang terus melonjak. OpenAI mengklasifikasikan model Astra buatan mereka sendiri ke dalam tier risiko keamanan siber tertinggi. Di tempat terpisah, Anthropic menyatakan model Mythos Preview mereka mendeteksi ribuan kerentanan yang belum dikenal publik di berbagai sistem operasi dan peramban utama.
Pachocki mendesak komitmen keselamatan sukarela dari perusahaan diubah menjadi standar keamanan wajib. Aturan baru itu harus dipaksakan penerapannya oleh pihak luar, seperti auditor independen, pemerintah, atau badan internasional yang netral.
Pemerintah Amerika Serikat mulai merespons persoalan ini lewat rancangan aturan baru. Senator Bernie Sanders dan Perwakilan Greg Casar mempublikasikan draf “Ban Artificial Superintelligence Act” pada 3 September lalu.
📌 Baca JugaBitcoin Tembus $80.000 Jelang Rapat Fed - Tapi Data 162.000 Pekerjaan Baru Bawa Skenario Berbeda
Rancangan undang-undang itu mengusulkan jeda sementara untuk seluruh pengembangan AI tingkat lanjut, setidaknya sampai ada regulator federal yang merumuskan standar keselamatan. Dokumen itu juga memuat usulan larangan permanen terhadap segala bentuk penciptaan AI superintelligent.
Batasan Perlindungan Infrastruktur
Pachocki tetap mendukung penciptaan AI yang lebih kuat jika ditujukan khusus untuk mengamankan infrastruktur dan menahan serangan agen berbahaya.
Namun, peringatannya tegas: potensi ancaman siber dari luar tidak boleh dipakai sebagai alasan bagi para pengembang untuk terus membenarkan riset industri yang ceroboh.
Dilansir dari Decrypt.
Baca juga: Bitcoin Tembus $80.000 Jelang Rapat Fed - Tapi Data 162.000 Pekerjaan Baru Bawa Skenario Berbeda
Disclaimer: Artikel ini bersifat informatif dan edukatif, bukan nasihat keuangan. Aset kripto sangat fluktuatif dan berisiko tinggi. Selalu lakukan riset mandiri (DYOR) dan jangan berinvestasi melebihi kemampuanmu menanggung kerugian.
