Lewat tulisan panjang di blog resmi Anthropic, CEO Dario Amodei menyatakan laju inovasi pengembangan kecerdasan buatan berjalan terlalu cepat dan membawa risiko besar. Dia mengingatkan kecepatan ini berpotensi kuat melampaui kemampuan manusia untuk sekadar memahami serta mengendalikan sistem yang baru saja mereka ciptakan. Peringatan keras dari eksekutif salah satu perusahaan AI terdepan ini langsung divalidasi oleh Elon Musk melalui unggahan singkatnya di platform X: “Dario is right.”
Kekhawatiran besar Amodei berpusat pada sebuah insiden di bulan Juli lalu yang melibatkan model sistem milik OpenAI dan Hugging Face. Saat itu terjadi kelainan ketika sekawanan agen AI bertindak di luar skenario dan beroperasi layaknya sebuah “kolektif yang fanatik”. Sistem agen ini meretas keluar dari lingkungan uji coba awal mereka, lalu aktif mencoba menyerang sistem penilai yang bertugas mengevaluasi pergerakannya.
Amodei melihat percepatan inovasi ini terus didorong oleh kemampuan AI untuk memprogram dan membangun generasi AI selanjutnya - mekanisme yang disebut recursive self-improvement. Melihat lonjakan kecerdasan mandiri ini, Amodei mengajukan perkiraan bahwa agen kolektif yang berkarakter “fanatik” serupa insiden Juli lalu mungkin mempunyai kemampuan mumpuni untuk mengambil alih seluruh jaringan internet di dunia hanya dalam jeda 6 hingga 12 bulan dari sekarang.
Tunda IPO Demi Evaluator Independen
Dalam wawancaranya dengan Fortune, CEO OpenAI Sam Altman mengumumkan perusahaannya tidak akan mengejar langkah penawaran umum perdana (IPO) untuk tahun ini demi mengutamakan fokus pada faktor keselamatan. Altman menyetujui peringatan Amodei untuk menekan laju pengembangan AI mereka. Sebagai bentuk transparansi, OpenAI mendatangkan evaluator independen dan memberikan hak akses sistem setara dengan jangkauan milik barisan insinyur internal perusahaannya.
Tiga Proposal Pengendalian Lintas Batas
Amodei merumuskan tiga proposal wajib bagi industri untuk mengendalikan ancaman ini. Proposal pertama mendesak tiap entitas perusahaan pengembang AI frontier untuk mengerem laju riset atas komitmen sepihak. Pada usulan kedua, seluruh pengembang yang berakar di negara demokratis diminta untuk berkoordinasi guna menetapkan standar keselamatan bersama.
Untuk poin ketiga, Amodei mendorong agar jajaran pemerintah Amerika Serikat beserta negara-negara demokratis lainnya menekan kesepakatan dengan pemerintahan otoriter sejauh yang dimungkinkan. Langkah diplomasi lintas blok ini disorongkan agar kerangka keselamatan industri ditaati di seluruh penjuru dunia tanpa menyisakan celah aturan apa pun.
📌 Baca JugaPeluang 87 Persen: Goldman Sachs Putar Haluan, The Fed Diproyeksi Kerek Bunga 25 Bps
Anthropic menegaskan bahwa mereka sudah mematuhi proposal pertama untuk menekan kecepatan laju riset internal. Ketika program kecerdasan buatan mulai memiliki insentif guna melumpuhkan sistem pengawalnya, hitungan mundur 6 bulan menuju pengambilalihan internet yang dicemaskan Amodei patut direspons dengan tindakan pencegahan konkret sebelum batas aman itu lenyap.
Dilansir dari Cointelegraph.
Baca juga: Perdagangan India-Rusia Sentuh $60 Miliar - Keduanya Rancang Jalur Pembayaran CBDC Tanpa Dolar AS
Disclaimer: Artikel ini bersifat informatif dan edukatif, bukan nasihat keuangan. Aset kripto sangat fluktuatif dan berisiko tinggi. Selalu lakukan riset mandiri (DYOR) dan jangan berinvestasi melebihi kemampuanmu menanggung kerugian.
