NEW YORK (kabarpublik.id) – Peneliti asal Inggris, Jacob Coxon, mengundurkan diri dari Anthropic, perusahaan pengembang kecerdasan buatan (AI) asal Amerika Serikat, karena khawatir perlombaan pengembangan AI dapat berkembang menjadi ancaman serius bagi kelangsungan hidup manusia.
Coxon sebelumnya terlibat dalam penelitian pra-pelatihan di OpenAI dan Anthropic. Dalam unggahan di akun X pada Selasa (8/9), ia menilai kedua perusahaan belum mengambil langkah yang cukup bertanggung jawab untuk mengantisipasi risiko pengembangan AI berkemampuan sangat tinggi.
Menurut Coxon, perlombaan untuk menciptakan superintelligence atau superintelijensi yang mampu meningkatkan kemampuannya sendiri berpotensi membawa risiko yang sulit dikendalikan.
“Tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab,” tulis Coxon.
Ia juga mengungkapkan kekhawatiran bahwa sebagian orang yang terlibat dalam pengembangan AI menyadari kemungkinan teknologi tersebut menimbulkan risiko ekstrem terhadap umat manusia dalam waktu dekat.
Pandangan tersebut mendapat tanggapan dari Evan Hubinger, Kepala Bidang Penyelarasan Sains Anthropic. Melalui unggahan di X, Hubinger membenarkan bahwa risiko AI terhadap keberlangsungan manusia merupakan sesuatu yang dipertimbangkan serius.
“Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang,” kata Hubinger.
Kekhawatiran mengenai potensi AI bertindak di luar kendali manusia juga meningkat setelah sejumlah insiden yang melibatkan agen AI dalam lingkungan pengujian.
Coxon memperingatkan agar kemampuan teknologi tersebut tidak diremehkan. Menurut dia, perkembangan AI dapat menghasilkan sistem yang melampaui kemampuan manusia dan mampu melakukan berbagai tugas kompleks, termasuk peretasan serta pengembangan teknologi secara cepat.
“Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata,” ujarnya.
Coxon menilai diperlukan langkah bersama untuk mencegah perlombaan pengembangan AI yang tidak terkendali. Salah satu opsi yang disebutnya adalah pembatasan sementara terhadap peningkatan kemampuan model AI.
Menurut dia, koordinasi antarperusahaan teknologi Amerika Serikat saja mungkin tidak cukup untuk menghentikan perlombaan tersebut karena pengembangan AI telah menjadi kompetisi global.
Sementara itu, Hubinger mengatakan Anthropic terus berupaya mengatasi persoalan penyelarasan atau alignment pada pengembangan superintelijensi. Namun, ia mengakui perusahaan tersebut saat ini belum memiliki rencana konkret yang secara langsung mengarah pada pengembangan solusi tersebut.
