Ratusan pakar kecerdasan buatan [AI] dan pemimpin industri di sektor ini mendesak penangguhan pengembangan beberapa teknologi AI. Mereka mengatakan bahwa teknologi AI yang paling kuat dapat menghadirkan risiko ekstrem bagi kemanusiaan dan tatanan sosial.
Mereka merilis surat terbuka tentang masalah ini, minggu lalu, dan merujuk secara khusus rilis terbaru dari versi keempat dari program AI populer ChatGPT.
“Kami meminta semua laboratorium AI untuk segera menghentikan pelatihan sistem AI yang lebih kuat dari ChatGPT-4 selama setidaknya 6 bulan,” bunyi surat itu.
Produk ChatGPT-4 berasal dari pengembang OpenAI yang didukung Microsoft. Perangkat ini memiliki kemampuan melakukan diskusi seperti manusia dan memiliki kemampuan kreatif.
“Sistem AI yang kuat harus dikembangkan hanya setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” lanjut surat itu.
Kelompok nirlaba Future of Life Institute merilis surat yang ditandatangani oleh sekitar seribu ilmuwan AI, pakar, dan anggota industri, termasuk Elon Musk.
Musk Foundation adalah pendukung keuangan utama Future of Life. Lembaga ini juga menerima uang dari kelompok Founders Pledge yang berbasis di London, dan Silicon Valley Community Foundation.
Elon Musk adalah salah satu pendiri OpenAI. Perusahaan mobil listriknya, Tesla, menggunakan AI untuk model dengan sistem self-driving.
Musk mengkritik upaya untuk mengatur sistem self-driving. Tapi, kini, dia berharap ada lembaga yang bisa memastikan perkembangan AI demi melayani masyarakat.
“Sangat munafik bagi Elon Musk untuk mendaftar mengingat betapa kerasnya Tesla telah berjuang melawan regulasi AI di mobil self-driving miliknya,” kata James Grimmelmann, seorang profesor hukum digital dan informasi di Cornell University.
Bulan lalu, Tesla harus menarik kembali dari pemiliknya lebih dari 362.000 kendaraannya di AS. Perusahaan harus memperbarui perangkat lunak setelah regulator AS mengatakan sistem bantuan pengemudi dapat menyebabkan crash. Pada saat itu, Musk men-tweet bahwa kata “recall” untuk pembaruan perangkat lunak adalah “salah sekali!”
Namun, Grimmelmann tidak setuju dengan gagasan jeda sementara. “Jeda adalah ide yang bagus,” katanya, “tetapi surat itu tidak jelas dan tidak menganggap serius masalah regulasi.”
Surat itu menyarankan langkah-langkah keamanan bersama dapat dikembangkan selama penangguhan yang diusulkan. Dalam surat itu juga disebutkan agar meminta pengembang untuk bekerja dengan pembuat kebijakan tentang tata kelola AI.
Surat itu mencatat bahaya yang terkait terutama dengan “kecerdasan manusia-kompetitif.”
Para penulis surat bertanya, “Haruskah kita mengembangkan pikiran nonmanusia yang pada akhirnya mungkin melebihi jumlah, mengakali dan menggantikan kita?”
Mereka juga mengatakan bahwa keputusan seperti itu tidak boleh dibuat oleh “pemimpin teknologi yang tidak terpilih”.
Yoshua Bengio, yang sering digambarkan sebagai salah satu “bapak baptis AI”, juga seorang penanda tangan surat itu. Stuart Russell, peneliti utama di lapangan, juga mencantumkan namanya di surat itu. Para pemimpin bisnis yang menandatangani surat salah satunya termasuk CEO Stability AI, Emad Mostaque.
Kekhawatiran terhadap AI muncul saat anggota parlemen AS mulai mempertanyakan efek ChatGPT terhadap keamanan dan pendidikan nasional. Kepolisian Uni Eropa baru-baru ini memperingatkan tentang kemungkinan penyalahgunaan sistem dalam upaya phishing, disinformasi, dan kejahatan.
Gary Marcus, seorang profesor di New York University yang menandatangani surat tersebut, mengatakan pengembangan AI harus melambat sampai lebih banyak hal dipelajari. “Suratnya tidak sempurna, tapi semangatnya benar: kita perlu memperlambat sampai kita lebih memahami teknologinya,” katanya.
Sejak dirilis tahun lalu, ChatGPT telah mendorong perusahaan lain seperti Google untuk membuat sistem AI serupa.
Suresh Venkatasubramanian, profesor di Brown University dan mantan asisten direktur di Kantor Kebijakan Sains dan Teknologi Gedung Putih, mengatakan bahwa banyak kekuatan untuk membuat sistem ini biasanya berada di tangan beberapa perusahaan besar.
“Begitulah model-model ini, sulit dibangun dan sulit didemokratisasi,” katanya.[AP/VOA/WAK]
Hobi menyusun kata dan susur gua
