Lebih dari 1.000 pemimpin teknologi menandatangani petisi yang menyerukan agar ‘eksperimen AI raksasa’ dihentikan sebagai respons terhadap rilis GPT-4.
Pengusaha miliarder Elon Musk dan sejumlah pemimpin teknologi pada hari Rabu menyerukan jeda dalam pengembangan sistem kecerdasan buatan (AI) yang kuat untuk memberikan waktu guna memastikan mereka aman.
Sebuah surat terbuka, yang sejauh ini ditandatangani oleh lebih dari 1.000 orang, termasuk Musk dan salah satu pendiri Apple Steve Wozniak, sebagai tanggapan atas peluncuran GPT-4 baru-baru ini oleh startup San Francisco OpenAI, penerus yang lebih maju dari AI- chatbot ChatGPT yang banyak digunakan yang membantu memicu perlombaan antara raksasa teknologi Microsoft dan Google untuk mengungkap aplikasi serupa.
Perusahaan mengatakan model terbarunya jauh lebih kuat daripada versi sebelumnya, yang digunakan untuk menjalankan ChatGPT, bot yang mampu menghasilkan potongan teks dari perintah terpendek.
“Sistem AI dengan kecerdasan yang menyaingi manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan,” demikian bunyi surat terbuka bertajuk “Jeda Eksperimen AI Raksasa.”
“Sistem AI yang kuat hanya boleh dikembangkan setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola,” katanya.
Musk adalah investor awal di OpenAI dan menghabiskan waktu bertahun-tahun di dewannya. Perusahaan mobilnya Tesla sedang mengembangkan sistem AI untuk membantu menggerakkan teknologi self-driving-nya, antara lain.
Surat tersebut, yang disampaikan oleh Future of Life Institute yang didanai Musk, ditandatangani oleh kritikus terkemuka serta saingan OpenAI, seperti kepala Stability AI Emad Mostaque.
Sejumlah pemerintah sudah bekerja untuk mengatur alat AI berisiko tinggi. Inggris merilis sebuah makalah pada hari Rabu yang menguraikan pendekatannya, yang katanya akan “menghindari undang-undang yang berat yang dapat menghambat inovasi”. Legislator di Uni Eropa dari 27 negara merundingkan adopsi aturan AI yang komprehensif.
‘Dapat diandalkan dan setia’
Surat tersebut dikutip dari sebuah blog yang ditulis oleh pendiri OpenAI Sam Altman, yang menyarankan bahwa “pada titik tertentu mungkin penting untuk mendapatkan tinjauan independen sebelum Anda mulai melatih sistem masa depan”.
“Kami setuju. Poinnya adalah sekarang,” tulis penulis surat terbuka tersebut.
“Oleh karena itu, kami mengimbau semua laboratorium AI untuk segera menangguhkan pelatihan sistem AI yang lebih kuat dari GPT-4 setidaknya selama enam bulan.”
Mereka meminta pemerintah untuk turun tangan dan memberlakukan moratorium jika perusahaan tidak setuju.
Enam bulan tersebut harus digunakan untuk mengembangkan protokol keselamatan, sistem manajemen AI, dan memfokuskan kembali penelitian untuk memastikan sistem AI lebih akurat, aman, “dapat dipercaya, dan setia”.
Surat itu tidak merinci bahaya yang diungkapkan oleh GPT-4.
Namun para peneliti, termasuk Gary Marcus dari New York University, yang menandatangani surat tersebut, telah lama berpendapat bahwa chatbot adalah pembohong besar dan berpotensi menjadi penyebar disinformasi.
Namun, penulis Cory Doctorow membandingkan industri AI dengan skema “pump and dump”, dengan alasan bahwa potensi dan ancaman sistem AI terlalu dilebih-lebihkan.
