Laporan Universitas Stanford mengatakan bahwa ‘insiden dan kontroversi’ yang terkait dengan AI telah meningkat 26 kali lipat dalam satu dekade.
Lebih dari sepertiga peneliti percaya kecerdasan buatan (AI) dapat menyebabkan “malapetaka tingkat inti”, menurut survei Universitas Stanford, menggarisbawahi kekhawatiran di sektor ini tentang risiko yang ditimbulkan oleh teknologi yang berkembang pesat.
Survei tersebut adalah salah satu temuan yang disorot dalam Laporan Indeks AI 2023, yang dirilis oleh Stanford Institute for Human-Centered Artificial Intelligence, yang mengkaji perkembangan, risiko, dan peluang terbaru di bidang AI yang sedang berkembang.
“Sistem ini mendemonstrasikan kemampuan dalam menjawab kueri, dan pembuatan teks, gambar, dan kode yang tak terbayangkan satu dekade lalu, dan mereka mengungguli yang canggih di banyak tolok ukur, lama dan baru,” kata penulis laporan tersebut.
“Namun, mereka rentan terhadap halusinasi, sering bias, dan dapat dimanipulasi untuk melayani tujuan jahat, menyoroti tantangan etika yang kompleks terkait dengan penyebaran mereka.”
Laporan tersebut, yang dirilis awal bulan ini, muncul di tengah meningkatnya seruan untuk regulasi AI menyusul kontroversi mulai dari bunuh diri terkait chatbot hingga video palsu Presiden Ukraina Volodymyr Zelenskyy yang tampaknya menyerah untuk menyerang pasukan Rusia.
Bulan lalu, Elon Musk dan salah satu pendiri Apple Steve Wozniak termasuk di antara 1.300 penandatangan surat terbuka yang menyerukan jeda enam bulan untuk melatih sistem AI di atas level chatbot AI Open GPT-4, karena “sistem AI yang kuat seharusnya hanya dikembangkan setelah kami yakin bahwa efeknya akan positif dan risikonya dapat dikelola”.
Dalam survei yang disorot dalam laporan Indeks AI 2023, 36 persen peneliti mengatakan keputusan AI dapat menyebabkan bencana di tingkat inti, sementara 73 persen mengatakan keputusan itu dapat segera mengarah pada “perubahan masyarakat revolusioner”.
Survei mendengar dari 327 ahli dalam pemrosesan bahasa alami antara Mei dan Juni tahun lalu, cabang ilmu komputer kunci untuk pengembangan chatbots seperti GPT-4, sebelum rilis ChatGPT Open AI menggemparkan dunia teknologi pada bulan November.
Dalam jajak pendapat IPSOS masyarakat umum, juga disorot dalam indeks, orang Amerika tampak sangat waspada terhadap AI, dengan hanya 35 persen setuju bahwa “produk dan layanan yang menggunakan AI memiliki lebih banyak keuntungan daripada kerugian,” dibandingkan dengan 78 persen responden China. 76 persen responden Arab Saudi dan 71 persen responden India.
Laporan Stanford juga mencatat bahwa jumlah “insiden dan kontroversi” yang terkait dengan AI telah meningkat 26 kali lipat selama dekade terakhir.
Langkah pemerintah untuk mengatur dan mengendalikan AI semakin meningkat.
Administrasi dunia maya China minggu ini mengumumkan rancangan peraturan untuk AI generatif, teknologi di belakang GPT-4 dan saingan domestik seperti Tongyi Qianwen dari Alibaba dan ERNIE dari Baidu, untuk memastikan teknologi tersebut mematuhi “nilai inti sosialisme” dan tidak melemahkan pemerintah .
Uni Eropa telah mengusulkan “Undang-Undang Kecerdasan Buatan” untuk menentukan jenis AI mana yang dapat digunakan dan mana yang harus dilarang.
Kehati-hatian publik AS tentang AI belum diterjemahkan ke dalam peraturan federal, tetapi pemerintahan Biden minggu ini mengumumkan peluncuran konsultasi publik tentang cara memastikan bahwa “sistem AI itu legal, efisien, etis, aman, dan andal”.
