Uni Eropa sedang dalam tahap akhir penyusunan undang-undang pertama dari jenisnya untuk mengatur penggunaan kecerdasan buatan yang berbahaya. Seperti yang ada saat ini, undang-undang yang diusulkan, yang disebut Undang-Undang Kecerdasan Buatan UE, mengandung titik buta yang fatal: tidak melarang penggunaan sistem Kecerdasan Buatan yang sangat merugikan dan berbahaya dalam konteks penegakan imigrasi.

Kami, sebuah koalisi organisasi hak asasi manusia, menyerukan kepada anggota parlemen Uni Eropa untuk memastikan undang-undang penting ini melindungi semua orang, termasuk pencari suaka dan lainnya yang bergerak di perbatasan Eropa, dari teknologi pengawasan yang berbahaya dan rasis. Kami meminta mereka untuk memastikan bahwa teknologi AI digunakan #ProtectNotSurveillance.

AI membuat perbatasan lebih mematikan

Perbatasan Eropa semakin mematikan dari hari ke hari. Teknologi padat data, termasuk sistem kecerdasan buatan, semakin banyak digunakan untuk membuat Fort Europa tidak dapat ditembus. Otoritas perbatasan dan kepolisian menggunakan analitik prediktif, penilaian risiko melalui database biometrik kolosal yang dapat dioperasikan, dan drone yang disempurnakan AI untuk memantau orang-orang yang sedang bergerak dan mendorong mereka menjauh dari perbatasan UE. Misalnya Badan Perbatasan Eropa Frontexdituduh terlibat dalam pelanggaran hak asasi manusia yang serius di banyak perbatasan UE, diketahui menggunakan berbagai sistem teknologi bertenaga AI untuk memfasilitasi operasi penolakan yang keras dan ilegal.

Dari pendeteksi kebohongan hingga drone dan sistem bertenaga AI lainnya, alat pengawasan perbatasan telah terbukti rute yang lebih berbahaya dan mematikanlepaskan mereka hak privasi yang mendasar dan merugikan mereka secara tidak adil klaim status keimigrasian. Teknologi ini juga diketahui mengkriminalisasi dan membuat profil rasial terhadap orang yang sedang bepergian dan memfasilitasi deportasi ilegal yang melanggar prinsip perlindungan kemanusiaan.

Undang-undang AI UE dapat melawan penggunaan teknologi yang menindas

Pada saat negara-negara anggota UE mengejar menetapkan kebijakan anti migrasi dalam penghinaan terhadap rumah tangga mereka dan kewajiban hukum internasionalmembatasi dan mengatur penggunaan kecerdasan buatan dalam pengendalian migrasi sangat penting untuk mencegah bahaya.

Ini juga merupakan kesempatan yang tidak boleh dilewatkan untuk mencegah akumulasi kekuatan yang mematikan dan tidak manusiawi di tangan pemerintah otoriter – baik di UE maupun di negara-negara di mana UE berusaha untuk perbatasannya secara eksternal.

Undang-undang AI UE dapat memberikan redline utama dan mekanisme akuntabilitas untuk membantu melindungi hak-hak dasar orang-orang yang tunduk pada sistem AI dalam konteks kontrol migrasi. Seperti yang dijelaskan di kami amandemen yang diusulkan untuk Undang-Undang AI, itu dapat mencakup larangan penggunaan algoritme rasis dan analitik prediktif untuk melabeli orang sebagai “ancaman”, serta “pendeteksi kebohongan” berbasis AI yang dipertanyakan dan alat pengenalan emosi lainnya untuk mendorong orang keluar perbatasan secara ilegal . UE telah lama bekerja untuk melindungi warganya dari pengawasan massal biometrik dan perlindungan semacam itu diharapkan menjadi bagian dari undang-undang final AI UE. Upaya-upaya ini tidak boleh mendiskriminasi berdasarkan kebangsaan dan gagasan risiko berbasis ras dan harus diperluas untuk mencakup semua orang di Eropa

Kekuasaan untuk rakyat, bukan untuk sektor swasta

Kami juga khawatir bahwa meninggalkan penggunaan AI dalam kontrol migrasi ke negara-negara anggota UE akan mengarah pada perlombaan global untuk teknologi yang lebih invasif untuk mencegah atau menghalangi migrasi – teknologi yang akan mengubah secara mendasar atau, paling buruk, akan mengakhiri hidup orang-orang nyata.

Jika undang-undang AI UE gagal mengatur dan membatasi penggunaan teknologi AI dalam penegakan migrasi, pelaku swasta akan segera mengeksploitasi celah tersebut untuk secara paksa mendorong produk baru. Mereka akan mengirim produk mereka ke perbatasan kami tanpa pemeriksaan yang tepat, sama seperti penggunaan yang termasuk dalam cakupan Undang-Undang Kecerdasan Buatan akan tunduk pada peraturan yang lebih ketat dan hambatan untuk masuk.

Ini adalah industri bernilai miliaran dolar yang menguntungkan. Frontex dihabiskan 434 juta euro ($476 juta) untuk pengawasan tingkat militer dan infrastruktur TI dari 2014 hingga 2020. Teknologi akan dikerahkan dan dilatih dengan mengorbankan hak dasar rakyat dan kemudian digunakan kembali dalam konteks lain di luar kontrol migrasi, menghindari pengawasan penting pada tahap desain.

Kami telah melihat aktor swasta – seperti mis Palantir, G4S dan yang kurang dikenal Budi Ltd. – manfaatkan keinginan pemerintah untuk melakukan lebih banyak pengawasan untuk menjual teknologi yang memfasilitasi praktik tidak manusiawi di perbatasan dan pelanggaran hak dasar orang yang sedang bepergian.

Masih ada waktu bagi UE untuk melakukan hal yang benar: pastikan penggunaan AI yang tidak dapat diterima dalam konteks migrasi dilarang dan semua celah ditutup, sehingga standar UE tentang privasi dan hak dasar lainnya berlaku sama untuk semua orang.

Penanda tangan

Lucie Audibert, pengacara, Privasi Internasional

Hope Barker, Analis Kebijakan Senior, Jaringan Pengawasan Kekerasan Perbatasan

Mher Hakobyan, Penasihat Advokasi Regulasi AI, Amnesty International

Petra Molnar, Associate Director, Lab Hukum Pengungsi, Universitas York; sesama, Sekolah Hukum Harvard

Derya Ozkul, Peneliti Senior, Universitas Oxford

Caterina Rodelli, Analis Kebijakan UE, Akses Sekarang

Alyna Smith, Platform Kerjasama Internasional untuk Migran Tanpa Dokumen

Pendapat yang diungkapkan dalam artikel ini adalah milik penulis sendiri dan tidak mencerminkan posisi editorial Al Jazeera.