PBB desak moratorium penggunaan AI yang membahayakan hak asasi manusia

PBB desak moratorium penggunaan AI yang membahayakan hak asasi manusia


JENEWA: Kepala hak asasi manusia PBB menyerukan moratorium penggunaan teknologi kecerdasan buatan yang menimbulkan risiko serius terhadap hak asasi manusia, termasuk sistem pemindaian wajah yang melacak orang di ruang publik.
Michelle Bachelet, Komisaris Tinggi PBB untuk Hak Asasi Manusia, juga mengatakan pada hari Rabu bahwa negara-negara harus secara tegas melarang aplikasi AI yang tidak sesuai dengan hukum hak asasi manusia internasional.
Aplikasi yang harus dilarang termasuk sistem “penilaian sosial” pemerintah yang menilai orang berdasarkan perilaku mereka dan alat berbasis AI tertentu yang mengkategorikan orang ke dalam kelompok seperti etnis atau gender.
Teknologi berbasis AI dapat menjadi kekuatan untuk kebaikan tetapi mereka juga dapat “memiliki efek negatif, bahkan bencana, jika digunakan tanpa cukup memperhatikan bagaimana mereka mempengaruhi hak asasi manusia,” kata Bachelet dalam sebuah pernyataan.
Komentarnya muncul bersamaan dengan laporan PBB baru yang meneliti bagaimana negara dan bisnis bergegas menerapkan sistem AI yang memengaruhi kehidupan dan mata pencaharian masyarakat tanpa menyiapkan perlindungan yang tepat untuk mencegah diskriminasi dan bahaya lainnya.
“Ini bukan tentang tidak memiliki AI,” Peggy Hicks, direktur keterlibatan tematik kantor hak, mengatakan kepada wartawan saat dia mempresentasikan laporannya di Jenewa. “Ini tentang mengakui bahwa jika AI akan digunakan dalam bidang fungsi hak asasi manusia ini – sangat kritis –, itu harus dilakukan dengan cara yang benar. Dan kami belum menempatkan kerangka kerja yang memastikan hal itu terjadi.”
Bachelet tidak menyerukan larangan langsung teknologi pengenalan wajah, tetapi mengatakan pemerintah harus menghentikan pemindaian fitur orang secara real time sampai mereka dapat menunjukkan bahwa teknologi itu akurat, tidak akan mendiskriminasi dan memenuhi standar privasi dan perlindungan data tertentu.
Sementara negara-negara tidak disebutkan namanya dalam laporan itu, China termasuk di antara negara-negara yang telah meluncurkan teknologi pengenalan wajah – terutama untuk pengawasan di wilayah barat Xinjiang, tempat banyak minoritas Uighur tinggal. Penulis utama laporan tersebut mengatakan bahwa menyebut negara tertentu bukanlah bagian dari mandat mereka dan melakukan hal itu bahkan bisa menjadi kontraproduktif.
“Dalam konteks China, seperti dalam konteks lain, kami prihatin dengan transparansi dan aplikasi diskriminatif yang ditujukan pada komunitas tertentu,” kata Hicks.
Dia mengutip beberapa kasus pengadilan di Amerika Serikat dan Australia di mana kecerdasan buatan telah diterapkan secara salah.
Laporan tersebut juga menyuarakan kewaspadaan tentang alat yang mencoba menyimpulkan keadaan emosional dan mental orang dengan menganalisis ekspresi wajah atau gerakan tubuh mereka, dengan mengatakan bahwa teknologi tersebut rentan terhadap bias, salah tafsir, dan tidak memiliki dasar ilmiah.
“Penggunaan sistem pengenalan emosi oleh otoritas publik, misalnya untuk memilih individu untuk dihentikan atau ditangkap polisi atau untuk menilai kebenaran pernyataan selama interogasi, berisiko merusak hak asasi manusia, seperti hak atas privasi, kebebasan dan keadilan yang adil. persidangan,” kata laporan itu.
Rekomendasi laporan tersebut menggemakan pemikiran banyak pemimpin politik di negara demokrasi Barat, yang berharap untuk memanfaatkan potensi ekonomi dan sosial AI sambil mengatasi kekhawatiran yang berkembang tentang keandalan alat yang dapat melacak dan membuat profil individu dan membuat rekomendasi tentang siapa yang mendapatkan akses ke pekerjaan, pinjaman dan kesempatan pendidikan.
Regulator Eropa telah mengambil langkah untuk mengendalikan aplikasi AI yang paling berisiko. Peraturan yang diusulkan yang digariskan oleh pejabat Uni Eropa tahun ini akan melarang beberapa penggunaan AI, seperti pemindaian fitur wajah secara real-time, dan secara ketat mengontrol orang lain yang dapat mengancam keselamatan atau hak orang.
Pemerintahan Presiden AS Joe Biden telah menyuarakan keprihatinan serupa, meskipun belum menguraikan pendekatan rinci untuk membatasi mereka. Sebuah kelompok yang baru dibentuk bernama Dewan Perdagangan dan Teknologi, yang dipimpin bersama oleh pejabat Amerika dan Eropa, telah berusaha untuk berkolaborasi dalam mengembangkan aturan bersama untuk AI dan kebijakan teknologi lainnya.
Upaya untuk membatasi penggunaan AI yang paling berisiko telah didukung oleh Microsoft dan raksasa teknologi AS lainnya yang berharap dapat memandu aturan yang memengaruhi teknologi. Microsoft telah bekerja sama dan memberikan dana kepada kantor hak asasi PBB untuk membantu meningkatkan penggunaan teknologinya, tetapi dana untuk laporan tersebut berasal dari anggaran rutin kantor hak, kata Hicks.
Negara-negara Barat telah berada di garis depan dalam mengungkapkan keprihatinan tentang penggunaan AI yang diskriminatif.
“Jika Anda berpikir tentang cara AI dapat digunakan dengan cara yang diskriminatif, atau untuk lebih memperkuat kecenderungan diskriminatif, itu cukup menakutkan,” kata Menteri Perdagangan AS Gina Raimondo selama konferensi virtual pada bulan Juni. “Kami harus memastikan kami tidak membiarkan itu terjadi.”
Dia berbicara dengan Margrethe Vestager, wakil presiden eksekutif Komisi Eropa untuk era digital, yang menyarankan beberapa penggunaan AI harus benar-benar terlarang di “demokrasi seperti kita.” Dia mengutip penilaian sosial, yang dapat menutup hak seseorang dalam masyarakat, dan “penggunaan luas, selimut identifikasi biometrik jarak jauh di ruang publik.”


Pengeluaran HK