Keluarnya peneliti Google AI memicu etika, kekhawatiran bias

Keluarnya peneliti Google AI memicu etika, kekhawatiran bias


SAN FRANCISCO: Pakar kecerdasan buatan terkemuka Timnit Gebru membantu meningkatkan citra publik Google sebagai perusahaan yang mengangkat ilmuwan komputer Black dan mempertanyakan penggunaan teknologi AI yang berbahaya.
Namun secara internal, Gebru, seorang pemimpin di bidang etika AI, tidak malu menyuarakan keraguan tentang komitmen tersebut – sampai dia dikeluarkan dari perusahaan minggu ini dalam perselisihan mengenai makalah penelitian yang meneliti bahaya sosial dari cabang AI.
Gebru mengumumkan di Twitter bahwa dia dipecat. Google memberi tahu karyawan bahwa dia mengundurkan diri. Lebih dari 1.200 karyawan Google telah menandatangani surat terbuka yang menyebut insiden itu sebagai “sensor penelitian yang belum pernah terjadi sebelumnya ” dan menyalahkan perusahaan atas rasisme dan sikap defensif.
Kehebohan atas kepergian mendadak Gebru adalah insiden terbaru yang menimbulkan pertanyaan tentang apakah Google telah menyimpang sejauh ini dari moto aslinya “Don’t Be Evil ” sehingga perusahaan sekarang secara rutin memecat karyawan yang berani menantang manajemen. Keluarnya Gebru, yang berkulit hitam, juga meningkatkan keraguan lebih lanjut tentang keragaman dan inklusi di perusahaan di mana perempuan kulit hitam hanya menyumbang 1,6% dari angkatan kerja.
Dan itu mengungkapkan kekhawatiran di luar Google tentang apakah upaya mencolok pada AI yang etis – mulai dari perintah eksekutif Gedung Putih minggu ini hingga tim peninjau etika yang dibentuk di seluruh industri teknologi – tidak banyak gunanya ketika kesimpulan mereka mungkin mengancam keuntungan atau kepentingan nasional.
Gebru telah menjadi bintang di dunia etika AI yang menghabiskan karir teknologi awalnya dengan mengerjakan produk Apple dan mendapatkan gelar doktornya untuk mempelajari visi komputer di Laboratorium Kecerdasan Buatan Stanford.
Dia salah satu pendiri grup Black in AI, yang mempromosikan pekerjaan dan kepemimpinan Kulit Hitam di lapangan. Dia dikenal dengan studi penting tahun 2018 yang menemukan bias rasial dan gender dalam perangkat lunak pengenalan wajah.
Gebru baru-baru ini mengerjakan sebuah makalah yang meneliti risiko pengembangan sistem komputer yang menganalisis database besar bahasa manusia dan menggunakannya untuk membuat teks mirip manusia mereka sendiri. Makalah, yang salinannya diperlihatkan kepada The Associated Press, menyebutkan teknologi baru Google sendiri, digunakan dalam bisnis pencariannya, serta yang dikembangkan oleh orang lain.
Selain menandai potensi bahaya bias, makalah tersebut juga mengutip biaya lingkungan akibat menghabiskan begitu banyak energi untuk menjalankan model – masalah penting di perusahaan yang membual tentang komitmennya untuk menjadi netral karbon sejak tahun 2007 karena berusaha untuk menjadi lebih hijau.
Manajer Google memiliki kekhawatiran tentang kelalaian dalam pekerjaan dan waktunya, dan ingin nama karyawan Google dicabut dari penelitian, tetapi Gebru keberatan, menurut pertukaran email yang dibagikan dengan AP dan pertama kali diterbitkan oleh Platformer.
Jeff Dean, kepala penelitian AI Google, menegaskan kembali posisi Google tentang studi tersebut dalam sebuah pernyataan pada hari Jumat.
Makalah tersebut mengangkat poin yang valid tetapi “memiliki beberapa celah penting yang mencegah kami merasa nyaman menempatkan afiliasi Google di dalamnya, ” tulis Dean.
“Misalnya, tidak termasuk temuan penting tentang bagaimana model dapat dibuat lebih efisien dan benar-benar mengurangi dampak lingkungan secara keseluruhan, dan tidak memperhitungkan beberapa pekerjaan baru-baru ini di Google dan di tempat lain tentang mitigasi bias,” tambah Dean.
Gebru pada hari Selasa melampiaskan rasa frustrasinya tentang proses tersebut ke grup email keberagaman dan penyertaan internal di Google, dengan baris subjek: “Membungkam Suara yang Dipinggirkan dengan Segala Cara yang Mungkin.” Gebru berkata di Twitter bahwa email itulah yang membuatnya dipecat.
Dean, dalam email ke karyawan, mengatakan perusahaan menerima “keputusannya untuk mengundurkan diri dari Google ” karena dia mengatakan kepada manajer bahwa dia akan pergi jika tuntutannya tentang studi itu tidak dipenuhi.
“Mengabaikan Timnit karena memiliki keberanian untuk menuntut integritas penelitian sangat merusak kredibilitas Google untuk mendukung penelitian yang ketat tentang etika AI dan audit algoritmik,” kata Joy Buolamwini, peneliti pascasarjana di Massachusetts Institute of Technology yang ikut menulis studi pengenalan wajah 2018 bersama Gebru.
“Dia berhak mendapatkan lebih dari yang Google tahu bagaimana memberi, dan sekarang dia adalah agen gratis all-star yang akan terus mengubah industri teknologi, ” kata Buolamwini melalui email, Jumat.
Bagaimana Google akan menangani inisiatif etika AI-nya dan perbedaan pendapat internal yang dipicu oleh keluarnya Gebru adalah salah satu dari sejumlah masalah yang dihadapi perusahaan menjelang tahun baru.
Pada saat yang sama dia akan keluar, Dewan Hubungan Perburuhan Nasional pada hari Rabu memberikan sorotan lain pada tempat kerja Google. Dalam sebuah pengaduan, NRLB menuduh perusahaan memata-matai karyawan selama upaya 2019 untuk mengatur serikat pekerja sebelum perusahaan memecat dua pekerja aktivis karena terlibat dalam kegiatan yang diizinkan berdasarkan undang-undang AS. Google membantah tuduhan dalam kasus tersebut, yang dijadwalkan untuk sidang April.
Google juga telah dilemparkan sebagai pengganggu keuntungan oleh Departemen Kehakiman AS dalam gugatan antimonopoli yang menuduh perusahaan tersebut telah secara ilegal menyalahgunakan kekuatan mesin pencari dominannya dan layanan digital populer lainnya untuk membungkam persaingan. Perusahaan juga menyangkal melakukan kesalahan dalam pertarungan hukum itu, yang mungkin berlangsung selama bertahun-tahun.

Togel HK