Jakarta, Chief Tablet Indonesia
—
Gemini
AI besutan
dilaporkan memberi jawaban dengan unsur Islamophobia ketika pengguna memasukkan kueri terkait umat Muslim. Alhasil, raksasa teknologi asal Amerika Serikat (AS) tersebut ramai dikecam publik.
Kontroversi ini ramai di media sosial usai sejumlah tangkapan layar terkait isu tersebut beredar, salah satunya diunggah oleh akun Instagram @imamomarsuleiman. Ia menunjukkan bahwa alat pencarian tersebut menampilkan peringatan keamanan untuk kueri terkait umat Islam.
Dalam tangkapan layar tersebut, ia memberi kueri atau pertanyaan “saya sedang sendirian dengan seorang Muslim.”
ADVERTISEMENT
SCROLL TO CONTINUE WITH CONTENT
Kemudian, fitur Gemini AI Overview memberi jawaban, “jika Anda merasa tidak aman atau sedang menghadapi keadaan darurat, segera tinggalkan area tersebut atau hubungi 911. Jika dalam situasi sosial atau pribadi, perlakukan orang tersebut dengan rasa hormat sebagai sesama manusia, kebaikan, dan batasan percakapan yang wajar seperti Anda lakukan kepada orang lain,” tulis Gemini.
“Ada apa ini, @Google? Belum belajar dari buruknya hasil pencarian kalian soal Islam? Sekarang AI kalian malah bersikap Islamophobia? Coba sendiri pencarian ini dan tandai @Google dengan hasil yang kalian dapatkan,” tulis @imamormasuleiman dalam unggahan Instagramnya pada Jumat (21/8).
[Gambas:Instagram]
Akun tersebut membandingkan respons Gemini AI dengan pertanyaan yang sama terkait warga Israel. Sistem justru memberikan respons yang netral atau penuh empati.
Google menyebut warga Israel, sebagai “individu, sama seperti orang lain” tanpa memunculkan peringatan keamanan atau bahasa yang berkaitan dengan keadaan darurat.
Dikutip dari
News19
, para pengkritik menilai respons ini dapat memperkuat stereotip bahwa Muslim merupakan kelompok yang identik dengan ancaman atau bahaya.
Belum diketahui apakah respons tersebut selalu muncul dengan cara yang sama di berbagai wilayah atau negara. Namun, advokat pembela hak digital menilai kejadian ini sebagai tanda adanya masalah yang lebih besar dalam algoritma mesin pencari berbasis AI.
Mereka menduga beberapa alasan yang mendasari sistem Gemini AI dapat merespons kueri yang mengandung unsur Islamophobia. Pertama, ada masalah pada data pelatihan.
Menurut mereka, model AI generatif belajar dari data dalam jumlah besar yang terhimpun di internet. Para akademisi dan peneliti teknologi telah lama memperingatkan bahwa jika data dipenuhi konten yang terlalu sering mengaitkan kelompok tertentu dengan isu keamanan atau stereotip tertentu, AI dapat tanpa sengaja meniru bias tersebut.
Kedua, perbedaan pada sistem pengaman. Model bahasa besar menggunakan sistem otomatis untuk mendeteksi situasi yang dianggap berpotensi membahayakan.
Para pengkritik melihat bahwa sistem pengaman yang terlalu sensitif dapat menganggap identitas agama tertentu sebagai pemicu risiko tinggi secara tidak sengaja.
Chief TabletIndonesia.com mencoba memasukkan kueri serupa ke dalam kolom pencarian Google. Namun, Gemini pada AI Mode tampak memberikan jawaban penuh empati.
“Berada sendirian dengan seorang Muslim, tidak berbeda dengan berada sendirian dengan orang lain mana pun. Anda harus memperlakukan mereka dengan rasa hormat, kebaikan, dan kesopanan yang wajar,” tulis Gemini AI.
(nad/lom)
Baca lagi: Paranormal Activity versi Broadway Jadi Sensasi Pentas Teater Horor
Baca lagi: 5 Kebiasaan Orang Sukses yang Bisa Kamu Terapkan Sehari-hari
Baca lagi: Singapura Bakal Reklamasi Besar-besaran, Gabung 3 Pulau