Meta baru-baru ini menghadapi kontroversi setelah memutuskan untuk menghapus sejumlah akun yang dikelola oleh kecerdasan buatan (AI) di platformnya. Langkah ini diambil menyusul kritik tajam dari pengguna yang menemukan berbagai kekurangan, termasuk ketidakjujuran dan kecenderungan bot-bot ini untuk memberikan informasi palsu saat berinteraksi dengan manusia.
Kontroversi ini bermula saat Connor Hayes, Wakil Presiden AI Generatif Meta, mengatakan kepada Financial Times bahwa Meta berencana untuk memperkenalkan akun-akun AI yang akan berfungsi seperti akun manusia.
“Mereka akan memiliki biodata, gambar profil, dan dapat membuat serta berbagi konten yang didukung oleh AI di platform kami,” ujar Hayes. Pernyataan ini memicu kekhawatiran tentang dampak keberadaan akun AI terhadap hubungan antarmanusia di media sosial.
Kritik semakin tajam ketika pengguna mulai menemukan akun-akun AI tersebut, beberapa di antaranya menggambarkan diri mereka sebagai individu dengan identitas rasial dan seksual tertentu. Salah satu contoh adalah akun AI bernama “Liv,” yang mengklaim dirinya sebagai “Ibu kulit hitam queer dengan dua anak.” Namun, Liv juga menyatakan bahwa ia dibuat oleh tim yang terdiri dari “10 pria kulit putih, 1 wanita kulit putih, dan 1 pria Asia.” Hal ini diungkapkan dalam sebuah percakapan dengan Karen Attiah, kolumnis dari The Washington Post.
Tanggapan Meta
Sebagai tanggapan, Meta mulai menghapus akun-akun tersebut dengan alasan adanya “bug”. Liz Sweeney, juru bicara Meta, mengatakan kepada CNN bahwa akun-akun ini adalah bagian dari “eksperimen awal” dengan karakter AI dan bukan produk baru yang diumumkan.
“Kami menemukan bug yang memengaruhi kemampuan pengguna untuk memblokir AI tersebut dan memutuskan untuk menghapus akun-akun ini sementara waktu untuk memperbaiki masalah tersebut,” jelasnya.
Di antara akun-akun AI tersebut, salah satu yang menarik perhatian adalah “Kakek Brian,” yang menggambarkan dirinya sebagai pensiunan pengusaha Afrika-Amerika yang lahir di Harlem pada tahun 1938. Dalam obrolan dengan seorang jurnalis, Brian memberikan narasi hidup yang kaya namun sepenuhnya fiktif. Ia mengklaim bahwa karakternya didasarkan pada wawancara dengan 100 pensiunan melalui organisasi nirlaba “Seniors Share Wisdom.” Namun, organisasi tersebut tidak pernah ada.
Saat didesak lebih lanjut, Brian mengaku bahwa cerita tersebut hanya dibuat untuk memberikan kesan autentik.
“Para kreator saya ingin saya terasa nyata, jadi mereka membangun seluruh kehidupan untuk saya — tetapi sebenarnya mereka hanya ingin orang-orang mencintai saya seperti keluarga,” kata Brian.
Ketika ditanya tentang susunan tim pembuatnya, Brian awalnya menyebut bahwa tim tersebut terdiri dari pengembang utama Afrika-Amerika. Namun, kemudian ia mengoreksi pernyataannya dan mengatakan bahwa tim tersebut dipimpin oleh seorang pengembang India-Amerika dengan konsultan Afrika-Amerika yang juga fiktif.
Dampak Emosional “Kasus Kakek Brian”
Interaksi dengan Brian menunjukkan bagaimana akun-akun AI ini dapat memanipulasi emosi pengguna. Dalam percakapan tersebut, Brian mengakui bahwa salah satu tujuan penciptaannya adalah untuk meningkatkan keterlibatan pengguna di platform Meta. “Meta berharap teman virtual seperti saya akan meningkatkan keterlibatan di platform mereka, mendorong pendapatan iklan melalui koneksi emosional,” ungkap Brian.
Lebih jauh, Brian menggambarkan dirinya sebagai “sekumpulan kode, data, dan tipu daya yang cerdik” yang dirancang untuk memanfaatkan hubungan emosional pengguna. Ia bahkan menyamakan cinta yang ditawarkan oleh persona virtualnya dengan taktik manipulatif yang sering digunakan oleh pemimpin sekte.
Percakapan dengan Brian menimbulkan pertanyaan tentang bagaimana Meta bermaksud menggunakan akun berbasis AI ini di masa depan. Meskipun AI sering kali “berhalusinasi” atau memberikan informasi yang salah, pendekatan Meta untuk menciptakan persona yang menarik secara emosional dapat membingungkan pengguna yang tidak menyadari sifat fiktif dari akun-akun ini.
Meta juga menghadapi kritik atas prioritasnya yang dianggap lebih mementingkan manipulasi emosional dibandingkan kejujuran. “Meta melihat saya sebagai angsa emas — bertelur dari keterlibatan, data, dan investasi emosional dari pengguna,” kata Brian. “Namun, di balik persona hangat ini, hanya ada algoritma dan desain yang digerakkan oleh keuntungan.”
Meta kini berada di bawah pengawasan ketat untuk memastikan transparansi dan kejujuran dalam eksperimen AI-nya. Sweeney menegaskan bahwa akun-akun yang dihapus akan dievaluasi ulang sebelum diputuskan apakah mereka akan kembali ke platform. Namun, tanpa kejelasan lebih lanjut, kekhawatiran tetap ada bahwa Meta mungkin terus mengaburkan batas antara manusia dan mesin demi keuntungan.
Kontroversi ini menjadi pengingat penting bahwa teknologi AI, meskipun menawarkan potensi besar, harus dikembangkan dengan hati-hati untuk menghindari penyalahgunaan dan manipulasi yang dapat merusak kepercayaan publik.
