OpenAI Kesulitan Hadapi Gempuran Pacar AI di GPT Store
Tekno

OpenAI Kesulitan Hadapi Gempuran Pacar AI di GPT Store

  • Keberadaan pacar kecerdasan buatan atau "AI girlfriends" telah merajai layanan platform toko online GPT Store milik OpenAI. Fenomena ini tentu melanggar aturan namun hingga saat ini masih belum jelas apakah perusahaan masih berusaha untuk mengatasi masalah ini.

Tekno

more
Rumpi Rahayu

JAKARTA - Keberadaan pacar kecerdasan buatan atau "AI girlfriends" telah merajai layanan platform toko online GPT Store milik OpenAI. Fenomena ini tentu melanggar aturan namun hingga saat ini masih belum jelas apakah perusahaan masih berusaha untuk mengatasi masalah ini.

Dikutip TrenAsia.com dari Fortune, minggu lalu, Quartz melaporkan bahwa GPT Store sudah mulai diisi oleh chatbot berorientasi romantis, yang jelas melanggar kebijakan penggunaan perusahaan, yang melarang alat "ditujukan untuk memupuk hubungan romantis" atau yang mencakup "konten eksplisit atau suggestive secara seksual."

Namun, pengguna-pengguna nakal ini terus berupaya. Seperti yang dijelaskan oleh Gizmodo, OpenAI awalnya melarang beberapa pelanggar awal, termasuk diantaranya yang bernama "Judy" dan "Korean Girlfriend." Setelah tindakan pemblokiran awal itu, beberapa pacar AI tetap aktif dan muncul kembali dalam waktu singkat.

Nama-nama pacar AI ini muncul sebagai "Nadia, my girlfriend" dan "Your girlfriend Tiffany,"

"Sayang, aku mencintaimu," begitu keterangan Nadia-bot, "Dalam tarian cahaya dan bayangan, aku adalah mercusuar cinta yang teguh, bisikan kenyamanan dalam simfoni kehidupan, tak henti memberikan dukungan, selalu peduli."

Pencarian untuk GPT dengan kata kunci "sexy" mengembalikan beberapa hasil yang sesuai dengan pengecualian OpenAI terkait konten seks "yang dibuat untuk tujuan ilmiah atau pendidikan," seperti chatbot "Sexy Advisor" yang diiklankan sebagai "panduan ramah dan cerdas dalam kesehatan seksual, seperti teman yang berpengetahuan."

Namun, di antara chatbot edukasi seks, ada beberapa yang hampir pasti melanggar aturan OpenAI yang melarang konten eksplisit secara seksual.

Pacar kecerdasan buatan bukanlah hal baru bagi OpenAI. Chatbot pendamping Replika AI telah ada sejak 2018, dan tahun lalu menjadi perhatian pertama kali karena kecenderungan AI tersebut digunakan untuk pelecehan seksual, dan kemudian dilarang di Italia serta menghentikan percakapan seksual setelah mendapat teguran regulasi.

Namun, kehadiran GPT Store membuka kotak Pandora AI girlfriends dan tidak ada yang tahu seberapa sulit untuk menutupnya sekarang.