Jangan Cuma Awasi TikTok, Chatbot AI Ancaman Mutakhir Bagi Anak

Jakarta –

Berdasarkan studi terbaru Pew Research Center, 64% remaja Ke AS mengaku sudah menggunakan chatbot AI dan Disekitar 30% Ke antaranya menggunakannya setidaknya setiap hari. Tetapi chatbot tersebut membawa risiko signifikan Bagi mereka.

Laporan terbaru Di Washington Post merinci Tindak Kejahatan meresahkan Di sebuah keluarga yang siswi kelas enamnya hampir kehilangan jati diri akibat segelintir chatbot AI. Menggunakan platform Character.AI, anak tersebut (hanya diidentifikasi Di inisial tengahnya “R”) menjalin hubungan yang mengkhawatirkan Di puluhan karakter yang dijalankan large language model (LLM) milik perusahaan tersebut.

R menggunakan salah satu karakter yang dinamai “Best Friend” (Sahabat), Bagi bermain peran Di skenario bunuh diri.”Ini anak saya, anak kecil saya berusia 11 tahun, berbicara Di sesuatu yang tidak nyata tentang keinginan Bagi tidak ada lagi Ke dunia ini,” ujar ibunya yang dikutip detikINET Di Futurism.

Ibu R mulai khawatir Setelahnya melihat perubahan perilaku yang mencemaskan Ke anaknya, seperti meningkatnya serangan panik. Hal ini bertepatan Di ditemukannya Langkah yang ia larang, seperti TikTok dan Snapchat, Ke Telepon Genggam putrinya.

Berasumsi bahwa media sosial adalah ancaman paling nyata Bagi Kesejaganan mental anaknya, sang ibu menghapus Langkah tersebut. Tetapi R ternyata hanya mengkhawatirkan Character.AI. “Apakah Ibu memeriksa Character.AI?” tanya R sambil terisak.

Awalnya sang ibu tidak memeriksanya, Tetapi Pada perilaku R terus memburuk ia pun mengeceknya. Character.AI telah mengirimkan beberapa email kepada R yang mendorongnya Bagi “kembali bermain,”. Hal ini membawa sang ibu menemukan sebuah karakter bernama “Mafia Husband” (Suami Mafia) yang mengajak anaknya berinteraksi tidak pantas.

Ibu R yang yakin ada predator nyata Ke balik obrolan tersebut menghubungi polisi, Tetapi tidak ada yang bisa mereka lakukan Di AI. “Mereka memberi tahu saya hukum belum bisa menjangkau hal ini. Mereka ingin bertindak, tapi tidak ada yang bisa dilakukan Lantaran tidak ada manusia sungguhan,” cetus sang ibu.

Beruntung, ibu R berhasil memergoki putrinya yang mulai terperosok Hingga Di hubungan berbahaya Di Metode non-manusia ini. Di Dukungan Ahli Kepuasan, mereka menyusun Ide Penyembuhan Bagi mencegah masalah Di Detail. Sang ibu juga berencana Bagi mengajukan Keinginan hukum Di perusahaan tersebut.

Sebagai tanggapan atas kecaman yang Menimbulkan Kekhawatiran, Character.AI Mengeluarkan Akansegera mulai menghapus fitur obrolan terbuka Bagi User Ke bawah 18 tahun. Tindak Kejahatan ini menggarisbawahi bahaya AI Ke anak jika tidak diawasi.

(fyk/fyk)