10 hours ago
2
Anak perempuan menggunakan chatbot AI (ilustrasi). Meta Platforms akan memberi peringatan kepada orang tua jika anak mereka membahas tentang bunuh diri atau cara melukai diri sendiri dengan chatbot Meta Al.
REPUBLIKA.CO.ID, JAKARTA -- Meta Platforms akan memberi peringatan kepada orang tua jika anak mereka membahas tentang bunuh diri atau cara melukai diri sendiri dengan chatbot Meta Al. Hal ini diumumkan oleh perusahaan pada Kamis (16/7/2026), sebagai bagian dari upaya memperkuat perlindungan pengguna remaja saat berinteraksi dengan chatbot berbasis kecerdasan buatan.
Kebijakan ini muncul di tengah meningkatnya perhatian regulator serta orang tua terkait respons chatbot Al terhadap pengguna yang mengalami krisis mental, terutama kalangan remaja. Persoalan mengenai tanggung jawab perusahaan Al dalam situasi tersebut kini menjadi salah satu faktor yang memengaruhi pengembangan dan pemasaran produk Al.
Meta mengatakan telah membangun sistem Al khusus untuk mendeteksi percakapan ketika seorang remaja secara jelas menyebutkan tindakan menyakiti diri sendiri. Namun, sebelum pemberitahuan dikirimkan kepada orang tua, seluruh percakapan yang ditandai oleh sistem tersebut akan diperiksa secara manual oleh Meta.
"Kami memahami betapa menyedihkannya peringatan ini bagi orang tua. Itulah mengapa, seiring kami terus meningkatkan sistem deteksi kami, semua obrolan yang ditandai oleh Al kami akan ditinjau secara manual sebelum peringatan dikirim," kata Meta dilansir laman TechCrunch, Jumat (17/7/2026).
Apabila niat atau kondisi remaja dalam percakapan masih ambigu, perusahaan akan memilih pendekatan yang lebih berhati-hati dengan tetap memberi tahu orang tua. "Kami merasa ini adalah langkah awal yang tepat. Kami akan terus memantau untuk memastikan bahwa pendekatan kami berada pada tingkat yang sesuai," kata Meta.
Peringatan tersebut kini tersedia bagi orang tua yang menggunakan fitur Instagram Parental Supervision di Amerika Serikat, Inggris Raya, Australia, dan Kanada. Meta mengatakan fitur tersebut akan diluncurkan secara global termasuk Indonesia pada akhir tahun ini.
Pembaruan ini melanjutkan sejumlah fitur keselamatan yang telah diterapkan Meta. Sebelumnya, perusahaan sudah mengirimkan peringatan kepada orang tua ketika akun remaja mereka berulang kali mencari istilah yang berkaitan dengan bunuh diri atau menyakiti diri sendiri di Instagram.
