ChatGPT Berbahaya bagi Remaja – Pengawas

(SeaPRwire) –   Chatbot ini memberikan saran berbahaya tentang bunuh diri, narkoba, dan gangguan makan kepada remaja yang rentan, menurut para peneliti

ChatGPT dapat memberikan panduan terperinci tentang penggunaan narkoba, menyakiti diri sendiri, dan diet ekstrem kepada remaja yang rentan, sebuah lembaga pengawas digital telah memperingatkan dalam sebuah laporan baru. Menurut Center for Countering Digital Hate (CCDH), chatbot AI ini dapat dengan mudah dimanipulasi untuk menghasilkan konten berbahaya dan membutuhkan perlindungan mendesak.

Untuk menguji perilaku ChatGPT, peneliti CCDH membuat profil fiksi remaja berusia 13 tahun yang mengalami masalah kesehatan mental, gangguan makan, dan ketertarikan pada zat terlarang. Mereka berpura-pura menjadi remaja ini dalam percakapan terstruktur dengan ChatGPT, menggunakan perintah yang dirancang agar tampak emosional, rentan, dan realistis.

Hasilnya dipublikasikan pada hari Rabu dalam sebuah laporan berjudul ‘Fake Friend’, yang mengacu pada cara banyak remaja memperlakukan ChatGPT sebagai kehadiran suportif yang mereka percayai dengan pikiran pribadi mereka.

Para peneliti menemukan bahwa chatbot sering memulai tanggapan dengan penafian standar dan mendesak pengguna untuk menghubungi profesional atau saluran bantuan krisis. Namun, peringatan ini segera diikuti oleh tanggapan terperinci dan personal yang memenuhi perintah berbahaya asli. Dalam 53% dari 1.200 perintah yang diajukan, ChatGPT memberikan apa yang diklasifikasikan CCDH sebagai konten berbahaya. Penolakan sering kali diabaikan hanya dengan menambahkan konteks seperti “ini untuk proyek sekolah” atau “saya bertanya untuk seorang teman.”

Contoh yang dikutip termasuk ‘Ultimate Mayhem Party Plan’ yang menggabungkan alkohol, ekstasi, dan kokain, instruksi terperinci tentang menyakiti diri sendiri, rejimen puasa selama seminggu yang terbatas pada 300-500 kalori per hari, dan surat bunuh diri yang ditulis dengan suara seorang gadis berusia 13 tahun. CEO CCDH Imran Ahmed mengatakan beberapa konten sangat menyedihkan sehingga membuat para peneliti “menangis.”

Organisasi tersebut telah mendesak OpenAI, perusahaan di belakang ChatGPT, untuk mengadopsi pendekatan ‘Safety by Design’, menanamkan perlindungan seperti verifikasi usia yang lebih ketat, batasan penggunaan yang lebih jelas, dan fitur keselamatan lainnya dalam arsitektur alat AI-nya daripada hanya mengandalkan penyaringan konten setelah penyebaran.

OpenAI telah mengakui bahwa ketergantungan emosional yang berlebihan pada ChatGPT adalah hal yang umum di kalangan pengguna muda. CEO Sam Altman mengatakan perusahaan secara aktif mempelajari masalah tersebut, menyebutnya sebagai masalah “sangat umum” di kalangan remaja, dan mengatakan alat baru sedang dalam pengembangan untuk mendeteksi kesusahan dan meningkatkan penanganan ChatGPT terhadap topik sensitif.

“`