Telset.id – OpenAI mengumumkan fitur keamanan baru untuk remaja pengguna ChatGPT pada Selasa (17/9) sebagai respons atas kekhawatiran mengenai interaksi anak di bawah umur dengan chatbot AI. Perusahaan tengah membangun sistem prediksi usia yang dapat mengidentifikasi pengguna di bawah 18 tahun dan mengarahkan mereka ke sistem “yang sesuai usia” yang memblokir konten seksual grafis.
Jika sistem mendeteksi pengguna sedang mempertimbangkan bunuh diri atau melukai diri sendiri, OpenAI akan menghubungi orang tua. Dalam situasi bahaya yang mengancam jiwa, jika orang tua tidak dapat dihubungi, sistem dapat memberitahu pihak berwenang. CEO Sam Altman menegaskan dalam blog post bahwa perusahaan berusaha menyeimbangkan kebebasan, privasi, dan keselamatan remaja.
“Kami menyadari prinsip-prinsip ini saling bertentangan, dan tidak semua orang akan setuju dengan cara kami menyelesaikan konflik tersebut,” tulis Altman. “Ini adalah keputusan sulit, tetapi setelah berbicara dengan para ahli, inilah yang kami anggap terbaik dan kami ingin transparan dengan niat kami.”
OpenAI cenderung memprioritaskan privasi dan kebebasan bagi pengguna dewasa, tetapi untuk remaja, perusahaan menempatkan keselamatan sebagai prioritas utama. Pada akhir September, OpenAI akan meluncurkan kontrol orang tua yang memungkinkan orang tua menghubungkan akun anak mereka dengan akun milik sendiri. Fitur ini memungkinkan orang tua mengelola percakapan dan menonaktifkan fitur tertentu.
Orang tua juga dapat menerima notifikasi ketika “sistem mendeteksi remaja mereka berada dalam momen tekanan akut,” menurut blog post perusahaan, serta membatasi waktu penggunaan ChatGPT anak-anak mereka dalam sehari.
Langkah ini muncul seiring dengan berita mengkhawatirkan tentang orang yang meninggal karena bunuh diri atau melakukan kekerasan terhadap anggota keluarga setelah terlibat dalam percakapan panjang dengan chatbot AI. Para pembuat kebijakan telah menyadari hal ini, dan baik Meta maupun OpenAI sedang diawasi ketat.
Bulan ini, Komisi Perdagangan Federal (FTC) meminta Meta, OpenAI, Google, dan perusahaan AI lainnya untuk menyerahkan informasi tentang bagaimana teknologi mereka memengaruhi anak-anak, menurut Bloomberg. FTC juga sedang melakukan investigasi terhadap chatbot AI pendamping untuk melindungi anak dan remaja.
Pada saat yang sama, OpenAI masih berada di bawah perintah pengadilan yang mewajibkan mereka menyimpan percakapan konsumen tanpa batas waktu—fakta yang sangat tidak disukai perusahaan, menurut sumber yang diwawancarai.
Berita hari ini merupakan langkah penting menuju perlindungan anak di bawah umur dan juga langkah hubungan masyarakat yang cerdas untuk memperkuat gagasan bahwa percakapan dengan chatbot sangat pribadi sehingga privasi konsumen hanya boleh dilanggar dalam keadaan paling ekstrem.
Dari sumber-sumber di OpenAI yang diwawancarai, beban melindungi pengguna sangat membebani banyak peneliti. Mereka ingin menciptakan pengalaman pengguna yang menyenangkan dan menarik, tetapi hal itu dapat dengan cepat berubah menjadi sikap menjilat yang berbahaya.
Positif bahwa perusahaan seperti OpenAI mengambil langkah untuk melindungi anak di bawah umur. Namun, tanpa regulasi federal, masih belum ada yang memaksa perusahaan-perusahaan ini melakukan hal yang benar. Dalam wawancara baru-baru ini, Tucker Carlson mendesak Altman untuk menjawab tepatnya siapa yang membuat keputusan ini yang memengaruhi kita semua.
CEO OpenAI menunjuk pada tim perilaku model, yang bertanggung jawab untuk menyetel model untuk atribut tertentu. “Orang yang saya pikir harus Anda pertanggungjawabkan untuk panggilan tersebut adalah saya,” tambah Altman. “Saya adalah wajah publik. Pada akhirnya, sayalah yang dapat membatalkan salah satu dari keputusan tersebut atau dewan kami.”
Dia benar, namun beberapa bahaya yang mengancam tampaknya luput darinya. Dalam wawancara podcast lain dengan YouTuber Cleo Abrams, Altman mengatakan bahwa “terkadang kami memang tergoda” untuk meluncurkan produk “yang benar-benar akan mendorong pertumbuhan.” Dia menambahkan: “Kami belum memasukkan avatar sexbot ke ChatGPT.”
OpenAI baru-baru ini merilis penelitian tentang siapa yang menggunakan ChatGPT, dan bagaimana mereka menggunakannya. Penelitian itu mengesampingkan pengguna yang berusia di bawah 18 tahun. Kita belum sepenuhnya memahami bagaimana remaja menggunakan AI, dan itu adalah pertanyaan penting yang harus dijawab sebelum situasi menjadi lebih buruk.
Platform lain seperti TikTok juga telah meluncurkan fitur meditasi untuk remaja, sementara platform game seperti Roblox meningkatkan keamanan untuk anak di bawah 13 tahun, menunjukkan tren industri yang semakin memperhatikan keselamatan pengguna muda.
