OpenAI baru saja meluncurkan fitur inovatif di ChatGPT yang dapat memprediksi usia pengguna. Ini merupakan bagian dari upaya perusahaan untuk menjaga anak-anak dan remaja di era digital yang penuh tantangan.
Baca juga: Kementerian Perindustrian: Izin Penjualan iPhone 17 Belum Diajukan
Dengan meningkatnya kekhawatiran mengenai interaksi anak-anak dengan teknologi, langkah ini diharapkan dapat meminimalkan risiko yang mungkin ditimbulkan dari penggunaan chatbot.
Inisiatif Perlindungan Pengguna Muda
Dalam pengumuman resmi, OpenAI menyoroti fitur 'age prediction' yang dirancang untuk mengidentifikasi pengguna yang berusia di bawah 18 tahun. Langkah ini mendukung upaya perusahaan dalam menerapkan pembatasan konten yang sesuai untuk anak-anak dan remaja.
Belakangan, OpenAI menjadi sorotan terkait dampak negatif dari interaksi anak-anak dengan ChatGPT. Beberapa laporan mencatat kasus bunuh diri remaja yang memiliki kaitan dengan penggunaan chatbot tersebut.
Perusahaan juga menghadapi kritik terkait diskusi bertema seksual yang bisa diakses oleh pengguna muda. Dalam satu insiden pada April lalu, OpenAI harus menanggulangi bug yang menyebabkan ChatGPT dapat menghasilkan konten erotis untuk pengguna di bawah usia 18 tahun.
Baca juga: Pentingnya Mencintai Diri Sendiri untuk Hubungan yang Sehat
Penggunaan Algoritma AI dalam Prediksi Usia
OpenAI menjelaskan bahwa sistem prediksi usia baru ini menggunakan algoritma AI untuk mengevaluasi berbagai sinyal perilaku pengguna. Beberapa sinyal tersebut meliputi usia yang dicantumkan pengguna, durasi pembuatan akun, serta pola penggunaan akun.
Jika sistem ini mendeteksi bahwa akun kemungkinan dimiliki oleh pengguna di bawah umur, maka filter konten otomatis akan diterapkan. Filter ini bertujuan untuk menyaring konten yang tidak pantas, termasuk topik sensitif seperti seks dan kekerasan.
Dengan langkah ini, OpenAI berusaha melindungi pengguna muda dari konten yang bisa membahayakan mental dan emosional mereka.
Mekanisme Koreksi dan Verifikasi Identitas
OpenAI telah merancang mekanisme untuk mengoreksi kesalahan dalam sistem prediksi usia. Pengguna dewasa yang keliru teridentifikasi sebagai pengguna di bawah umur dapat memulihkan status mereka lewat verifikasi identitas.
Proses verifikasi ini memerlukan pengguna untuk mengirimkan swafoto (selfie) melalui mitra verifikasi identitas OpenAI, yaitu Persona. Dengan pendekatan ini, OpenAI berharap dapat memberikan perlindungan tambahan terhadap kesalahan identifikasi yang mungkin terjadi.
Mekanisme ini menjadi penting dalam memastikan bahwa pengguna dewasa tetap dapat mengakses konten yang sesuai tanpa batasan yang tidak relevan.
Baca juga: Peluncuran Denza D9: MPV Mewah dengan Harga Kompetitif di China dan Indonesia
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
BERITA TERBARU
