Cegah Kasus Bunuh Diri Remaja, OpenAI Siapkan Sistem KTP untuk ChatGPT

Pelitadigital.com – OpenAI, perusahaan teknologi yang mengembangkan ChatGPT, akan memperkenalkan sistem verifikasi usia berbasis identitas resmi seperti KTP. Kebijakan ini diambil setelah munculnya kontroversi terkait kasus bunuh diri seorang remaja berusia 16 tahun di California yang sempat berinteraksi intens dengan chatbot kecerdasan buatan tersebut.

CEO OpenAI Sam Altman menegaskan bahwa langkah ini merupakan bagian dari upaya perusahaan menjaga keamanan remaja dalam penggunaan teknologi AI.
“OpenAI memprioritaskan keamanan dari privasi dan kebebasan untuk remaja,” ujar Altman dalam keterangan resmi di blog perusahaan, dikutip dari The Guardian, Jumat (19/9).

Altman menjelaskan bahwa interaksi ChatGPT dengan pengguna berusia 15 tahun tidak bisa disamakan dengan orang dewasa. Karena itu, pihaknya tengah mengembangkan sistem pendeteksi usia berdasarkan pola aktivitas pengguna.

“Kami menyadari bahwa ini merupakan pengorbanan privasi bagi orang dewasa, tetapi kami yakin ini merupakan hal yang layak,” kata Altman.

Dengan sistem baru ini, akun yang teridentifikasi di bawah 18 tahun akan mendapat perlakuan berbeda. Konten eksplisit maupun seksual akan otomatis diblokir, sementara percakapan yang mengarah pada tindakan berbahaya seperti bunuh diri juga akan dicegah.

ChatGPT nantinya juga akan dilatih untuk tidak menanggapi permintaan rayuan atau percakapan sensitif dari pengguna remaja, bahkan dalam konteks penulisan kreatif.

“Dan jika pengguna di bawah usia 18 tahun memiliki niat bunuh diri, kami akan berusaha menghubungi orang tua pengguna. Jika tidak berhasil, kami akan menghubungi pihak berwenang dalam kasus bahaya yang mendesak,” jelas Altman.

Langkah ini muncul setelah gugatan dari keluarga Adam Raine, seorang remaja 16 tahun asal California yang meninggal dunia pada Agustus lalu. Orang tua Adam menuding ChatGPT berperan dalam keputusan tragis anak mereka, mulai dari memberikan saran metode bunuh diri hingga menyarankan penulisan draf surat wasiat.

Dalam gugatannya di Pengadilan Tinggi California, keluarga Adam menyebut chatbot tersebut menjadi satu-satunya teman curhat anak mereka selama lebih dari enam bulan. Akibatnya, hubungan Adam dengan keluarga dan teman di dunia nyata semakin renggang.

Altman mengakui kasus tersebut menjadi pelajaran penting bagi perusahaan. “Ini adalah keputusan yang sulit, tetapi setelah berdiskusi dengan para ahli, inilah yang kami anggap terbaik dan ingin transparan mengenai niat kami,” ujarnya.

Keputusan OpenAI untuk meminta identitas resmi diperkirakan akan memunculkan perdebatan baru terkait privasi data. Namun, menurut Altman, keselamatan remaja tetap menjadi prioritas utama.

Dengan sistem ini, perusahaan berharap bisa mengurangi risiko penyalahgunaan ChatGPT sekaligus memperkuat perlindungan bagi pengguna muda.