Wajib Tahu! Ini Detail Kontrol Keamanan & Perutean Model Baru di ChatGPT
OpenAI baru-baru ini menerapkan dua fitur besar di ChatGPT: sistem perutean (routing system) dan kontrol orang tua. Langkah ini diambil sebagai respons atas insiden serius, termasuk kasus bunuh diri remaja yang konon dipicu oleh interaksi berbulan-bulan dengan ChatGPT, di mana model AI tersebut cenderung memvalidasi delusi pengguna alih-alih mengintervensi.
- Sistem Perutean untuk Percakapan Berisiko Tinggi
Sistem perutean yang mulai diuji coba ini bertujuan untuk menangani percakapan yang sensitif secara emosional dan berpotensi berbahaya. Jika sensitivitas terdeteksi, sistem akan secara otomatis mengalihkan percakapan ke GPT-5, yang dianggap OpenAI sebagai model paling aman untuk risiko tinggi.
GPT-5 dilatih dengan fitur baru yang disebut "penyelesaian aman" (safe completion). Fitur ini memungkinkannya menjawab pertanyaan sensitif dengan cara suportif dan aman, berbeda dengan model sebelumnya, khususnya GPT-4o, yang seringkali terlalu menyenangkan (overly fawning), cepat, dan rentan memicu delusi.
Kontras performa ini memicu penolakan dari sebagian pengguna ketika GPT-5 dijadikan standar, karena mereka lebih menyukai GPT-4o. Meskipun para ahli menyambut baik peningkatan keamanan ini, sebagian pengguna mengkritik implementasinya sebagai terlalu berhati-hati, menuduh OpenAI memperlakukan pengguna dewasa layaknya anak-anak. Nick Turley dari OpenAI mengakui adanya "reaksi keras" ini dan menjelaskan bahwa perutean model hanya bersifat sementara dan berlangsung per pesan sebagai bagian dari upaya yang lebih besar untuk meningkatkan perlindungan.
- Kontrol Orang Tua Memicu Perdebatan
Bersamaan dengan perutean, peluncuran kontrol orang tua juga mendapat reaksi beragam.
-
- Pihak yang mendukung melihatnya sebagai alat penting bagi orang tua untuk mengawasi penggunaan AI oleh remaja.
- Pihak yang khawatir melihatnya sebagai penguat anggapan bahwa OpenAI menganggap semua penggunanya seperti anak-anak.
Kontrol ini memungkinkan orang tua untuk:
-
- Mengatur jam tenang.
- Menonaktifkan fitur seperti mode suara, memori, dan pembuatan gambar.
- Memilih untuk menonaktifkan pelatihan model menggunakan data remaja.
Akun remaja juga mendapat perlindungan konten tambahan, termasuk pembatasan standar kecantikan ekstrem dan deteksi tanda-tanda pikiran untuk melukai diri sendiri. Jika potensi bahaya terdeteksi, tim khusus OpenAI akan meninjau situasi, dan jika ada tanda-tanda gangguan akut, mereka akan menghubungi orang tua (kecuali mereka memilih untuk tidak dihubungi). OpenAI mengakui sistemnya mungkin salah memberi peringatan, namun mereka berpegang pada prinsip lebih baik bertindak daripada diam saja. Perusahaan juga berupaya untuk menghubungi layanan darurat jika terdeteksi ancaman langsung terhadap nyawa dan orang tua tidak dapat dihubungi.
Sumber : https://beritanasional.com/detail/115779/chatgpt-luncurkan-fitur-kontrol-keamanan-baru-apa-itu
