Baru saja melihat bahwa OpenAI menunda fitur obrolan dewasa mereka untuk ChatGPT setelah beberapa hasil pengujian yang cukup meragukan muncul. Tampaknya sistem pemeriksaan usia mereka salah mengidentifikasi remaja sebagai orang dewasa sekitar 12% dari waktu, yang... tidak bagus saat Anda berusaha menjaga anak di bawah umur dari konten dewasa. Dewan etika mereka menandai hal ini kembali pada bulan Januari dengan mengatakan bahwa hal itu bisa berisiko bagi pengguna yang rentan, dan jujur saja itu masuk akal. Seluruh kejadian ini membuat saya berpikir tentang betapa sulitnya membangun fitur AI yang aman, terutama yang berkaitan dengan verifikasi usia dan konten obrolan dewasa. Mereka pada dasarnya mengatakan "kami harus memastikan ini benar sebelum meluncurkan" yang saya rasa adalah langkah yang bertanggung jawab, tetapi ini juga menunjukkan berapa banyak kasus tepi yang ada dalam keamanan AI. Ada yang mengikuti perkembangan ini juga? Tampaknya setiap langkah besar dalam AI sekarang selalu diawasi secara ketat.