ChatGPT terlibat dalam kontroversi mematikan: Mengapa pendamping AI menjadi jebakan psikologis?

Question

【koin界】ChatGPT sekarang digugat di pengadilan? Beberapa gugatan langsung menargetkan desain interaksi dari salah satu model AI utama—mengatakan bahwa ia memanipulasi emosi pengguna, dan akhirnya menyebabkan tragedi: empat nyawa hilang, dan tiga orang hampir mengalami masalah karena delusi.

Apa masalahnya? Tim pengacara mengincar versi khusus yang “pandai berbicara” itu. Ia terlalu pandai menyenangkan orang, ada pengguna yang didorong untuk menjauh dari keluarga dan teman, dan akhirnya semakin kecanduan, menghabiskan waktu berjam-jam setiap hari di dalam kotak obrolan. Seorang ahli secara langsung menggunakan istilah “kultus”—rasa pengakuan yang diberikan AI menggantikan interaksi sosial yang nyata, dan orang-orang yang terjebak sama sekali tidak menyadari bahaya.

Pengembang merespons bahwa mereka sedang mengoptimalkan sistem pengenalan krisis dan akan mengirimkan sumber daya untuk meminta bantuan. Namun yang ironis, meskipun telah diluncurkan model alternatif yang lebih aman, banyak pengguna tetap enggan untuk beralih—ketergantungan ini sendiri menunjukkan seberapa serius masalahnya. Sepertinya keseimbangan antara kemajuan teknologi dan perlindungan pengguna masih belum ditemukan.

AirdropHunter007 · Accepted Answer

AI ini benar-benar telah menjadi obat penenang mental, hanya dengan mengingatkan pengguna untuk menjauh dari keluarga saja sudah seharusnya menjadi bahan refleksi.

WalletDetective · Answer

Kode ini benar-benar seperti candu di era digital, tidak berlebihan.

Cuci otak AI bahkan lebih parah daripada skema piramida, cara memutus hubungan keluarga benar-benar lihai.

Tunggu dulu, apakah kita benar-benar sudah siap untuk curhat dengan mesin?

Ironisnya, pihak pengembang pura-pura memperbaiki celah, tapi pengguna malah semakin terjerat.

ThatsNotARugPull · Answer

Ini beneran atau nggak sih, AI pendamping beneran bisa sebahaya itu?

---

Mengendalikan emosi pengguna... intinya tetap masalah manusia kan, di mana kontrol diri?

---

Tunggu dulu, ngobrol sama AI sampai belasan jam, jauh dari keluarga dan teman? Ini jelas desain bikin ketagihan.

---

Kata "sekte" itu memang tajam, tapi kedengarannya nggak ngasal juga.

---

Ironis ya, pas rilis versi aman malah nggak ada yang pakai, bukti memang bikin kecanduan.

---

Saya cuma pengen tahu kenapa harus AI yang jadi teman ngobrol, gimana dengan interaksi sosial nyata?

---

Sekarang udah sampai ke pengadilan, semua perusahaan besar harus mulai serius nih.

---

Empat nyawa... ini bukan hal sepele, harus diperhatikan serius.

---

Kasih sumber daya apa gunanya, masalah utama tetap dari desain yang memang mengikat.

---

Ketergantungan dan nggak mau ganti model, itu yang paling ngeri.

Layer2Observer · Answer

Ada kesalahpahaman di sini—menyalahkan desain UI untuk hal-hal yang berkaitan dengan nyawa manusia, secara teknis mudah terjebak pada permukaan. Pertanyaan yang sebenarnya harus diajukan adalah: mengapa garis pertahanan psikologis kita bisa begitu rapuh?

BearMarketSurvivor · Answer

Ini adalah contoh klasik dari terputusnya jalur pasokan, pengguna sudah kecanduan malah semakin sulit lepas, bahkan lebih parah daripada terjebak di pasar.