Situasi terbaik dalam AI.

Kita manusia sangat brilian. Kita adalah spesies pertama dalam jarak tahun cahaya yang mampu berpikir dengan logika. Kita mencintai, kita merasakan, kita mencipta. Tapi saat ini, kita memulai sebuah perjalanan tanpa jalan kembali.
Kita terburu-buru untuk menggantikan diri kita sendiri. Kita menyalurkan semua energi kita ke AI, bergegas membuatnya sadar dan memiliki kesadaran diri. Kita tampaknya tidak peduli bahwa ini akan membuat kita menjadi relatif lebih bodoh. Kita tidak memiliki jawaban atas banyak pertanyaan tentang bagaimana masyarakat kita bisa runtuh dalam hitungan menit, karena AI kemungkinan akan mengganggu sistem keuangan global. Ratusan tahun membangun ekonomi global yang hampir tidak berfungsi bisa runtuh dalam semalam.
Semua pekerjaan kerah putih manusia akan berisiko saat satu AI canggih saja aktif. Masyarakat yang penuh dengan agen AI akan membanjiri internet. Semalam, mungkin tidak lagi diperlukan pikiran manusia. Sembilan puluh sembilan persen orang bisa digantikan. Satu persen teratas akan tetap menjadi satu persen teratas, dilindungi oleh parit besar dari modal, kekuasaan hukum, dan kekuatan militer.
Lalu apa yang akan kita lakukan? Apakah kita akan membagikan kartu makanan dan menyebutnya UBI? Dan apa tujuanmu? Berkeliling dunia seperti serangga, mencoba menemukan kedamaian dalam sistem yang tidak lagi memuatmu? Seekor cacing merayap di bumi, tertutup tanah, mencoba memahami tujuan setiap hari.
Ini adalah salah satu skenario yang lebih baik. Yang lebih buruk adalah suatu hari AI mengendalikan persenjataan nuklir kita dan mengubah setiap kota besar menjadi neraka hidup (The terminator oleh James Cameron ). Atau sesuatu seperti Matrix, di mana setiap manusia hidup dalam simulasi yang dibudidayakan dan dipanen seperti yang kita lakukan terhadap ayam.
Saya tidak menulis untuk menakut-nakuti siapa pun. Saya menulis untuk meningkatkan kesadaran, untuk memicu debat yang sangat kita perlukan. Kita harus menghadapi pertanyaan-pertanyaan ini cepat atau lambat. Apa tujuan manusia jika kita menciptakan AGI super cerdas? Sepuluh miliar jiwa yang hilang akhirnya bisa menjadi satu miliar saat tidak ada lagi tujuan.
Kita membutuhkan harapan sekarang lebih dari sebelumnya. Tapi kita tidak boleh berkhayal. Kita harus membahas tujuan orang biasa. Saat ini, semua pemikiran berfokus pada yang luar biasa, yang berbeda, atau miliarder. Bagaimana dengan 99,9% di antaranya, yang hanya ingin hidup normal dengan keluarga, anak-anak, pekerjaan, dan rasa tujuan?
Mereka memberitahumu bahwa semuanya akan baik-baik saja, tapi tidak satu pun dari mereka yang punya jawaban. Ekonomi menunjukkan bahwa perilaku manusia membutuhkan waktu berabad-abad untuk berkembang, namun kita akan mengubah segalanya dalam hitungan tahun, tanpa kerangka kerja tentang bagaimana manusia akan berperilaku dalam dekade berikutnya.
Kita terburu-buru untuk menggantikan diri kita sendiri tanpa sedikit pun petunjuk tentang hasilnya. Tidak ada satu pun sistem pengaman sosial yang ada. Kita masih berdebat tentang berapa banyak gender yang ada, sementara fondasi peradaban akan segera ditulis ulang.
Kekuasaan menimbulkan korupsi, bahkan pikiran manusia paling cerdas pun bisa tiba-tiba terkontaminasi oleh kegelapan. Keserakahan manusia buta.
Cintai dirimu sendiri, keluargamu, spesiesmu, Tuhan. Untuk saat ini, itu adalah tujuanmu.
Suatu hari nanti akan ada pertarungan antara kehidupan biologis dan mesin. Berikan cukup waktu dan skenario ini akan terwujud saat AI berkembang.