Etika AI: Mengapa Penting Sekarang untuk Mengembangkan AI yang Beretika

Temukan berita dan acara fintech teratas!

Berlangganan newsletter FinTech Weekly

Dibaca oleh eksekutif di JP Morgan, Coinbase, Blackrock, Klarna dan lainnya

Etika AI adalah salah satu kekhawatiran utama investor dan analis, terutama sejak diperkenalkannya ChatGPT oleh OpenAI, yang menjadi aplikasi dengan pertumbuhan tercepat.

Etika diperlukan jika kita ingin kecerdasan buatan tidak menjadi berbahaya dan digunakan dengan benar—juga untuk industri fintech, karena penggunaan AI yang tidak terlatih dengan baik dalam keuangan bisa sangat berbahaya.

Mengapa etika AI menjadi berita utama

Etika dalam kecerdasan buatan sering menjadi berita utama baik karena alasan positif maupun negatif.

Meskipun Microsoft baru-baru ini mengurangi departemen AI & Society-nya—meninggalkan hanya 7 orang selama salah satu gelombang PHK yang melibatkan perusahaan tersebut, banyak analis dan organisasi yang mencoba memikirkan topik ini dan merenungkan mengapa etika penting.

Ini juga meliputi organisasi internasional dan politik, sesuatu yang mungkin dapat membantu pengguna sehari-hari—yang mungkin masih terlalu tidak sadar akan kemajuan kecerdasan buatan—untuk yakin bahwa AI bukan hanya topik bisnis.

Pada 23 November 2021, UNESCO merilis sebuah teks, “Rekomendasi tentang Etika Kecerdasan Buatan”, yang kemudian diadopsi oleh 193 negara anggota.

Rekomendasi tersebut dibuka dengan kalimat “Dengan sepenuhnya mempertimbangkan bahwa perkembangan pesat teknologi AI menantang implementasi dan tata kelola etisnya, serta menghormati dan melindungi keberagaman budaya, dan memiliki potensi untuk mengganggu standar dan nilai etika lokal dan regional”.

Rujukan terhadap multikulturalisme penting dalam konteks AI.

Seperti yang akan kita lihat sebentar lagi, penting untuk mempertimbangkan bahwa tidak semua orang mampu mengelola dan menggunakan AI, dan jika tetap menjadi prerogatif profesional teknologi dan perusahaan, mungkin sulit bagi beberapa budaya dan segmen masyarakat untuk mengakses teknologi penting ini.

Apakah kita memiliki AI yang sadar?

Kami belum memiliki—setidaknya, belum—AI yang sadar.

Sejauh ini, alat berbasis AI dilatih oleh manusia dan data. Jika dari satu sudut pandang ini berarti AI belum bisa dianggap terlalu berbahaya, itu juga berarti bahwa jika orang memberikan data yang bias, jawaban yang diberikan AI juga akan bias.

Hal yang sama berlaku jika data dan pelatihan hanya disediakan oleh profesional tertentu dan di negara tertentu.

Seperti yang dilaporkan oleh MIT, kesenjangan gender dalam STEM (ilmu pengetahuan, teknologi, rekayasa, dan matematika) masih sangat signifikan, dan wanita dengan pekerjaan yang sesuai dengan studi mereka di bidang ini hanya sebanyak 28%.

Laporan yang diterbitkan oleh IDC (International Data Corporation), Panduan Pengeluaran Kecerdasan Buatan Dunia, menyatakan bahwa investasi dalam AI diperkirakan mencapai $154 miliar pada tahun 2023. Tapi di mana konsentrasi investasi ini?

Seperti yang dilaporkan oleh InvestGlass, negara-negara dengan konsentrasi investasi adalah Amerika Serikat dan China. Jepang, Kanada, dan Korea Selatan juga meningkatkan investasi dan strategi yang melibatkan AI. Uni Eropa bukan wilayah paling maju dalam hal kecerdasan buatan—meskipun beberapa negara seperti Jerman dan Prancis sedang mengembangkan lingkungan yang menarik untuk AI.

Semua data ini menunjukkan bahwa tidak semua orang terlibat dalam revolusi ini, dan tentu saja—ini bisa merugikan pengembangan AI yang berharga dan etis.

Jika AI tetap terlalu terkonsentrasi di bidang dan negara tertentu, data yang dihasilkannya akan secara otomatis bias.

Jika multikulturalisme mungkin belum sepenuhnya ditangani, para investor sudah mencari teknologi yang dapat bertanggung jawab secara sosial dan etis.

Apa pendapat investor tentang AI?

Dalam beberapa tahun terakhir, kesadaran umum terkait tanggung jawab sosial juga mendorong investor untuk lebih memilih bisnis yang tidak merugikan masyarakat.

Dalam hal kecerdasan buatan, tidak hanya sulit untuk membuat kerangka kerja global yang bertujuan mengatur teknologi ini, tetapi juga sulit bagi investor untuk sepenuhnya memahami apa yang sebenarnya etis dalam hal AI.

AI relatif baru, dan memberikan konteks yang tepat menjadi semakin sulit karena AI terus berubah.

Itulah sebabnya investor menggunakan berbagai metode untuk menilai kemungkinan perkembangan masa depan bisnis AI, serta etika yang berlaku seiring waktu dan perubahan yang dilakukan.

Seperti yang dilaporkan oleh TechCrunch, tampaknya investor mungkin akan lebih berguna menilai karakteristik dan kualitas pemilik proyek, untuk lebih memahami bagaimana dia atau dia mungkin bereaksi terhadap kerangka kerja baru dan bagaimana mereka ingin mengelola proyek AI meskipun ada perubahan yang konstan.

Jadi, meskipun kita berbicara tentang AI, manusia tetap memiliki kata terakhir—dan semakin etis orang yang menggunakan AI, semakin etis pula AI di masa depan.

Pemikiran Akhir

Etika AI bukanlah topik yang mudah, dan sulit untuk menilai bagaimana AI bisa bersikap etis.

AI bukan makhluk sadar, ia tidak memiliki jiwa—terlepas dari bagaimana jiwa didefinisikan.

Meskipun demikian, penting untuk mulai bekerja pada etika AI sekarang, untuk menghindari sebanyak mungkin bahaya di masa depan.

Jika Anda ingin tahu lebih banyak tentang berita, acara, dan wawasan fintech, berlangganan newsletter FinTech Weekly!

END