Urgensi Mengerem Kecerdasan-Buatan yang Otonom dan Berpotensi Menggantikan Fungsi Manusia
Merancang program komputer yang dapat menjadi pengganti profesi analis pasar, apakah terancam tindak pidana dibidang pasar modal maupun persaingan usaha tidak sehat? Ilustrasikan sebuah pengembang program komputer mendesain sebuah kecerdasan-buatan (artificial intelligence) yang memiliki kemampuan untuk belajar dan mengoreksi “diri”-nya sendiri (machine learning) dan menganalisa secara mandiri, sampai pada muaranya ialah menghasilkan rekomendasi untuk menjual atau membeli mata uang (kurs) tertentu di pasar mata uang, membeli atau menjual saham emiten tertentu di pasar saham, maupun untuk mengalisa harga pasar dan harga produk kompetitor, bermuara pada para pemakai (user) dari program kecerdasan-buatan yang berbondong-bondong dan beramai-ramai menjual atau membeli mata uang tertentu, membeli atau menjual saham emiten tertentu, hingga serempak menetapkan harga jual produk yang mereka produksi.
Yang kemudian muncul ke
permukaan ialah, secara kontras terjadi praktek naiknya harga saham tertentu
secara dramatis dan jatuh-ambruknya harga saham lainnya di bursa saham hingga ke
titik nadir, menguatnya mata uang tertentu dan depresiasi mata uang lainnya
secara eksponensial karena masyarakat secara berjemaah berbondong-bondong membeli
dan menjual atas dasar rekomendasi program kecerdasan-buatan yang tanpa melibatkan
campur-tangan sang programmer pembuat program, hingga berbagai pelaku usaha
menetapkan harga jual produknya secara serempak bagaikan persekongkolan /
pemufakatan kartel harga “secara diam-diam”. Kini, pertanyaan yang paling relevan
ialah, apakah praktek demikian melanggar ketentuan hukum pidana dibidang pasar
modal dan keuangan maupun persaingan usaha tidak sehat?
Suatu konsep “autonomous”
yang mana ketika keputusan dibentuk secara otonom / mandiri, dinilai belum
memiliki aturan hukum yang kompatibel dan koheren mengaturnya. Siapakah yang akan
bertanggung-jawab dan dapat dimintakan pertanggung-jawaban, sekalipun
rekomendasi atau penilaian hasil analisa kecerdasan-buatan mengakibatkan keguncangan
di pasar keuangan ataupun terjadinya semacam “kartelisasi harga”? Kecerdasan-buatan
otonom, dapat berfungsi layaknya profesi “manajer investasi”, namun sukar
ditunjuk hidung pelakunya bila dinilai adanya indikasi kuat terjadi pelanggaran
hukum. Perhatikan bagaimana seorang pemerhati teknologi memaparkan pandangan dan
kecemasannya terkait teknologi digital yang dibiarkan tumbuh-liar tanpa suatu
restriksi apapun, dengan kutipan sebagai berikut:
AGI is not as artificial general intelligence, but it’s autonomous
general intelligence. It’s something that is smart like a human. Everybody’s trying to make
their AI systems more autonomous. I think this is a bad idea.
That’s exactly what we should not be doing. The
more autonomous they are, the harder they are to control, the less they are
tools for us. The low autonomy that we have in current AI systems is a feature,
not a bug. This is great. We have very smart, very general, capable systems that
are amazing tools for doing lots of things.
They don’t have a mind of their own. They don't have goals of their
own. They don’t take actions on their own, and they’re not going to replace
us. If we build systems that are fully autonomous, they can start to plan and scheme and have
goals and all those things that we don’t necessarily want our tools to have. The
companies are deliberately trying to make them more autonomous and have more of
this behavior.
Now, autonomy doesn’t have to mean that you’re going
to blackmail your boss if your boss does something you don’t like. The question
is, as those AI systems get more and more powerful, are the alignment
techniques that we have now that kind of work going to be sufficient to keep
them from being disastrous?
And I think the answer that most people come to when
they think about this question is probably not. As soon as you create one autonomous general intelligence
that is as smart as human experts, you'll have many of them. You can just copy
it over 100,000 times.
Banyak pengamat teknologi
maupun “cyber law” yang menilai bahwa perancang program kecerdasan-buatan
tidak terlibat dalam penentuan keputusan ataupun penghasilan rekomendasi yang menjadi
keluaran (output) dari suatu kecerdasan-buatan, sehingga tidak dapat dimintakan
pertanggung-jawaban hukum. Akan tetapi, penulis sama sekali tidak sependapat. Perhatikan
kembali pandangan pakar IT di atas, kemampuan kecerdasan-buatan yang begitu
cerdas, adalah “by design”, itu bukanlah “kecelakaan yang tidak
disengaja” oleh para perancang algoritma yang menjadi “otak”-nya.
Karena para programmer atau
pengembang program kecerdasan-buatan telah secara sengaja merancang “road-map”
program otonomnya sehingga mampu menghasilkan suatu keluaran yang bersifat mandiri
dan independen, maka meminjam doktrin dalam ilmu hukum pidana, sejak semula pihak
pengembang program kecerdasan-buatan telah secara sadar, mengetahui, serta
menghendaki agar program rancangan buatan mereka mampu melakukan kerja-kerja otonom.
Bukanlah sebuah kebetulan kecerdasan-buatan begitu cerdas serta begitu otonom,
ia sejak semula memang dirancang untuk menjadi secerdas dan se-otonom itu.
Adalah “kesengajaan sebagai
maksud / tujuan”, para programmer atau pengembang kecerdasan-buatan menghendaki
agar program yang mereka rilis ke pasar agar dapat menghasilkan keluaran yang
pada muaranya dapat menciptakan “rush” di pasar modal, atau setidaknya patut
menyadari potensi terjadinya penjualan maupun pembelian saham / kurs mata uang secara
masif besar-besaran. Apakah terjadinya keguncangan pasang-surutnya harga saham
maupun nilai tukar mata uang rupiah terhadap kurs mata uang asing, diluar kehendak
maupun dugaan sang pengembang kecerdasan-buatan? Jawabannya ialah sejak semula
mereka, para pengembang tersebut, menghendaki agar kecerdasan-buatan mereka
otonom, sehingga konsekuensinya patut ditanggung oleh pihak pengembang bersangkutan,
bukan oleh “user” yang sekadar memakai dan mengikuti rekomendasi dari program
rancangan para pengembang kecerdasan-buatan.
Sekalipun dipandang tiada
maksud atau tujuan jahat dalam niat batin (mens rea) pihak developer
kecerdasan-buatan, maka kita dapa memaknai peristiwa hukum demikian sebagai “kesengajaan
sebagai kemungkinan”. Sejak semula, pihak pengembang kecerdasan-buatan patut
menyadari potensi terjadinya pelanggaran hukum dibidang pasar keuangan maupun
dibidang persaingan usaha tidak sehat, sebagai buntut atau muara dari aplikasi kecerdasan-buatan
otonom yang diaplikasikan oleh para pemakainya. Para pengembang tersebut, seharusnya
(ought to) telah mempertimbangkan, memprediksi, memperkirakan, atau
setidaknya patut-menduga bahwa program kecerdasan-buatan yang mereka kembangkan
dan latih mampu membuat keguncangan dan pelanggaran hukum pada muaranya—namun telah
ternyata mereka lalai, dengan mengabaikan potensi “moral hazard”
demikian. Sangat penulis sarankan agar segala “vicarious liability”
dibalik keberadaan kecerdasan-buatan, tanggung-jawabnya bersifat mutlak (strict
liability) harus dipikul oleh pihak developer-nya.
Adalah suatu “kesengajaan
sebagai kepastian”, suatu program kecerdasan-buatan otonom mampu membentuk
harga pasar yang menyerupai “kartelisasi harga”, berkat algoritma kecerdasan-buatan
yang secara mandiri mampu menghimpun data-data perilaku konsumen, daya beli
konsumen, harga produk kompetitor, kelemahan dan kelebihan kompetitor, jumlah
kompetitor potensial, ceruk pasar, sentimen pasar, pengaruh geopolitik global, hingga
pemetaan pasar yang sangat komprehensif. Sekalipun terdapat beragam pihak pengembang
kecerdasan-buatan, namun data-data yang dihimpun seputar pasar keuangan oleh
berbagai program kecerdasan-buatan adalah sama / serumpun, maka dapat dipastikan
keluaran, prediksi, ataupun rekomendasi yang ditampilkan oleh berbagai program kecerdasan-buatan
tersebut adalah seragam sifatnya. Alhasil, para pengguna kecerdasan-buatan akan
secara serempak diarahkan untuk membeli atau menjual saham maupun mata uang tertentu.
Sebagai penutup ulasan
singkat-sederhana dalam kesempatan ini, kita ingat kembali pandangan pakar IT
di muka, bahwa semakin otonom suatu kecerdasan-buatan, semakin ia sukar untuk
diatur maupun dikontrol. Satu-satunya yang dapat dilakukan oleh regulator ialah
mengatur sejauh apakah suatu kecerdasan-buatan dapat beroperasi secara otonom
ataukah dibatasi sekadar sebagai “alat” yang karenanya butuh keterlibatan
keputusan manusia secara sadar dibaliknya sebagai operator, alih-alih membiarkannya
tumbuh-liar tanpa batasan dan tanpa pengaturan apapun. Hukum-negara tidak boleh
menyerah pada kemajuan teknologi yang belum dikenal sebelumnya (unprecedented).
Teknologi nuklir, dibatasi oleh
traktat “non-proliferasi nuklir”. Mengapa dunia yang kian “borderless”
ini tidak dapat bersekapat untuk membuat dan menerapkan konvensi “non-proliferasi”
serupa terhadap teknologi kecerdasan-buatan yang berpotensi lebih mengancam
keselamatan dan ketentraman dunia daripada ancaman nuklir? Bila negara-negara di
dunia tidak mampu bersikap kompak, cukuplah kita utamakan kedaulatan ekonomi
dan teritori digital negara kita sendiri, dengan mengisolir segala akses menuju
penggunaan kecerdasan-buatan yang berpotensi menggantikan fungsi profesi
manusia.
© Hak Cipta HERY SHIETRA.
Budayakan hidup
JUJUR dengan menghargai Jirih Payah,
Hak Cipta, Hak Moril, dan Hak Ekonomi
Hery Shietra selaku Penulis.