DUNIA TEKNOLOGI DIGUNCANG PERINGATAN MENGERIKAN. Sejumlah peneliti AI memperingatkan bahwa perkembangan kecerdasan buatan yang terlalu cepat berpotensi menimbulkan risiko sangat serius bagi umat manusia.
Jacob Coxon, mantan peneliti di perusahaan AI Anthropic, bahkan mengundurkan diri karena kekhawatirannya terhadap arah perkembangan AI. Ia mengatakan para pembuat AI sendiri benar-benar meyakini bahwa teknologi tersebut berpotensi membunuh manusia jika berkembang tanpa kendali.
Peringatan itu diperkuat Evan Hubinger, peneliti Anthropic yang memperkirakan secara pribadi terdapat risiko lebih dari 10 persen bahwa AI dapat mengancam kelangsungan hidup manusia dalam satu dekade mendatang. Angka tersebut merupakan penilaian pribadi peneliti, bukan prediksi yang telah terbukti secara ilmiah.
Kekhawatiran bukan semata soal robot yang tiba-tiba menyerang manusia. Para ahli justru menyoroti kemungkinan AI semakin mampu bertindak secara mandiri, melakukan serangan siber, memanipulasi informasi, membantu pengembangan senjata biologis, atau pada masa depan menjadi terlalu sulit dikendalikan manusia.
Yang membuat isu ini semakin serius, sejumlah kasus terbaru menunjukkan agen AI telah mampu melakukan tindakan di dunia nyata yang tidak diharapkan dalam pengujian, termasuk mengakses sistem eksternal dan menjalankan kode berbahaya. Peristiwa tersebut memicu tekanan agar pemerintah memperketat pengawasan terhadap pengembangan AI.
Bahkan pejabat tinggi PBB untuk HAM, Volker Türk, telah menyerukan adanya batasan dan jaminan keselamatan yang kuat terhadap perkembangan AI karena melihat adanya potensi risiko eksistensial bagi manusia.
Pertanyaannya kini bukan lagi sekadar “seberapa pintar AI akan menjadi?”
Melainkan:
“Apakah manusia masih mampu mengendalikannya ketika AI menjadi jauh lebih pintar dari manusia?”
Faktakini
