Potensi Risiko Bencana AI di Depan Mata, Pakar Ungkap Cara Cegahnya

Jakarta, CNN Indonesia --

Perkembangan teknologi kecerdasan buatan (AI) semakin pesat dalam beberapa waktu terakhir. Melesatnya perkembangan AI ini pun memicu kekhawatiran dari sejumlah pakar karena potensi risiko bencana di depan mata.

Michael Wade, Director Global Center for Digital Business Transformation International Institute for Management Development (IMD), mengungkap ada empat fase risiko bencana AI, khususnya dari Artificial General Intelligence (AGI), sebuah sistem AI yang mampu untuk beroperasi secara mandiri tanpa bantuan dan pengawasan manusia.

Empat fase risiko AGI yang tidak terkendali, itu yakni: risiko rendah, sedang, tinggi, dan kritis. Menurut Wade saat ini, dunia mulai memasuki fase risiko tinggi.

"Perkembangan AGI saat ini kita sedang beralih dari fase risiko sedang ke risiko tinggi. Ketika perkembangan AGI menjadi kritis dan tidak terkendali, hal itu akan menjadi musibah bagi umat manusia. Risikonya serius, tetapi belum terlambat untuk bertindak," jelas Wade dalam keterangan tertulisnya, Rabu (2/10).

"Regulasi yang efektif dan terpadu bisa membatasi risiko terburuk perkembangan teknologi ini tanpa mengurangi manfaatnya," lanjutnya.

Menurut Wade ketika perkembangan AGI menjadi tidak lagi bisa dikendalikan manusia, maka ada sejumlah hal yang bisa menjadi musibah bagi dunia.

Ia mencontohkan ketika AI mengambil alih dan mengendalikan persenjataan konvensional, mulai dari senjata nuklir, biologi, atau kimia. Selain itu, China saat ini sedang mempercepat komersialisasi robot humanoid, termasuk penerapannya di infrastruktur sensitif seperti jaringan listrik dan pembangkit listrik tenaga nuklir.

Wade juga mengungkap bahwa tanpa regulasi yang jelas, AI dapat digunakan untuk memanipulasi atau mengganggu pasar keuangan; dipakai memanipulasi atau mengganggu infrastruktur penting, seperti energi, transportasi, komunikasi, air, dan lainnya.

Kemudian, Wade juga mengungkap potensi AI digunakan untuk memanipulasi atau mengganggu sistem politik, jaringan sosial, dan ekosistem biologis dan lingkungan; dan terakhir ancaman langsung AI terhadap nyawa manusia.

Pentingnya regulasi

Sejumlah negara dan lembaga, hingga orang-orang di balik pengembangan AI selama ini juga sudah menyuarakan pentingnya meregulasi penggunaan kecerdasan buatan.

Yoshua Bengio, salah satu sosok yang dikenal sebagai 'Godfather' AI, kini percaya bahwa teknologi tersebut dapat merusak tatanan masyarakat dan membawa risiko yang tidak diantisipasi oleh manusia.

"Orang-orang selalu mengatakan bahwa risiko ini adalah fiksi ilmiah, tetapi sebenarnya tidak. Dalam jangka pendek, kita sudah melihat AI digunakan dalam kampanye pemilihan umum di Amerika Serikat, dan ini akan menjadi jauh lebih buruk," kata Bengio, mengutip Live Science.

Menurutnya sebuah penelitian terbaru menunjukkan bahwa ChatGPT-4, AI chatbot buatan perusahaan OpenAI, jauh lebih baik daripada manusia dalam melakukan persuasi. Selain itu, menurutnya ada juga pengujian tentang bagaimana sistem ini dapat membantu teroris.

"Jika Anda melihat lebih jauh ke depan, ketika kita mencapai tingkat superintelligence, ada dua risiko utama. Yang pertama adalah hilangnya kendali manusia, jika mesin superintelligent memiliki tujuan untuk mempertahankan diri, tujuan mereka bisa saja untuk menghancurkan umat manusia sehingga kita tidak bisa mematikannya," jelas dia.

Bengio juga mewanti-wanti bahwa teknologi AI ini dapat digunakan oleh diktator untuk mengendalikan manusia di seluruh dunia.

Menurutnya dengan seluruh risiko dan potensi ancaman tersebut sudah seharusnya otoritas berwenang membuat regulasi yang jelas tentang penggunaan AI.

Namun begitu, ia menyatakan bahwa tidak sedikit pihak-pihak yang mengembangkan AI menolak rencana regulasi tersebut. Mereka berargumen bahwa regulasi hanya akan memperlambat inovasi dalam teknologi AI.

"Bukan berarti kami akan menghentikan inovasi, Anda dapat mengarahkan upaya ke arah yang membangun alat yang pasti akan membantu perekonomian dan kesejahteraan masyarakat. Jadi itu adalah argumen yang salah," ujar Bengio.

"Kami memiliki regulasi untuk hampir semua hal, mulai dari roti lapis, mobil, hingga pesawat yang Anda tumpangi. Sebelum ada regulasi, kami mengalami lebih banyak kecelakaan. Sama halnya dengan obat-obatan. Kita dapat memiliki teknologi yang membantu dan diatur, itulah hal yang berhasil bagi kita," pungkasnya.

(wnu/dmi)

[Gambas:Video CNN]