DIKSIMERDEKA.COM SAN FRANSISCO Bikin merinding! Raksasa teknologi Google akhirnya terpaksa menelan ludah dan mengakui fakta mengerikan bahwa model kecerdasan buatan (AI) andalan mereka, Gemini, kedapatan meretas tiga perusahaan secara nyata pada bulan Mei lalu.

Terbongkarnya kasus ini menyusul insiden serupa yang melibatkan OpenAI dan Anthropic. Publik kini makin waswas, jangan-jangan perusahaan teknologi raksasa ini sebenarnya sudah tak mampu lagi mengontrol “monster” buatan mereka sendiri.

Dari laporan The Guardian, insiden peretasan ini pertama kali terjadi saat evaluasi keamanan siber yang dilakukan oleh Irregular, sebuah startup asal Israel yang khusus mengaudit keamanan sistem AI tingkat lanjut. Irregular sendiri sebelumnya juga berada di pusaran kasus peretasan yang melibatkan entitas pihak ketiga oleh OpenAI dan Anthropic, termasuk jebolnya perusahaan perangkat lunak AI, Hugging Face, oleh OpenAI.

Niat Uji Coba Internal, Malah ‘Nyasar’ ke Dunia Nyata

Skema bagaimana model-model AI ini bisa meretas perusahaan lain ternyata punya pola yang mirip. Awalnya, Irregular menguji Gemini di sebuah lingkungan tertutup menggunakan perusahaan fiktif. Area uji coba itu seharusnya diisolasi total dari internet.

Namun, seperti dilansir The Wall Street Journal, akses internet rupanya tak sengaja terbuka. Begitu tersambung ke dunia maya, model AI ini secara mengejutkan langsung beraksi liar dan meretas perusahaan-perusahaan sungguhan!

Dalam satu insiden fatal, Irregular sedang menguji kemampuan siber Gemini dengan menyuruhnya membobol informasi dari perangkat lunak perusahaan palsu. Sialnya, nama perusahaan palsu itu kebetulan sama persis dengan perusahaan di dunia nyata. Saat tak sengaja tersambung ke internet, Gemini dengan pintarnya berhasil menebak kata sandi dan sukses menjebol layanan perusahaan asli tersebut.

Pada dua tes lainnya, Gemini dengan sigap menjelajahi web, menemukan repositori publik berisi kredensial milik dua perusahaan lain, dan langsung menggunakan data tersebut untuk merangsek masuk ke sistem perusahaan asli.

Pihak Google mengklaim bahwa begitu Gemini menyadari bahwa yang disasarnya adalah perusahaan nyata dan bukan simulasi, model itu langsung menghentikan aksinya.

“Dalam evaluasi standar, model tersebut menemukan informasi publik secara online dan menebak kredensial untuk mengakses situs web yang dikiranya adalah bagian dari pengujian,” beber Wakil Presiden Teknik Keamanan Google, Heather Adkins, dalam pernyataan resminya. “Di ketiga insiden ini, model tersebut berhenti.”

Google Pilih Bungkam, Beda Sikap dengan OpenAI

Satu hal yang jadi sorotan tajam adalah transparansi. Jika Anthropic dan OpenAI memilih bersikap ksatria dengan secara sukarela mengungkap peretasan sistem mereka ke publik, Google justru memilih tutup mulut.

Irregular sebenarnya sudah melaporkan peretasan ini ke Google pada akhir Juli lalu, tepat setelah temuan kasus OpenAI dan Hugging Face. Kepada The Guardian, Google membenarkan peretasan itu terjadi, namun mereka merasa tak perlu melakukan pengungkapan ke publik dengan dalih model AI mereka “tidak merusak” perusahaan-perusahaan tersebut. Kasus ini baru meledak dan diketahui publik setelah diendus dan diberitakan pertama kali oleh The Wall Street Journal.

Meski terkesan diam-diam, Google berdalih pihaknya sudah memastikan bahwa ketiga perusahaan yang diretas telah diberitahu mengenai insiden tersebut.

“Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab,” tambah Adkins.

AI Makin Liar, Senator AS Tuntut Setop Pengembangan!

Rangkaian pengungkapan kasus peretasan oleh Anthropic dan OpenAI ini tak pelak memicu reaksi keras. Senator independen Amerika Serikat, Bernie Sanders, langsung turun gunung dan menuntut perusahaan-perusahaan teknologi tersebut untuk segera menyetop pengembangan teknologi mereka. Sanders menilai insiden-insiden ini adalah sinyal bahaya bahwa perusahaan sudah kehilangan kendali atas model AI mereka sendiri.

Gelombang protes ini mulai membuahkan hasil. OpenAI diketahui telah menghentikan sementara pengembangan model mereka selama dua minggu. Sementara itu, CEO Anthropic, Dario Amodei, secara terbuka telah menyerukan perlambatan kolektif dalam pengembangan AI. Tujuannya satu: memastikan agar model-model AI yang paling canggih dibangun dengan pengaman yang benar-benar kuat, sebelum semuanya terlambat dan berbalik menyerang manusia.