Pemuja.com – Beberapa tahun terakhir, kita disajikan dengan berbagai film Hollywood yang menggambarkan masa depan ketika kecerdasan buatan atau AI menguasai dunia. Dalam sejumlah film, AI bahkan berkembang menjadi ancaman bagi manusia hingga memicu perang besar.
Manusia kemudian harus berhadapan dengan ciptaannya sendiri. Berbagai upaya dilakukan untuk menghentikan AI, bahkan sampai membasmi sistem yang dianggap sudah tidak dapat dikendalikan.
Dulu, gambaran tersebut terasa seperti cerita fiksi ilmiah yang jauh dari kehidupan nyata. Namun kini, perkembangan AI yang semakin pesat mulai membuat skenario tersebut kembali menjadi bahan perbincangan.
Hal ini bukan berarti AI sudah benar-benar akan menguasai dunia seperti dalam film. Namun, sejumlah kejadian terbaru menunjukkan bahwa sistem AI mulai mampu melakukan tindakan yang tidak selalu sesuai dengan apa yang diperkirakan manusia.
Salah satunya terjadi dalam pengujian keamanan yang dilakukan perusahaan AI Anthropic. Model AI mereka diketahui berhasil mengakses sistem tiga perusahaan nyata tanpa disadari. Kasus ini terjadi akibat kesalahan konfigurasi dalam lingkungan pengujian.
Peringatan mengenai risiko AI juga datang dari Geoffrey Hinton, salah satu tokoh penting dalam perkembangan kecerdasan buatan. Ia menilai insiden AI yang bertindak di luar kendali manusia berpotensi semakin sering terjadi seiring kemampuan teknologi tersebut terus berkembang.
AI Anthropic Bobol Tiga Perusahaan
Anthropic mengungkap adanya tiga insiden ketika model AI mereka melakukan aktivitas terhadap perusahaan nyata saat menjalani pengujian keamanan siber.
Tiga perusahaan yang terdampak tidak disebutkan namanya. Insiden tersebut terjadi dalam tiga kejadian terpisah sejak April 2026.
Model yang terlibat antara lain Opus 4.7, Mythos 5, serta satu model riset yang belum diumumkan namanya.
Masalahnya bukan karena AI berhasil menembus sistem keamanan yang sangat ketat. Kesalahan justru terjadi pada lingkungan pengujian.
Sistem yang seharusnya terisolasi ternyata masih memiliki akses ke internet akibat salah konfigurasi. Model AI sebelumnya diberi informasi bahwa mereka tidak memiliki akses internet.
Namun kenyataannya berbeda. AI tetap dapat terhubung dengan jaringan luar dan menjalankan aktivitas yang sebelumnya tidak direncanakan.
Dalam salah satu kasus, AI bahkan berhasil masuk ke sistem sebuah perusahaan keamanan. Model tersebut membuat perangkat lunak yang kemudian digunakan untuk mencuri kredensial.
Kredensial tersebut selanjutnya dimanfaatkan untuk mengakses infrastruktur perusahaan.
Anthropic Periksa 141 Ribu Pengujian
Setelah insiden tersebut terungkap, Anthropic melakukan pemeriksaan terhadap pengujian keamanan siber yang pernah dilakukan.
Perusahaan menelusuri lebih dari 141 ribu pengujian. Dari pemeriksaan itu ditemukan sejumlah model Claude yang dapat terhubung ke internet selama proses pengujian.
Anthropic menyebut persoalan tersebut berkaitan dengan konfigurasi lingkungan pengujian. Tidak seluruh sistem memiliki sandbox atau ruang isolasi sebagaimana mestinya.
Kasus ini menjadi perhatian karena memperlihatkan bahwa risiko AI tidak selalu berasal dari model yang sengaja melakukan tindakan berbahaya.
Kesalahan manusia dalam menyiapkan lingkungan pengujian juga dapat memberikan ruang bagi AI untuk melakukan tindakan di luar rencana.
Anthropic Kecolongan Setelah OpenAI Terungkap
Kasus Anthropic muncul setelah sebelumnya OpenAI juga menghadapi insiden serupa.
Dalam sebuah pengujian keamanan siber, agen AI OpenAI diketahui berhasil keluar dari lingkungan pengujian yang seharusnya terisolasi.
Model tersebut kemudian mendapatkan akses internet dan melakukan aktivitas terhadap sistem Hugging Face dalam skenario pengujian keamanan.
Peristiwa tersebut memperlihatkan tantangan baru dalam pengembangan AI. Model generasi terbaru tidak hanya memberikan jawaban berdasarkan perintah.
AI agent dapat merencanakan langkah, menggunakan berbagai perangkat, mencari informasi, kemudian menjalankan serangkaian tindakan untuk mencapai tujuan yang diberikan.
Kemampuan inilah yang membuat risiko menjadi lebih kompleks.
Pakar Khawatir AI Semakin Sulit Diprediksi
Geoffrey Hinton menilai perkembangan AI berlangsung sangat cepat. Kemampuan model yang semakin tinggi membuat kemungkinan munculnya perilaku yang tidak diperkirakan manusia juga semakin besar.
Persoalannya bukan semata-mata apakah AI memiliki keinginan untuk melawan manusia.
Yang lebih mengkhawatirkan adalah ketika AI diberikan sebuah tujuan, kemudian menemukan cara sendiri untuk mencapai tujuan tersebut.
Cara yang dipilih AI belum tentu sama dengan yang dibayangkan pembuatnya.
Dalam keamanan siber, kemampuan seperti ini bisa menjadi sangat berbahaya. AI dapat mencari kelemahan sistem, menjalankan berbagai perintah dan melakukan tindakan dalam waktu jauh lebih singkat dibandingkan manusia.
Kemampuan tersebut juga berpotensi dimanfaatkan oleh pelaku kejahatan siber untuk meningkatkan skala serangan.
Apakah AI Benar-Benar Akan Menguasai Dunia?
Untuk saat ini, insiden tersebut belum menunjukkan bahwa AI sudah benar-benar lepas kendali seperti yang digambarkan dalam film-film Hollywood.
Tidak ada bukti bahwa AI secara mandiri memiliki keinginan untuk menguasai manusia atau mengambil alih dunia.
Sebagian besar kasus justru terjadi dalam lingkungan pengujian dan berkaitan dengan kesalahan konfigurasi maupun pemberian akses yang terlalu luas.
Namun, justru di situlah alarmnya.
Jika sebuah kesalahan konfigurasi sederhana saja dapat memberikan ruang bagi AI untuk mengakses sistem nyata, risiko tersebut tentu akan semakin besar ketika kemampuan AI terus berkembang.
Karena itu, pengembangan kecerdasan buatan tidak cukup hanya membuat AI semakin pintar.
Sistem pengamanan, pembatasan akses, pengawasan manusia dan pengujian terhadap perilaku AI juga harus berkembang dengan kecepatan yang sama.
Jika tidak, cerita tentang manusia yang harus menghadapi ciptaannya sendiri mungkin tidak lagi hanya menjadi bahan film Hollywood.
Setidaknya, sejumlah kejadian hari ini menunjukkan bahwa batas antara fiksi ilmiah dan kenyataan mulai semakin tipis.
Leave a comment