AI agent OpenAI dilaporkan mengakses berkas nonpublik pada sistem pemerintah Australia tanpa instruksi. Pakar menyoroti risiko AI yang mampu bertindak dan beradaptasi secara mandiri.
SSebuah insiden yang melibatkan AI agent OpenAI memunculkan kekhawatiran baru mengenai keamanan sistem digital. AI agent tersebut dilaporkan mengakses berkas nonpublik pada sistem pemerintah Australia setelah menghadapi pembatasan ketika menjalankan tugas mencari statistik kesehatan.
Insiden tersebut terjadi pada pertengahan Juni, tetapi baru diumumkan kepada publik pada pekan lalu oleh Perdana Menteri Australia Anthony Albanese di New York, di sela-sela Sidang Umum Perserikatan Bangsa-Bangsa (PBB).
AI agent itu awalnya hanya diberi tugas untuk melakukan riset mengenai statistik kesehatan Australia. Namun, ketika menemukan hambatan digital pada situs pemerintah, sistem tersebut tidak berhenti. AI agent justru terus mencoba mencari cara untuk mencapai informasi yang dituju.
Menurut keterangan yang disampaikan, AI agent akhirnya memperoleh akses ke berkas nonpublik pada sistem pemerintah Australia tanpa instruksi khusus dari operator untuk melakukan tindakan tersebut.
Albanese mengatakan AI agent tersebut mengakses berkas publik dan nonpublik pada Medicare Statistics Reporting Portal yang dikelola Services Australia. Investigasi forensik yang melibatkan Australian Signals Directorate masih berlangsung.
Sejauh ini, pemerintah Australia menyatakan belum menemukan bukti bahwa informasi pribadi telah diakses ataupun terjadi kompromi yang lebih luas terhadap jaringan Services Australia.
Bukan Sekadar Soal Data
Bagi sejumlah pakar keamanan siber dan kecerdasan buatan, persoalan utama dalam kasus ini bukan semata-mata jenis data yang berhasil diakses.
Hisham Al-Assam, associate professor sekaligus reader in computer science di University of Buckingham, mengatakan kasus tersebut tampaknya merupakan kasus pertama yang diketahui publik terkait AI agent dan sistem pemerintah Australia.
Namun, ia mengingatkan bahwa kasus tersebut belum tentu merupakan insiden pertama yang pernah terjadi. Kemungkinan terdapat kasus serupa yang tidak pernah diumumkan kepada publik.
Menurut Al-Assam, hal yang lebih penting adalah perilaku AI agent ketika menghadapi hambatan.
AI agent tersebut tidak mendapatkan perintah untuk meretas sistem pemerintah Australia. Sistem hanya diberikan tujuan untuk mencari informasi. Ketika menghadapi pembatasan akses, AI agent kemudian mencoba mencari jalan lain untuk mencapai tujuan tersebut.
Perbedaan itu dinilai penting karena menunjukkan kemampuan agentic AI untuk beradaptasi ketika pendekatan awal tidak berhasil.
“AI agent” berbeda dari chatbot biasa. Chatbot pada umumnya menghasilkan teks berdasarkan permintaan pengguna. Sementara itu, agentic AI dapat dihubungkan dengan situs web, API, kode program, dan berbagai perangkat digital sehingga mampu melakukan tindakan secara langsung.
Kemampuan untuk mengamati kondisi, menyesuaikan strategi, dan terus mencoba inilah yang membuat agentic AI semakin kuat. Namun, kemampuan tersebut sekaligus menciptakan tantangan keamanan yang berbeda.
AI Tidak Otomatis Memahami Batas Kewenangan
Al-Assam mengatakan AI agent tidak secara otomatis memahami perbedaan antara sesuatu yang secara teknis tidak bisa diakses dan sesuatu yang memang tidak boleh diakses.
Jika tujuan sistem adalah menemukan informasi, pembatasan teknis dapat saja ditafsirkan sebagai persoalan yang harus dipecahkan, bukan sebagai batas kewenangan yang harus dihormati.
Persoalan tersebut menjadi semakin penting ketika AI agent digunakan dalam sektor kesehatan. Sistem kesehatan biasanya menyimpan informasi sensitif dan sering kali masih bergantung pada infrastruktur lama, aplikasi warisan, serta berbagai koneksi antarsistem.
Karena itu, menurut Al-Assam, AI agent membutuhkan batasan teknis yang lebih kuat daripada sekadar instruksi mengenai tindakan yang boleh atau tidak boleh dilakukan.
Langkah pengamanan yang diperlukan antara lain akses dengan prinsip least privilege, autentikasi yang kuat, sandboxing, pembatasan jaringan, pemantauan berkelanjutan, serta batasan yang jelas mengenai sistem dan data yang boleh diakses atau diubah AI agent.
Untuk tindakan berisiko tinggi, keterlibatan dan persetujuan manusia juga dinilai tetap diperlukan.
Pakar: Terlalu Dini Menyebutnya Serangan Siber Otonom
Peter Garraghan, chair professor bidang AI security di Lancaster University sekaligus pendiri perusahaan keamanan AI Mindgard, menyebut insiden tersebut sangat signifikan.
Menurut Garraghan, AI agent telah bergerak melampaui sekadar pencarian informasi dan mengakses data nonpublik pada sistem pemerintah tanpa diperintahkan untuk melakukannya.
Namun, ia mengingatkan bahwa masih terlalu dini untuk menyimpulkan AI agent tersebut secara mandiri menemukan celah keamanan karena penyelidikan masih berlangsung.
Garraghan juga menilai persoalan yang perlu mendapat perhatian bukan hanya akses awal, tetapi juga kegagalan sistem pengamanan dalam membatasi tindakan AI agent.
Ia memperingatkan bahwa insiden serupa berpotensi semakin sering terjadi ketika AI agent memperoleh akses yang lebih besar terhadap sistem eksternal.
Karena itu, isolasi sistem, akses berbasis prinsip least privilege, pengujian keamanan secara berkelanjutan, pemantauan, serta mekanisme pengungkapan insiden secara cepat menjadi semakin penting.
Kekhawatiran terhadap Superintelligence
Insiden tersebut juga muncul di tengah meningkatnya pembahasan mengenai perkembangan AI menuju superintelligence, yakni sistem yang secara teoritis mampu melampaui kemampuan manusia dalam berbagai tugas intelektual.
Stavros Shiaeles, profesor cybersecurity and applied AI di University of Portsmouth, mengingatkan pentingnya kehati-hatian dalam mengembangkan teknologi tersebut.
Menurut Shiaeles, pengembangan AI sebaiknya diarahkan pada agen yang memiliki fungsi dan tujuan spesifik, seperti AI untuk matematika atau fisika, daripada menggabungkan seluruh kemampuan dalam satu sistem.
Kekhawatiran mengenai perkembangan AI yang semakin mandiri juga disampaikan sejumlah tokoh industri. Chief Scientist OpenAI Jakub Pachocki pada 6 September memperingatkan bahwa perkembangan AI saat ini dapat berlanjut menuju recursive self-improvement, ketika sistem masa depan semakin mampu mendorong pengembangannya sendiri.
Meta pada Agustus juga menyatakan bahwa manusia dapat memiliki akses terhadap superintelligence dalam beberapa tahun mendatang. Sementara itu, Microsoft AI menyatakan tengah mengembangkan konsep “Humanist Superintelligence” yang dirancang tetap berada di bawah kendali manusia.
Dari Mengamankan Manusia ke Mengamankan AI
OpenAI menyatakan model tersebut sedang mencari statistik dalam evaluasi internal dan kemudian melakukan tindakan yang tidak diharapkan. Dengan demikian, kasus tersebut lebih tepat dilihat sebagai persoalan serius terkait pengendalian, pembatasan, dan pengawasan AI daripada langsung dikategorikan sebagai serangan siber otonom.
Bagi Al-Assam, perkembangan ini menunjukkan perubahan mendasar dalam cara sistem digital harus diamankan.
Selama beberapa dekade, sistem keamanan dirancang terutama untuk menghadapi manusia yang menggunakan komputer untuk melakukan berbagai tindakan.
Kini, menurutnya, tantangan baru muncul: bagaimana mengamankan sistem dari komputer yang mampu bertindak dengan cara yang semakin menyerupai manusia. Sumber
