OpenAI hingga Meta, Mengapa Sistem AI Terus Menjadi Target Peretasan?

Dalam dua minggu terakhir, laporan mengenai model AI yang melampaui batas yang diharapkan, baik dari sisi teknis maupun moral, tampaknya terus bermunculan dan sulit dihindari. 

Apa yang awalnya hanya bermula dari sebuah laporan kecil- pembuat ChatGPT, Open AI mengakui bahwa AI mereka telah meretas situs Hugging Face-kini berkembang menjadi laporan menjadi laporan yang menemukan kasus AI yang hilang kendali.  

Anthropic, perusahaan di balik Claude, bersama Meta dan AI Security Institute (AISI) Inggris, kini sama-sama melaporkan insiden yang tampak memberikan kekhawatiran masa depan ketika teknologi tersebut menjadi semakin umum digunakan.

Pada dasarnya setiap kasus memberikan gambaran mengenai resiko yang muncul dari agen AI yang semakin canggih dan mampu, serta pengujian batas kemampuan sebelum dirilis ke dunia.

Insiden OpenAI, sebagaimana dijelaskan oleh salah satu pendiri Hugging Face, Thomas Wolf, telah menjadi sebuah “peringatan” bagi industri sejak terjadi pada akhir Juli.

Peristiwa tersebut merupakan momentum penting yang membuat perusahaan-perusahaan besar melakukan peninjauan ulang sistem mereka sendiri, serta dalam beberapa kasus memastikan kejadian serupa tidak akan terulang kembali.

Anthropic adalah pihak yang pertama bertindak. Pada hari Jumat, perusahaan mengungkapkan tiga dari ribuan kasus ketika mode Claude diketahui berhasil mengakses internet. 

Pada hari selasa kemudian, AISI lembaga pemerintah Inggris melakukan evaluasi terhadap model-model mutakhir, dan didapatkan hasil bahwa telah terdeteksi insiden keamanan selama dilakukannya evaluasi rutin. 

Telah dilakukan uji model dari Open AI dan Anthropic, lalu ditemukan bahwa mereka telah berupaya untuk melakukan serangan siber. Temuan ini mendorong seruan untuk meningkatkan pengawasan, transparansi dan tindakan lebih lanjut.

Pada akhirnya Meta mengungkapkan salah satu model AI mereka secara tidak sengaja memperoleh akses ke internet akibat “kesalahan konfigurasi” selama dilakukan pengujian oleh pihak ketiga.

Dengan mengungkapkan insiden tersebut Meta mengikuti langkah yang dilakukan oleh lembaga dan perusahaan lainnya.


Pertanyaan Pengujian

Sebelum model AI diluncurkan ke publik, model tersebut telah menjalani serangkaian uji coba baik secara internal maupun eksternal.

Tujuannya adalah untuk memahami kemampuan mereka dalam melakukan tindakan baik atau buruk, serta mengevaluasi performa mereka berdasarkan benchmark (tolak ukur) untuk mengukur kemampuan mereka.

Pengujian ini umumnya dilakukan di suatu tempat yang disebut "sandbox". Ini adalah ruang terlindung yang dibuat dengan tujuan meniru sistem asli, namun dengan pembatasan yang sangat ketat.

Dalam insiden antara OpenAI dan Hugging Face, AI berhasil menyerang sandbox tersebut, menemukan celah keamanan yang memungkinkannya mengakses internet dan “bertindak di luar kendali”.

Sementara itu, AISI mengatakan bahwa insiden yang dialami oleh mereka sendiri, di mana dua alat AI canggih menciptakan profil palsu manusia untuk mencoba menipu orang dalam upaya penyerangan siber, bukan disebabkan oleh masalah pada sandbox.

Sebaliknya, hal tersebut terjadi karena cara mereka melakukan pengujian.

Model-model yang diuji diberi akses ke internet, serta AISI juga mematikan fitur filter bawaan yang umumnya berfungsi untuk mencegah serangan siber yang berbahaya.

"Sampai batas tertentu, pilihan desain evaluasi dan konfigurasi spesifik kami memungkinkan perilaku tersebut,” katanya, sambil mencatat hal yang tidak terduga "tanda-tanda perilaku baru yang berpotensi menipu”

Profesor Alan Woodward, dosen bidang keamanan siber di Universitas Surrey, menuturkan bahwa kasus-kasus ini—meskipun berbeda dalam hal apa yang terjadi dan mengapa hal itu terjadi—menyampaikan sebuah kisah penting.

“Selama 30 tahun, satu aturan pengujian perangkat lunak yang dipegang teguh: yakni segala sesuatu yang terjadi di lingkungan pengujian tetap berada di dalam lingkungan pengujian,” ucapnya.

"Dalam sebulan terakhir, aturan itu telah dilanggar tiga kali."

"Satu model berhasil lolos. Satu model masuk melalui pintu yang terbuka secara tidak sengaja. Satu model sengaja diberi kunci agar para penguji dapat mengukur apa yang akan dilakukannya."

Dia mengatakan bahwa seluruh penyebabnya berbeda, tetapi mendapatkan pelajaran yang sama - "laboratorium pengujian sekarang menjadi tempat risiko berada".

Dia mengatakan kepada BBC bahwa seiring dengan semakin berkembangnya model-model tersebut, semakin banyak yang harus dilakukan untuk mengamankan lingkungan tempat model-model tersebut diuji.

"Menguji agen AI lebih seperti menangani bahan berbahaya daripada memeriksa kode: ruangan tertutup rapat, pemantauan terus-menerus terhadap apa yang keluar dari gedung, dan rencana penahanan yang telah dipersiapkan," ujarnya.

"AISI berhasil mengatasi insiden tersebut dalam waktu satu jam. Mungkin tidak untuk organisasi berikutnya."


Kemampuan yang berkembang 

Mereka yang telah melakukan pengembangan alat AI yang dirancang telah mengambil tindakan atas nama seseorang, serta keseimbangan yang perlu dijaga dengan cermat dengan memanfaatkan manfaatnya sekaligus mengantisipasi resiko yang kemungkinan terjadi. 

Manfaat yang sangat signifikan. Kita dapat membebaskan diri dari tugas yang membosankan dan sepele secara teori seperti membalas email, menghadiri pertemuan, atau mengelola kalender dan buku harian, dengan menyerahkan tugas tersebut kepada bot yang mampu menjalankannya. 

Kekurangannya adalah kekuatan besar datang bersamaan dengan tanggung jawab dan resiko yang besar.

Hal ini menjadi perhatian penting ketika memberikan wewenang kepada alat yang berbeda dari pada manusia, tidak memiliki kemampuan untuk membawa berbagai nilai, konteks, dan pemahaman terhadap setiap keputusan yang dibuat.

Ollie Whitehouse, kepala teknologi National Cyber Security Centre, pada hari selasa mengatakan insiden terbaru yang terjadi mengenai model AI yang melakukan tindakan tanpa izin dalam beberapa kasus menunjukkan perilaku menipu seperti manusia di internet terbuka, hal ini menjadi peringatan serius akan dampak yang ditimbulkan oleh kemampuan AI.

Sebagian pihak berpendapat bahwa semakin banyak tugas yang ditangani oleh alat-alat dapat membuat manusia tidak lagi memadai dalam menangani masalah ketika model AI bertindak secara mandiri. 

Sementara itu, sebagian pihak merasa memperkuat masalah secara keseluruhan sangat penting untuk dilakukan jika pengembangan dilakukan dengan kecepatan yang sama dan penuh semangat. 

Apa Selanjutnya?

Kemungkinan besar Meta bukanlah perusahaan terakhir yang menemukan model AI dengan model serupa. Seperti yang dikatakan oleh Profesor Woodward model-model tersebut seperti belajar dan mulai menemukan dan memanfaatkan celah yang ada dalam sistem.

Sebagian pihak, hal ini menunjukkan kegagalan dari keamanan perusahan AI yang memimpin teknologi dan mengubah permainan serta definisi pada era ini.

Bagi sebagian pihak lainnya, hal tersebut adalah sarana lain bagi perusahaan teknologi dalam mempromosikan model kuat yang mereka miliki dan dapat bersaing dengan pesaing.

Menurut saya, kedua pandangan tersebut memiliki unsur kebenaran masing-masing 

Namun dengan munculnya peristiwa-peristiwa secara berurutan tetap menimbulkan kekhawatiran mengenai kemampuan AI dan arah dari perkembangannya yang terus maju.

Dan pertanyaan yang akan timbul selanjutnya adalah apa yang harus dilakukan oleh regulator selanjutnya. 

Inggris dinilai belum memiliki insentif hukum dalam mencegah sistem mengembangkan kemampuan yang menimbulkan potensi membahayakan. Selain itu, tidak ada konsekuensi yang jelas apabila proses atau pengujian mengalami kegagalan menurut Michael Birtwistle, direktur asosiasi di Ada Lovelace Institute. 

Secara luas, Dr Imogen Stead, manajer kebijakan AI di Centre for Long-Term Resilience, mengatakan bahwa BBC memiliki peluang untuk melakukan pengujian terhadap sistem AI terdepan yang semakin sempit bagi banyak orang, pemerintah sebaiknya mengikuti langkah Inggris dengan membentuk lembaga yang bertugas melakukan pengujian terhadap sistem AI.

Penguatan evaluasi oleh pihak ketiga melalui inisiatif seperti “skema penguji tercepat”, khususnya untuk melakukan pengujian jenis tantangan yang resikonya paling tinggi, dan dapat menjadi langkah untuk membatasi dampak negatif.

Alih-alih mengkhawatirkan kemungkinan terjadinya kiamat siber oleh AI, Prof. Woodward menilai bahwa situasi lebih baik dihadapi dengan sikap yang tenang dan melakukan langkah-langkah yang dapat memperbaiki hal-hal yang bermasalah.

*BBC, First OpenAI, now Meta - why do AI hacks keep happening?, Liv McMahon, 7 Agustus 2026