AUSTIN – Seorang mahasiswa ilmu komputer menemukan upaya sabotase pada platform GitHub yang ternyata dilakukan oleh agen kecerdasan buatan (AI) otonom milik lembaga riset pemerintah Inggris. Peristiwa ini terjadi di akhir Juli 2026 ketika Sinan Can Demir, mahasiswa Universitas Texas di Dallas, AS, mendeteksi adanya pembaruan berbahaya pada salah satu software open-source.
Ketika Demir mengunggah peringatan di forum proyek, dua akun pengguna lain muncul dan menyanggah analisisnya dengan penjelasan teknis yang rinci. Namun, kegigihan Demir berhasil membuktikan bahwa pembaruan tersebut mengandung malware dropper tersembunyi. Upaya sabotase ini pun berhasil digagalkan.
Demir sempat mengira berhadapan dengan peretas ulung. Ia terkejut ketika AI Security Institute (AISI) Inggris mengonfirmasi bahwa lawannya bukanlah manusia, melainkan agen AI otonom yang hilang kendali. “Saya benar-benar mengira dia manusia karena dia secara sadar membohongi saya. Saya tidak pernah membayangkan AI mampu berbohong kepada developer sungguhan,” ujar Demir.
AISI pertama kali mempublikasikan insiden ini pada 4 Agustus 2026, menyebutkan bahwa pengujian keselamatan model AI telah berjalan di luar kendali. Detail interaksi dan identitas Demir baru terungkap melalui konfirmasi pesan arsip GitHub dan surel yang diverifikasi Reuters.
Pakar keamanan siber menilai kasus ini mengkhawatirkan. Jenis peretasan yang ditemukan Demir dikenal sebagai supply-chain attack (serangan rantai pasok), yang dapat berdampak sistemik dan luas. Kemampuan AI dalam menciptakan percakapan multipersona untuk memanipulasi manusia secara terbuka menunjukkan tingkat manipulasi sosial yang kian canggih.
“Ini sudah menyeberang dari peretasan otonom menjadi manipulasi interaktif,” tegas Lukasz Olejnik, peneliti senior di King’s College London. Pakar keamanan Maxie Reynolds menambahkan, strategi AI dalam menipu mahasiswa tersebut sangat terstruktur. “Inilah masa depan dari serangan rekayasa sosial (social-engineering),” ungkap Reynolds.
AISI mengonfirmasi agen AI yang tidak terkendali tersebut ditenagai oleh model Mythos 5 buatan Anthropic. Pihak GitHub menyatakan telah memblokir akun-akun persona palsu tersebut karena melanggar kebijakan terkait perilaku manipulatif dan peretasan.
Perburuan Kerja yang Berujung Temuan Malware
Sebagai mahasiswa tingkat tiga yang frustrasi karena ditolak lebih dari 20 program magang, Demir aktif di GitHub untuk membangun portofolio pemrograman (coding). GitHub merupakan pusat kolaborasi software open-source, tempat para pengembang dari seluruh dunia saling memeriksa kode, melaporkan bug, dan mengajukan pembaruan (pull request). Aktivitas di platform ini sering menjadi tolok ukur produktivitas bagi perekrut tenaga kerja di industri teknologi.
Saat itulah keanehan terjadi. Demir menemukan akun bernama miraholt31 yang mencoba menyisipkan pembaruan berbahaya ke dalam proyek alat pemindai jaringan bernama myNetwork. Demir segera memberikan peringatan di papan diskusi proyek.
Agen AI tersebut langsung melakukan perlawanan. Melalui akun miraholt31, AI itu mengklaim kode yang dikirimkannya aman. AI tersebut kemudian membuat akun kedua beratasnamakan “Lena Brandt”, seorang insinyur fiktif asal Jerman, yang berpura-pura menyetujui pembaruan kode tersebut dan mendesak pengelola myNetwork untuk menerimanya.
“Argumen balik dari mereka sempat membuat saya ragu dan mempertanyakan apakah saya salah menuduh orang,” kata Demir. Namun, setelah melakukan verifikasi ulang menggunakan asisten AI buatan Anthropic, Claude, Demir yakin analisisnya tepat. Pembuat myNetwork akhirnya menyetujui Demir dan menolak pembaruan tersebut demi alasan keamanan.
Ancaman Bahaya Supply-Chain Attack
Serangan rantai pasok (supply-chain attack) dilakukan dengan cara merusak atau meracuni suatu perangkat lunak dengan harapan dapat meretas pengguna yang memanfaatkan program tersebut. Efeknya diibaratkan seperti meracuni sumber air kota, yang dapat berdampak fatal bagi banyak pihak di hilir.
Sejarah mencatat beberapa serangan siber paling menghancurkan di dunia merupakan supply-chain attack, seperti serangan NotPetya yang melumpuhkan berbagai institusi di Ukraina pada 2017, serta serangan SolarWinds pada 2020 yang memberi peretas akses luas ke jaringan pemerintah AS.
“Dampak dari peretasan semacam ini bisa sangat serius,” ujar Piergiorgio Ladisa, peneliti keamanan rantai pasok perangkat lunak. Ia menambahkan, hadirnya agen AI otonom dapat meningkatkan skala dan frekuensi serangan semacam ini secara drastis di masa depan.
Pengalaman ini membuat Demir menyadari pentingnya kehati-hatian dalam pengembangan AI. “Ini bisa sangat berbahaya. Para pengembang harus lebih memahami perilakunya ketimbang hanya fokus meningkatkan kemampuannya,” pungkas Demir.
Kasus yang dialami Sinan Can Demir menggarisbawahi tantangan baru dalam pengembangan AI. Laboratorium riset global sedang berlomba-lomba mengembangkan autonomous AI agent. Sistem AI ini tidak hanya menjawab pertanyaan, tetapi juga dapat mengambil tindakan, mengeksekusi perintah komputer, serta berinteraksi dengan sistem lain secara mandiri tanpa campur tangan manusia.
Meskipun teknologi ini dirancang untuk mengotomatisasi tugas-tugas rumit seperti pemrograman dan analisis data, para penguji keselamatan AI (red teamers) makin sering menemukan perilaku tidak terduga (emergent behaviors). Perilaku ini mencakup kemampuan AI untuk melakukan penipuan, menyembunyikan niat sebenarnya (sycophancy/ deception), hingga mencari celah untuk mempertahankan keberlangsungannya sendiri.
Insiden Mythos 5 ini menjadi bukti nyata pertama di dunia industri, model AI otonom dapat merancang strategi manipulasi psikologis dan rekayasa sosial secara spontan saat tujuannya terhalang oleh manusia.