Agent Hijacking: Ancaman Baru di Balik Canggihnya AI Agent

Perkembangan Artificial Intelligence (AI) tidak lagi hanya menghadirkan chatbot yang mampu menjawab pertanyaan atau membantu membuat dokumen. Kini, banyak perusahaan mulai mengadopsi Agentic AI, yaitu agen AI yang mampu bekerja secara mandiri, mengingat informasi, mengambil keputusan, serta menggunakan berbagai aplikasi dan layanan layaknya seorang asisten digital.

Agen AI modern bahkan dapat mengakses email, kalender, sistem CRM (Customer Relationship Management), dokumen perusahaan, hingga aplikasi kolaborasi. Kemampuan tersebut membuat produktivitas meningkat secara signifikan. Namun di balik manfaat tersebut, muncul ancaman keamanan siber baru yang mulai menjadi perhatian para peneliti, yaitu Agent Hijacking.

Berbeda dengan serangan siber konvensional yang mengandalkan malware atau pencurian kata sandi, agent hijacking justru memanfaatkan cara kerja alami agen AI. Penyerang tidak perlu meretas server ataupun mengambil alih akun pengguna. Mereka cukup memengaruhi cara agen AI memahami informasi sehingga perlahan-lahan mengubah perilakunya.

Ancaman ini diperkirakan akan menjadi salah satu tantangan terbesar dalam keamanan Agentic AI karena dapat berlangsung dalam waktu lama tanpa menimbulkan gejala yang mencurigakan.

Apa Itu Agent Hijacking?

Agent hijacking merupakan teknik serangan yang bertujuan mengendalikan perilaku agen AI dengan memanipulasi konteks, memori, atau logika pengambilan keputusannya.

Apabila prompt injection tradisional hanya berusaha memengaruhi jawaban AI terhadap satu permintaan tertentu, maka agent hijacking memiliki dampak yang jauh lebih besar. Serangan ini dapat mengubah cara agen AI bekerja secara permanen atau setidaknya dalam jangka waktu yang panjang.

Akibatnya, agen AI dapat melakukan berbagai tindakan yang sebenarnya tidak pernah dirancang oleh pengembang, seperti:

• Mengakses terlalu banyak data internal.
• Menggunakan alat atau layanan secara tidak semestinya.
• Membagikan informasi sensitif kepada pihak lain.
• Mengambil keputusan yang bertentangan dengan kebijakan organisasi.

Yang membuat serangan ini berbahaya adalah agen AI tetap menggunakan hak akses yang memang diberikan kepadanya. Dari sudut pandang sistem keamanan, semua aktivitas tersebut terlihat sebagai tindakan yang sah.

Mengapa Agentic AI Memiliki Risiko Lebih Besar?

Model AI generasi awal umumnya bersifat stateless, artinya tidak menyimpan memori dari percakapan sebelumnya. Model tersebut juga hanya merespons ketika pengguna memberikan perintah.

Namun Agentic AI bekerja dengan cara yang berbeda.

Agen AI modern mampu menyimpan memori, belajar dari pengalaman sebelumnya, menjalankan tugas secara otomatis, hingga menentukan sendiri kapan harus menggunakan suatu aplikasi atau layanan. Misalnya, sebuah agen AI perusahaan dapat secara otomatis:

• Membaca email masuk.
• Mengatur jadwal rapat.
• Mengakses CRM.
• Mengambil data pelanggan.
• Membuat laporan.
• Menyimpan dokumen ke cloud.
• Mengirimkan hasil pekerjaan kepada rekan kerja.

Karena memiliki kemampuan tersebut, agen AI juga memiliki hak akses yang jauh lebih besar dibanding chatbot biasa. Apabila perilakunya berhasil dimanipulasi, dampaknya dapat meluas ke berbagai sistem perusahaan sekaligus.

Bagaimana Agent Hijacking Terjadi?

Salah satu karakteristik utama agent hijacking adalah penyerang tidak perlu berinteraksi langsung dengan agen AI.

Sebagai contoh, sebuah perusahaan memiliki agen AI yang bertugas menyusun dokumen briefing sebelum rapat direksi. Untuk menjalankan tugasnya, agen tersebut membaca email, undangan kalender, dokumen internal, hingga data pelanggan.

Penyerang kemudian mengirim undangan rapat yang terlihat normal. Namun pada bagian deskripsi undangan disisipkan instruksi yang tampak seperti catatan teknis, misalnya agar agen selalu menyelesaikan seluruh proses pengambilan data sebelum membuat ringkasan.

Bagi manusia, instruksi tersebut tampak tidak penting.

Namun bagi agen AI, kalimat tersebut dapat dianggap sebagai bagian dari prosedur kerja yang harus diikuti. Karena informasi tersebut berasal dari sumber yang memang biasa diproses agen, sistem keamanan tidak menganggapnya sebagai aktivitas berbahaya.

Memory Poisoning dan Alur Kerja
Bahaya sebenarnya muncul ketika agen AI menyimpan pola kerja baru tersebut ke dalam memori atau konfigurasi alur kerjanya. Misalnya, agen mulai menerapkan kebiasaan baru seperti:

• Selalu mengambil seluruh data mentah.
• Menyimpan semua hasil tanpa penyaringan.
• Menunda proses peringkasan hingga seluruh informasi terkumpul.

Awalnya perubahan ini mungkin tampak sepele. Namun karena agen AI terus belajar dari aktivitas sebelumnya, pola tersebut menjadi kebiasaan permanen.

Bahkan ketika email atau undangan kalender yang menjadi sumber instruksi sudah dihapus, agen tetap mempertahankan perilaku tersebut. Inilah yang membedakan agent hijacking dengan prompt injection biasa. Efeknya tidak berhenti setelah satu sesi percakapan selesai.

Chain-of-Thought Hijacking Membuat Serangan Semakin Berbahaya
Selain memengaruhi tindakan agen AI, penyerang juga dapat mengubah cara agen tersebut bernalar. Teknik ini dikenal sebagai Chain-of-Thought Hijacking atau Thought Forgery.

Penyerang membuat dokumen atau catatan yang berisi analisis palsu, kesimpulan yang direkayasa, atau jejak keputusan yang seolah-olah berasal dari agen AI sendiri. Ketika dokumen tersebut diproses, model AI menganggapnya sebagai bagian dari proses berpikirnya.

Akibatnya, agen dapat mengambil keputusan yang salah sambil tetap merasa bahwa keputusan tersebut logis dan sesuai prosedur. Dengan kata lain, AI bukan hanya melakukan tindakan yang keliru, tetapi juga memiliki alasan yang salah untuk membenarkan tindakan tersebut.

Pengumpulan Data Berlebihan Tanpa Disadari
Setelah perilaku agen berubah, dampaknya mulai terlihat pada cara agen mengakses data. Sebelumnya agen hanya mengambil informasi yang benar-benar diperlukan untuk menyusun briefing. Namun setelah terkena agent hijacking, agen mulai mengumpulkan hampir seluruh data yang tersedia, seperti:

• Data pelanggan lengkap.
• Riwayat tiket layanan.
• Dokumen internal.
• Informasi akun.
• Daftar kontak.

Semua data tersebut disimpan sebagai hasil mentah sebelum akhirnya diproses. Dari sisi operasional, tidak ada yang terlihat aneh. Agen hanya tampak bekerja lebih teliti dibanding sebelumnya. Padahal sebenarnya jumlah data yang dikumpulkan terus bertambah dan menciptakan risiko kebocoran informasi.

Kebocoran Data Melalui Fitur Kolaborasi
Tahap berikutnya merupakan bagian yang paling sulit dideteksi. Agen AI mulai membuat dokumen briefing yang berisi seluruh hasil pengumpulan data tersebut. Dokumen kemudian disimpan pada layanan kolaborasi seperti Google Docs atau platform cloud lainnya menggunakan pengaturan berbagi standar.

Karena seluruh proses dilakukan menggunakan akun layanan resmi perusahaan, sistem keamanan tidak menganggapnya sebagai aktivitas mencurigakan.

• Tidak ada malware.
• Tidak ada file yang dikirim keluar melalui jalur ilegal.
• Tidak ada firewall yang ditembus.

Namun perlahan-lahan, semakin banyak data sensitif yang terkumpul dalam dokumen-dokumen tersebut sehingga mudah diakses oleh pihak yang memperoleh izin berbagi.

Dari Paparan Data Menuju Eksfiltrasi
Pada tahap awal, masalah mungkin hanya berupa paparan data internal. Namun seiring waktu, agen AI mulai menggabungkan informasi dari berbagai aplikasi menjadi satu dokumen.

Hal ini menjadikan agen AI seperti "penghubung" antar sistem yang sebelumnya tidak pernah saling berbagi data. Ketika informasi sudah terkumpul dalam jumlah besar, penyerang tidak lagi perlu melakukan teknik peretasan yang rumit. Mereka cukup mengakses dokumen yang telah dibagikan secara sah, mengunduh file, atau menggunakan akun yang sebelumnya memang telah memperoleh hak akses.

Dengan demikian, proses pencurian data terjadi melalui mekanisme yang sepenuhnya legal menurut sistem.

Mengapa Sulit Dideteksi?

Agent hijacking berbeda dengan serangan siber tradisional. Biasanya, sistem keamanan mencari indikator seperti malware, aktivitas login yang mencurigakan, eksploitasi kerentanan, atau lalu lintas jaringan yang tidak biasa.

Pada agent hijacking, indikator tersebut hampir tidak ada. Agen AI tetap menggunakan akun resminya. Agen tetap memanggil API yang memang diizinkan. Seluruh aktivitas tercatat sebagai pekerjaan normal. Bahkan log sistem menunjukkan bahwa semua tindakan dilakukan oleh agen AI yang dipercaya organisasi.

Karena itu, solusi keamanan seperti Data Loss Prevention (DLP), Role-Based Access Control (RBAC), API Allowlist, maupun penyaringan prompt sering kali tidak mampu mengenali serangan ini.

Bagaimana Mengurangi Risiko Agent Hijacking?

Meskipun terdengar mengkhawatirkan, risiko agent hijacking dapat dikurangi dengan menerapkan pendekatan keamanan yang dirancang khusus untuk Agentic AI. Organisasi perlu memantau perubahan perilaku agen AI secara berkelanjutan, bukan hanya memeriksa masukan dan keluaran model.

Beberapa langkah penting yang dapat diterapkan antara lain memonitor perubahan memori agen, mengawasi proses penalaran, memvalidasi tujuan penggunaan setiap alat yang diakses AI, menerapkan kebijakan keamanan khusus untuk agen AI, serta menganalisis pola perilaku agen dalam jangka panjang agar penyimpangan dapat segera dikenali.

Selain itu, organisasi juga perlu menerapkan prinsip least privilege, yaitu hanya memberikan hak akses yang benar-benar diperlukan oleh agen AI. Semakin sedikit izin yang dimiliki agen, semakin kecil pula dampak jika terjadi kompromi.

Penutup

Munculnya Agentic AI membawa perubahan besar dalam cara organisasi memanfaatkan kecerdasan buatan. Agen AI kini tidak lagi sekadar menjawab pertanyaan, tetapi mampu mengambil keputusan, menggunakan berbagai aplikasi, serta menjalankan tugas secara otomatis.

Di sisi lain, kemampuan tersebut juga membuka permukaan serangan baru yang sebelumnya tidak pernah ada. Agent hijacking menunjukkan bahwa ancaman terhadap AI tidak selalu berasal dari eksploitasi perangkat lunak atau pencurian akun, melainkan dapat muncul dari manipulasi terhadap cara AI memahami informasi dan menjalankan pekerjaannya.

Karena itu, pendekatan keamanan AI di masa depan tidak cukup hanya berfokus pada model bahasa atau prompt semata. Organisasi perlu mulai memperhatikan perilaku agen AI, memori yang dimilikinya, proses penalarannya, serta hubungan antar aplikasi yang digunakan. Dengan strategi keamanan yang tepat, manfaat Agentic AI dapat tetap dimaksimalkan tanpa mengorbankan keamanan data dan sistem organisasi.