Ancaman Generative AI Terhadap Keamanan Siber pada 2024


Ilustrasi Cyber Security
Ilustrasi Cyber Security

Trend Micro, perusahaan keamanan cyber terkemuka, baru-baru ini merilis laporan yang menggugah kesadaran tentang potensi bahaya yang disebabkan oleh generative AI (GenAI) dalam ranah kejahatan siber. Dalam laporan yang berjudul "Critical Scalability: Trend Micro Security", Trend Micro memperingatkan bahwa Generative AI bisa menjadi senjata bagi para pelaku kejahatan siber untuk meningkatkan serangan mereka pada tahun 2024.

Salah satu prediksi yang dibuat oleh laporan ini adalah kemungkinan munculnya gelombang serangan sosial yang sangat canggih dan pencurian identitas yang menggunakan teknologi generative AI. Generative AI diprediksi akan merubah pasar phishing pada tahun 2024 dengan kualitas yang semakin meningkat, didukung oleh penggunaan Generative Adversarial Networks (GAN).

Laporan Trend Micro memperkirakan bahwa perubahan ini akan memungkinkan pembuatan konten audio dan video yang sangat realistis dengan biaya yang lebih efisien. Akibatnya, mungkin akan terjadi peningkatan dalam serangan business email compromise (BEC), penculikan virtual, dan penipuan lainnya. Laksana Budiwiyono, Country Manager Trend Micro Indonesia, mengungkapkan kekhawatirannya,"Large Language Models (LLM) yang canggih dan menguasai berbagai bahasa akan menjadi ancaman yang signifikan karena mereka mampu menghilangkan indikator khas phishing seperti format yang janggal atau kesalahan tata bahasa, sehingga semakin sulit untuk dideteksi."

Menurutnya, saat ini perusahaan-perusahaan di Indonesia harus beralih dari metode pelatihan phishing konvensional dan fokus pada penerapan pengendalian keamanan modern. “Pertahanan canggih ini tidak hanya melampaui kemampuan manusia dalam mendeteksi tetapi juga memastikan ketahanan atau resiliensi terhadap taktik baru itu. Inisiatif semacam itu sangat penting seiring dengan kemajuan AI di negara ini, yang diperkirakan akan memberikan kontribusi hingga US$ 366 miliar terhadap PDB pada tahun 2030," lanjutnya.

Namun demikian, tidak hanya perusahaan dan individu yang perlu waspada, model AI sendiri juga mungkin menjadi target serangan pada tahun 2024. Para pelaku kejahatan siber kemungkinan akan menargetkan model machine learning berbasis cloud yang sangat spesialis, mengingat dataset generative AI dan LLM sulit untuk dimanipulasi.

Pelatihan dataset yang lebih terfokus akan memperburuk situasi dengan serangan yang ditujukan untuk penyusupan data, pengambilan data sensitif, hingga merusak filter penipuan. Bahkan, serangan semacam itu bisa dilakukan dengan biaya kurang dari US$100, sehingga meningkatkan perlunya pengawasan dan regulasi yang lebih ketat dalam industri keamanan siber. Budiwiyono mengatakan "Di tahun mendatang, industri siber akan mulai mengungguli pemerintah dalam hal mengembangkan kebijakan atau peraturan khusus keamanan siber terkait AI."

Laporan Trend Micro tahun 2024 juga menyoroti beberapa tren yang diprediksi akan terjadi, antara lain:

  • Lonjakan Serangan Cloud-Native Worm

Serangan ini akan menargetkan kerentanan dan kesalahan konfigurasi, menggunakan otomatisasi tingkat tinggi untuk menjangkau banyak container, akun, dan layanan dengan mudah.

  • Keamanan Cloud

Keamanan cloud telah menjadi aspek krusial bagi perusahaan untuk menangani tantangan keamanan yang muncul dalam lingkungan cloud dan serangan otomatis. Langkah proaktif, seperti menerapkan mekanisme pertahanan yang kokoh dan melakukan audit keamanan secara menyeluruh, menjadi kunci dalam upaya mengurangi risiko keamanan yang dihadapi oleh perusahaan. 

Dengan mengadopsi pendekatan ini, perusahaan dapat memastikan bahwa data dan infrastruktur mereka terlindungi dengan optimal dalam era teknologi yang terus berkembang ini.

  • Lebih Banyak Serangan

Lebih banyak serangan cyber, tidak hanya menargetkan komponen perangkat lunak open-source di level upstream, namun juga akan menyasar manajemen identitas inventaris seperti SIM telco. Hal ini menjadi krusial terutama bagi sistem armada dan inventaris yang bergantung pada keandalan informasi identitas.

Pelaku kejahatan siber juga diperkirakan akan memanfaatkan supply chain perangkat lunak melalui sistem CI/CD, dengan fokus pada kerentanan pada komponen pihak ketiga/vendor. Dengan serangan yang semakin kompleks, perusahaan perlu meningkatkan tingkat kewaspadaan dan mengadopsi strategi keamanan yang lebih proaktif untuk melindungi infrastruktur dan data mereka.

  • Serangan Private Blockchain

Serangan pada private blockchain diprediksi akan meningkat akibat adanya kerentanan dalam implementasinya. Para pelaku ancaman dapat dengan langsung memodifikasi, menimpa, atau bahkan menghapus data yang ada dalam private blockchain, lalu meminta tebusan sebagai bentuk pemulihan data. 

Sebagai alternatif, jika memungkinkan, mereka juga bisa mencoba untuk mengenkripsi seluruh blockchain tersebut guna mengambil alih kendali atas sejumlah node yang signifikan. 

Kondisi ini menyoroti kebutuhan akan pengembangan keamanan yang lebih kuat dalam infrastruktur blockchain serta perluasan upaya perlindungan data untuk mengatasi ancaman yang semakin kompleks di era digital saat ini.

Tren-tren ini menggambarkan kompleksitas tantangan yang dihadapi dunia keamanan cyber pada tahun 2024. Dalam menghadapi ancaman ini, perusahaan dan pemerintah harus meningkatkan koordinasi dan kesiapan dalam menghadapi serangan siber yang semakin canggih dan merusak. Kesadaran akan potensi ancaman dan kerjasama lintas sektor akan menjadi kunci dalam menjaga keamanan siber global di era GenAI.


Bagikan artikel ini

Video Terkait