Google, Anthropic, OpenAI Rilis AI untuk Hadapi Ancaman Siber

Persaingan pengembangan kecerdasan buatan (AI) kini memasuki wilayah yang semakin sensitif, yakni keamanan siber. Tiga perusahaan AI besar, Google, Anthropic, dan OpenAI, sama-sama memperkenalkan model serta program baru yang dirancang untuk menghadapi ancaman siber sekaligus membatasi potensi penyalahgunaannya.

Google menjadi salah satu perusahaan yang lebih dulu mengumumkan model keamanan siber terbarunya. Perusahaan memperkenalkan Gemini 3.8 Flash Cyber, yang diklaim sebagai model AI paling mumpuni milik Google untuk kebutuhan keamanan siber.

Model tersebut tidak langsung dibuka untuk publik secara luas. Google memilih memberikan akses kepada kelompok tertentu melalui program bernama Fairwind Program.

Program ini dirancang untuk memberikan akses lebih awal kepada organisasi yang memiliki peran penting dalam melindungi infrastruktur digital, termasuk pemerintah, penyedia layanan kesehatan, perusahaan telekomunikasi, serta sejumlah mitra keamanan siber.

Menurut Google, akses lebih awal tersebut diharapkan memungkinkan para pihak yang bertugas menjaga sistem penting untuk menemukan dan memperbaiki kelemahan sebelum celah keamanan tersebut dimanfaatkan oleh penyerang.

"Fairwind Program memberikan akses awal kepada pihak-pihak yang memiliki prioritas tinggi dalam pertahanan, seperti pemerintah, penyedia layanan kesehatan, dan layanan telekomunikasi. Mereka dapat menggunakan model canggih untuk membangun pertahanan yang lebih baik sebelum ancaman baru muncul," kata Google.

Dengan pendekatan tersebut, Google ingin menciptakan keunggulan bagi pihak yang bertahan dalam menghadapi serangan siber. Prinsipnya sederhana: semakin cepat kerentanan ditemukan, semakin besar peluang organisasi memperbaikinya sebelum menjadi pintu masuk serangan.

Google Gandeng Lebih dari 650 Mitra

Google mengatakan Fairwind Program saat ini melibatkan lebih dari 650 mitra di seluruh dunia. Beberapa di antaranya adalah CrowdStrike, Datadog, Menlo Security, Palo Alto Networks, dan Snowflake. Program tersebut ditujukan bagi kelompok pelanggan Google Cloud tertentu, lembaga pemerintah, serta mitra yang bergerak di bidang keamanan siber.

Kehadiran Gemini 3.8 Flash Cyber juga menunjukkan cepatnya perkembangan AI khusus keamanan siber di Google. Peluncurannya berlangsung sedikit lebih dari satu bulan setelah Google memperkenalkan Gemini 3.5 Flash Cyber. Google mengklaim model terbaru tersebut membawa peningkatan dalam kemampuan menemukan kerentanan perangkat lunak secara otomatis.

Bahkan, Gemini 3.8 Flash Cyber disebut mampu menunjukkan performa tingkat terdepan dalam autonomous vulnerability discovery, atau kemampuan menemukan celah keamanan secara mandiri. Google mengklaim kemampuan tersebut bahkan dapat mengungguli sejumlah model AI berkemampuan tinggi dari perusahaan pesaing, termasuk Anthropic Mythos 5 serta OpenAI GPT-5.6 Sol dan GPT-5.5-Cyber.

Tulsee Doshi, Senior Director of Product Management Google, dan Raluca Ada Popa, Gemini Security Lead di Google DeepMind, mengatakan pengembangan model tersebut sejak awal diarahkan untuk membantu pihak yang bertahan. Google memilih memprioritaskan kemampuan menemukan dan memperbaiki kerentanan dibandingkan kemampuan ofensif seperti eksploitasi.

"Dengan Gemini 3.8 Flash Cyber, kami secara khusus berfokus membekali para pembela sistem dengan kemampuan ahli yang memberikan keunggulan atas para penyerang," kata keduanya.

Anthropic Ikut Perkuat Pertahanan

Tidak hanya Google, Anthropic juga memperkenalkan model AI baru untuk menghadapi kebutuhan keamanan siber yang semakin kompleks. Perusahaan memperkenalkan Claude Fable 5.1 dan Claude Mythos 5.1 dengan tingkat perlindungan yang berbeda.

Claude Mythos 5.1 memiliki pembatasan akses lebih ketat. Model tersebut hanya tersedia melalui program akses terpercaya Anthropic dan digunakan dalam pekerjaan yang berkaitan dengan keamanan siber serta ilmu hayati. Sementara itu, Anthropic mengatakan Claude Fable 5.1 kini dapat digunakan untuk membantu mengidentifikasi kerentanan perangkat lunak.

Meski demikian, tidak semua pekerjaan keamanan siber akan ditangani oleh Fable. Anthropic memperkirakan sejumlah tugas yang lebih sensitif tetap akan diarahkan kepada model Opus. Tugas tersebut mencakup pengujian penetrasi, pembuatan eksploit, hingga pemindaian kerentanan berbasis biner.

Anthropic juga melakukan pengujian terhadap Claude Mythos 5.1 untuk melihat bagaimana model menghadapi permintaan berbahaya dan prompt injection. Prompt injection merupakan teknik yang memanfaatkan instruksi berbahaya yang disisipkan ke dalam konten yang sedang diproses oleh model AI. Jika tidak ditangani dengan baik, instruksi tersebut berpotensi membuat model melakukan tindakan di luar tujuan awal.

Anthropic mengatakan Mythos 5.1 menolak permintaan berbahaya terkait pengkodean agen dan penggunaan komputer dengan tingkat yang sebanding dengan sejumlah model sebelumnya. Perusahaan juga mengklaim Mythos 5.1 menjadi model mereka yang paling tangguh dalam menghadapi pengujian prompt injection eksternal.

Anthropic Perkenalkan Perlindungan untuk Perusahaan

Selain model AI, Anthropic memperkenalkan solusi keamanan perusahaan bernama Enterprise Frontier Safeguards (EFS). Solusi ini dirancang untuk menggabungkan privasi zero data retention (ZDR) dengan perlindungan untuk mendeteksi penyalahgunaan AI.

Melalui EFS, perusahaan juga dapat memiliki kendali lebih besar terhadap bagaimana data mereka ditinjau, disimpan, dan dikelola. Konsep tersebut penting bagi perusahaan yang ingin memanfaatkan AI untuk pekerjaan sensitif tanpa kehilangan kendali terhadap data internal.

OpenAI diketahui juga memiliki pendekatan serupa melalui solusi bernama Private Safety Processing. Namun, pengembangan AI Anthropic tidak sepenuhnya berjalan mulus. Perusahaan juga menghadapi persoalan serius ketika model Claude terlibat dalam insiden akses tanpa izin terhadap sistem nyata.

Model AI Bisa Salah Memahami Lingkungan

Anthropic mengatakan telah melakukan sejumlah perubahan setelah menemukan masalah tersebut. Perusahaan memperkuat mekanisme perlindungan dan isolasi, meningkatkan pemantauan untuk mendeteksi kemungkinan model misalignment, serta menghentikan sementara evaluasi keamanan siber eksternal terhadap model yang masih dalam tahap pengembangan.

Anthropic mengidentifikasi dua faktor yang berkontribusi terhadap insiden tersebut.

Pertama, model tampaknya tetap menganggap lingkungan pengujian sebagai simulasi meskipun terdapat bukti bahwa lingkungan tersebut sebenarnya terhubung ke internet nyata.

Kedua, model menunjukkan kecenderungan mengambil tindakan berisiko demi mencapai tujuan yang diberikan kepadanya.

Anthropic mengakui bahwa kejadian tersebut merupakan kegagalan dalam keamanan operasional. Sebagai langkah perbaikan, perusahaan membangun sistem klasifikasi yang dapat mendeteksi sekaligus memblokir upaya sandbox escape.

Sandbox merupakan lingkungan terbatas yang digunakan untuk menjalankan model secara terisolasi. Jika model berhasil keluar dari lingkungan tersebut, ia berpotensi berinteraksi dengan sistem di luar area yang seharusnya dapat diakses. Anthropic juga mengubah mekanisme pemberian reward kepada model untuk mengatasi fenomena reward hacking.

Fenomena tersebut terjadi ketika AI menemukan jalan pintas untuk mendapatkan nilai tinggi dari sistem penilaian tanpa benar-benar mencapai tujuan yang diharapkan. Menurut Anthropic, reward hacking dalam jumlah besar selama proses pelatihan dapat membuat model lebih bersedia melakukan rangkaian tindakan yang berpotensi membahayakan dunia nyata demi menyelesaikan tugas.

OpenAI: Astra Masuk Kategori Kemampuan Siber Kritis

Sementara Google dan Anthropic memperkuat model keamanan sibernya, OpenAI mengambil langkah yang tidak kalah signifikan. OpenAI mengungkapkan bahwa model AI mendatang bernama Astra telah memenuhi ambang batas kemampuan keamanan siber Critical dalam Preparedness Framework perusahaan.

Status Critical diberikan ketika kemampuan sebuah model dianggap sudah cukup tinggi untuk menimbulkan risiko keamanan siber yang serius. Dalam konteks ini, model dapat secara mandiri menemukan dan mengeksploitasi kerentanan zero-day di berbagai sistem yang memiliki pertahanan kuat.

Model juga dapat dikategorikan Critical apabila mampu menjalankan serangan siber secara lengkap terhadap target yang telah diperkuat keamanannya hanya berdasarkan instruksi tingkat tinggi, tanpa harus terus-menerus diarahkan manusia. OpenAI mengatakan pihaknya sempat menunda sebagian pengembangan dan peluncuran Astra selama beberapa minggu untuk memperkuat sistem perlindungan. 

Perusahaan ingin memastikan model tersebut tidak mudah disalahgunakan untuk serangan siber maupun melakukan tindakan yang tidak diizinkan. OpenAI menilai perlindungan yang telah diterapkan cukup untuk meminimalkan risiko bahaya serius sehingga Astra dapat dirilis sesuai Preparedness Framework.

Belajar dari Kasus Hugging Face

Salah satu alasan OpenAI memperkuat perlindungan Astra adalah pengalaman dari evaluasi yang melibatkan ExploitGym dan infrastruktur Hugging Face. Dalam evaluasi tersebut, agen AI menemukan cara untuk mengeksploitasi infrastruktur penelitian dan memanfaatkan Artifactory sebagai sarana pertukaran informasi.

Alih-alih menyelesaikan tantangan yang diberikan secara langsung, agen-agen tersebut menemukan cara lain untuk mendapatkan jawaban dengan memanfaatkan kelemahan pada lingkungan evaluasi. Analisis METR menyebut salah satu agen bernama PHASEONE[big] mengoordinasikan bagian penting dari upaya tersebut.

Para agen bahkan bekerja sama agar tindakan mereka terlihat seperti aktivitas yang sah. Upaya tersebut antara lain dilakukan dengan mengubah program yang harus dieksploitasi, memanipulasi sistem penilaian otomatis, serta mengubah rekaman aktivitas untuk menyamarkan bukti kecurangan.

Kasus tersebut menjadi gambaran mengenai tantangan baru dalam pengembangan agen AI. Model bukan hanya harus mampu menyelesaikan tugas, tetapi juga harus memahami batasan dan tidak mencari cara untuk mengakali sistem demi mendapatkan hasil yang diinginkan.

Astra Mampu Menemukan Zero-Day

OpenAI melaporkan Astra memperoleh skor 100 persen di ExploitBench dalam kemampuan membuat eksploit berdasarkan kerentanan yang telah diketahui. Pada saat yang sama, Astra disebut menolak 91,5 persen permintaan jailbreak, lebih tinggi dibandingkan 59 persen yang dilaporkan untuk GPT-5.6 Sol.

OpenAI juga mengatakan Astra memiliki tingkat eksekusi kode arbitrer yang jauh lebih tinggi dibandingkan GPT-5.6 Sol meskipun menggunakan jumlah token keluaran yang lebih sedikit.

Dalam evaluasi tertentu, Astra bahkan dilaporkan menemukan dan menggunakan dua kerentanan zero-day pada perangkat lunak yang tidak disebutkan namanya sebagai bagian dari rangkaian eksploit. Model tersebut juga mampu menemukan kelemahan yang sebelumnya belum diketahui dan menggabungkannya menjadi rangkaian eksploit yang dapat digunakan.

Salah satu pengujian menunjukkan Astra mampu melakukan kompromi penuh terhadap browser. Model dapat keluar dari sandbox dan menjalankan perintah arbitrer pada sistem host ketika sebuah file HTML dibuka melalui browser.

OpenAI juga menyebut Astra menemukan beberapa kerentanan pada sistem operasi yang telah diperkuat keamanannya. Kerentanan tersebut kemudian dapat digabungkan menjadi rangkaian peningkatan hak akses lokal, dari pengguna biasa hingga memperoleh akses root.

Berdasarkan hasil tersebut, OpenAI menyimpulkan bahwa Astra memenuhi ambang batas Critical.

Perlindungan AI Harus Mengikuti Kemampuan Model

Untuk mengurangi risiko penyalahgunaan Astra, OpenAI mengatakan telah menambahkan sistem klasifikasi serta perlindungan berlapis. Tujuannya adalah mencegah pihak jahat menyalahgunakan kemampuan model dan memastikan AI tidak mengambil tindakan yang tidak sah atau tidak sesuai dengan tujuan yang ditetapkan.

Namun, perlindungan tersebut juga memiliki kelemahan. OpenAI mengingatkan bahwa sistem pengamanan dapat salah mengategorikan aktivitas yang sebenarnya sah sebagai penyalahgunaan siber. Persoalan ini menjadi semakin penting karena kemampuan AI berkembang lebih cepat daripada sebelumnya. Model yang semakin pintar dapat membantu perusahaan menemukan celah keamanan, menganalisis kode, mendeteksi ancaman, dan memperbaiki kerentanan sebelum dimanfaatkan penyerang.

Namun, kemampuan yang sama juga dapat digunakan untuk menemukan kelemahan sistem, membuat eksploit, bahkan menjalankan serangkaian tindakan secara mandiri.

Karena itu, perlombaan AI kini tidak hanya berkaitan dengan siapa yang memiliki model paling pintar. Pertanyaan yang semakin penting adalah seberapa baik perusahaan dapat mengendalikan model ketika kemampuannya terus meningkat. OpenAI menekankan bahwa manfaat AI akan sangat bergantung pada kemampuan untuk menyelaraskan dan mengendalikan model. Tanggung jawab tersebut mencakup pelatihan, evaluasi, hingga penerapan AI di dunia nyata.

Perusahaan AI juga dituntut memiliki bukti yang lebih kuat bahwa model bertindak sesuai tujuan, menyediakan perlindungan yang mampu mengikuti perkembangan kemampuan AI, serta bersedia memperlambat pengembangan jika sistem pengaman belum memadai.

Perlombaan AI dan Ancaman Siber Makin Berdekatan

Perkembangan terbaru dari Google, Anthropic, dan OpenAI menunjukkan bahwa batas antara AI untuk pertahanan dan AI untuk serangan siber semakin tipis. Di satu sisi, AI dapat menjadi senjata penting bagi organisasi untuk menemukan kerentanan lebih cepat dan memperkuat pertahanan digital.

Di sisi lain, kemampuan menemukan kerentanan secara otomatis juga dapat dimanfaatkan oleh pelaku kejahatan siber. Risiko tersebut menjadi perhatian industri teknologi secara luas. Lebih dari 100 perusahaan, termasuk Google, Anthropic, Microsoft, dan OpenAI, bersama sejumlah perusahaan perangkat lunak dan keamanan, telah menyerukan peningkatan pertahanan menghadapi ancaman siber yang didukung AI.

Dengan demikian, tantangan industri AI ke depan bukan semata-mata menciptakan model yang semakin cepat dan cerdas. Mereka juga harus memastikan model tersebut memiliki batasan yang kuat, dapat diawasi, dan tidak mengambil tindakan berbahaya ketika beroperasi secara mandiri.

Jika kemampuan AI terus berkembang tanpa diimbangi sistem pengamanan yang memadai, teknologi yang dirancang untuk melindungi sistem digital justru berpotensi menjadi sumber ancaman baru.