OpenAI Hadirkan GPT-OSS-Safeguard, Model AI Transparan dan Aman

Langkah baru dalam transparansi dan keamanan AI
OpenAI kembali menghadirkan inovasi menarik di dunia Artificial Intelligence (AI) dengan meluncurkan GPT-OSS-Safeguard, model penalaran terbuka yang dirancang khusus untuk mendukung kebijakan keamanan kustom. Model ini hadir dalam dua versi, yaitu GPT-OSS-Safeguard-120B dan GPT-OSS-Safeguard-20B, dan keduanya kini tersedia untuk diunduh secara gratis melalui platform Hugging Face.

Dengan lisensi terbuka Apache 2.0, siapa pun dapat menggunakan, memodifikasi, bahkan mendistribusikan ulang model ini tanpa batasan komersial. Langkah ini menjadi sinyal kuat bahwa OpenAI semakin serius mendorong transparansi dan kolaborasi global dalam pengembangan sistem AI yang aman dan bertanggung jawab.

Mengapa GPT-OSS-Safeguard Berbeda

Berbeda dari model keamanan tradisional yang biasanya mengandalkan kumpulan data pelatihan berlabel besar, GPT-OSS-Safeguard menggunakan pendekatan berbasis reasoning-based.

Artinya, model ini tidak hanya mempelajari pola data, tetapi juga benar-benar “memahami” dan menerapkan kebijakan keamanan yang diberikan oleh pengembang saat proses inferensi atau proses berpikir model berlangsung.

Dengan cara ini, pengembang dapat secara langsung memberi tahu model tentang aturan, batasan, dan kebijakan keamanan yang ingin diterapkan, tanpa perlu melatih ulang model dari awal. Hasilnya adalah AI yang lebih fleksibel, adaptif, dan transparan.

Model ini juga menggunakan metode chain-of-thought yang memungkinkan pengembang melihat proses berpikir model. Hal ini membantu menjelaskan mengapa model mengklasifikasikan suatu konten sebagai aman atau tidak aman, memberikan lapisan transparansi yang jarang ditemukan di sistem AI komersial tertutup.

Cara Kerja GPT-OSS-Safeguard

Secara teknis, GPT-OSS-Safeguard menerima dua input sekaligus:

• Kebijakan keamanan yang ditulis oleh pengembang, dan
• Konten yang akan diklasifikasikan berdasarkan kebijakan tersebut.

Model kemudian menghasilkan kesimpulan akhir lengkap dengan penjelasan penalaran di balik keputusan itu. Keputusan ini kemudian dapat digunakan langsung oleh pengembang untuk memfilter konten, mengatur moderasi, atau bahkan melatih sistem keamanan tambahan.

Pendekatan ini sangat berguna dalam berbagai situasi, misalnya ketika:

• Ancaman baru di dunia digital muncul dan kebijakan keamanan perlu diperbarui dengan cepat,
• Lingkup pembahasan (domain) sangat spesifik dan kompleks, sehingga sulit ditangani model kecil,
• Data pelatihan yang tersedia tidak cukup banyak untuk membuat klasifier tradisional yang efektif,
• Atau ketika fokus utama adalah keakuratan dan transparansi hasil, bukan sekadar kecepatan.

Dengan kata lain, GPT-OSS-Safeguard adalah model yang mampu beradaptasi dengan perubahan kebijakan secara real-time, tanpa biaya besar untuk pelatihan ulang.

Fleksibilitas untuk Berbagai Skenario

Salah satu kekuatan utama GPT-OSS-Safeguard adalah fleksibilitasnya. Pengembang dapat menyesuaikan kebijakan keamanan sesuai dengan konteks aplikasi atau platform mereka.

Sebagai contoh:

• Forum game online bisa membuat kebijakan yang mendeteksi postingan terkait kecurangan (cheating).
• Platform ulasan produk bisa membuat kebijakan untuk menandai ulasan yang terindikasi palsu.
• Situs media sosial dapat menetapkan kebijakan anti-hoaks atau anti-ujaran kebencian yang sesuai dengan pedoman mereka sendiri.

Karena kebijakan dapat diganti atau diperbarui kapan saja, GPT-OSS-Safeguard memberi pengembang kendali penuh atas batasan keamanan tanpa harus bergantung pada pihak ketiga. Hal ini berbeda dari model tertutup yang biasanya memiliki kebijakan internal tetap, yang tidak bisa diubah oleh pengguna.

Keamanan Bertingkat: Pendekatan Defense in Depth

Dalam urusan keamanan, OpenAI menerapkan prinsip “defense in depth” atau lapisan pertahanan berlapis. Artinya, keamanan tidak hanya diatur di satu titik, melainkan di beberapa level sekaligus. Model AI tidak hanya dilatih agar memberikan tanggapan yang aman, tetapi juga dilengkapi dengan sistem tambahan untuk memantau dan menahan konten berbahaya sebelum sampai ke pengguna.

Salah satu sistem utama dalam lapisan ini adalah klasifier keamanan, sistem yang bertugas membedakan konten aman dan tidak aman di area risiko tertentu. Selama ini, sistem klasifikasi seperti itu juga digunakan di Moderation API milik OpenAI.

Namun, pendekatan lama memiliki kelemahan. Model klasifikasi tradisional tidak benar-benar memahami kebijakan keamanan yang mendasarinya; ia hanya meniru pola dari data yang telah dilabeli manusia. Setiap kali kebijakan berubah, model harus dilatih ulang dari nol, yang tentu saja membutuhkan waktu dan biaya besar.

GPT-OSS-Safeguard memecahkan masalah tersebut. Dengan kemampuan penalaran langsung terhadap kebijakan, model ini tidak perlu retraining setiap kali ada perubahan kebijakan cukup berikan kebijakan baru, dan model akan menyesuaikan dirinya secara otomatis.

Kolaborasi dan Dukungan Komunitas

Peluncuran GPT-OSS-Safeguard bukan hanya langkah teknis, tetapi juga gerakan kolaboratif. OpenAI bekerja sama dengan ROOST, sebuah organisasi yang fokus pada riset keamanan AI terbuka. Kolaborasi ini membantu OpenAI memahami kebutuhan nyata para pengembang, melakukan uji coba model, dan membuat dokumentasi teknis yang mudah diakses.

Sebagai bagian dari peluncuran, ROOST juga mendirikan komunitas model open source — wadah bagi para peneliti, pengembang, dan profesional keamanan digital untuk mengeksplorasi penggunaan model AI terbuka dalam menjaga ruang online tetap aman.

Bersamaan dengan itu, OpenAI juga merilis laporan teknis singkat yang menjelaskan performa dan efektivitas GPT-OSS-Safeguard dalam berbagai skenario keamanan.

Bagaimana OpenAI Menggunakan Safety Reasoning

OpenAI memperkenalkan pendekatan baru bernama Safety Reasoning, sebuah sistem penalaran keamanan yang kini menjadi inti dalam melindungi produk-produk AI mereka. Teknologi ini tak hanya membuat model seperti GPT-5 lebih aman, tapi juga lebih fleksibel dalam memahami konteks risiko dunia nyata.

Keamanan dalam sistem kecerdasan buatan bukan hanya tentang melarang hal-hal berbahaya, melainkan bagaimana model AI bisa memahami alasan di balik kebijakan tersebut.

Inilah dasar dari pendekatan baru OpenAI yang disebut deliberative alignment, atau penyelarasan deliberatif. Dengan cara ini, model AI tidak sekadar mengikuti daftar larangan, tapi berpikir secara logis untuk menilai apakah suatu konten aman atau tidak.

Pendekatan ini menjadi lompatan besar dari sistem keamanan tradisional yang bergantung pada pelatihan berbasis data tetap (static policy). Kini, model penalaran OpenAI bisa menilai risiko dengan fleksibilitas tinggi — bahkan ketika kemampuannya terus meningkat secara signifikan.

Lebih menariknya lagi, penalaran ini tidak hanya diterapkan saat pelatihan model, tapi juga sebagai lapisan perlindungan tambahan dalam sistem keamanan internal OpenAI. Walau membutuhkan daya komputasi lebih besar, hasilnya terbukti jauh lebih andal, kontekstual, dan adaptif terhadap ancaman baru yang terus berkembang.

Dari Sistem Internal ke Model Terbuka: Lahirnya gpt-oss-safeguard

Pendekatan Safety Reasoning pertama kali dikembangkan untuk penggunaan internal di OpenAI melalui alat bernama Safety Reasoner. Namun kini, konsep tersebut telah dibuka ke publik dalam bentuk gpt-oss-safeguard, model penalaran keamanan open-source yang tersedia dalam dua versi: 120B dan 20B parameter.

Model ini dilatih menggunakan metode reinforcement fine-tuning, di mana AI belajar meniru cara para ahli manusia menilai apakah suatu konten melanggar kebijakan keamanan atau tidak.  Dengan demikian, AI memahami hubungan antara kebijakan dan hasil klasifikasinya sendiri.

Keunggulan utama sistem ini adalah fleksibilitasnya. Di lingkungan produksi internal OpenAI, Safety Reasoner dapat memperbarui kebijakan keamanan secara dinamis, tanpa perlu melatih ulang model dari nol. Ini mempercepat proses adaptasi terhadap perubahan risiko dan membuat sistem lebih efisien.

Proses Iteratif yang Aman dan Efisien

Ketika OpenAI meluncurkan model baru seperti GPT-5 atau Sora 2, mereka menerapkan kebijakan keamanan yang sangat ketat di awal. Selama masa uji coba, Safety Reasoner menjalankan kebijakan ini dengan pengawasan penuh, menggunakan sumber daya komputasi besar untuk memastikan semua keluaran aman.

Setelah memahami pola risiko nyata di lapangan, kebijakan tersebut disesuaikan secara bertahap agar tetap seimbang antara keamanan dan kebebasan penggunaan. Dalam peluncuran terakhir, OpenAI bahkan melaporkan bahwa hingga 16% dari total sumber daya komputasi digunakan khusus untuk proses safety reasoning. Hal ini menegaskan pentingnya keamanan sebagai prioritas utama dalam pengembangan AI mereka.

Safety Reasoner: Penjaga Utama dalam Ekosistem OpenAI

Safety Reasoner kini menjadi komponen inti dalam sistem keamanan multi-lapis OpenAI, yang mencakup berbagai produk AI seperti ChatGPT, GPT-5, hingga Sora 2.

Contohnya:

• Pada model Sora 2 untuk video dan gambar, Safety Reasoner melakukan penilaian real-time langkah demi langkah, memastikan setiap hasil visual aman sebelum ditampilkan.
• Untuk bidang sensitif seperti biologi atau pencegahan bunuh diri, Safety Reasoner bekerja sama dengan model cepat seperti Moderation API, melakukan pemeriksaan lebih dalam terhadap hasil awal.
• Model ini juga mengklasifikasikan keluaran berdasarkan taksonomi risiko yang kompleks, memastikan setiap konteks ditangani dengan respons yang tepat.

Melalui gpt-oss-safeguard, kemampuan ini kini dapat digunakan secara terbuka oleh pengembang di seluruh dunia, memungkinkan siapa pun membangun sistem keamanan cerdas berbasis penalaran.

Uji Kinerja: Seberapa Baik gpt-oss-safeguard Bekerja?

Untuk mengukur kemampuan model ini, OpenAI melakukan dua jenis evaluasi utama: internal dan eksternal.

• Evaluasi Internal
  Dalam pengujian ini, gpt-oss-safeguard diuji dengan beberapa kebijakan keamanan sekaligus. Model harus mengklasifikasikan teks secara akurat di bawah semua kebijakan — tugas yang sangat menantang karena membutuhkan pemahaman mendalam terhadap konteks dan aturan.

  Hasilnya menunjukkan bahwa gpt-oss-safeguard dan Safety Reasoner internal unggul dibanding model gpt-5-thinking maupun model gpt-oss terbuka lainnya. Yang menarik, versi safeguard yang jauh lebih kecil berhasil mengalahkan performa model besar seperti gpt-5-thinking dalam akurasi multi-policy.

• Evaluasi Eksternal
  Pengujian berikutnya menggunakan dataset publik Moderation 2022 dan ToxicChat. Pada Moderation 2022, dengan kebijakan internal OpenAI, gpt-oss-safeguard sedikit lebih unggul dibanding model lain, meski perbedaannya tidak signifikan secara statistik.

Sementara di benchmark ToxicChat, model Safety Reasoner internal menempati posisi teratas, diikuti gpt-5-thinking, dan dua versi gpt-oss-safeguard (120B dan 20B) di posisi berikutnya. OpenAI menjelaskan bahwa ukuran yang lebih kecil membuat model safeguard lebih efisien untuk tugas-tugas cepat seperti moderasi percakapan.

Keterbatasan dan Tantangan

Meski menjanjikan, gpt-oss-safeguard masih memiliki dua batasan penting:

1. Akurasi vs Klasifier Tradisional
   Model yang dilatih menggunakan puluhan ribu contoh data berlabel masih bisa mencapai akurasi lebih tinggi dibanding gpt-oss-safeguard yang langsung menalar dari kebijakan. Untuk risiko yang kompleks, pengembang mungkin tetap perlu melatih klasifier khusus.

2. Kebutuhan Komputasi yang Besar
   Karena berbasis penalaran mendalam, gpt-oss-safeguard membutuhkan waktu proses dan sumber daya tinggi.
   OpenAI mengatasi hal ini dengan dua strategi:

   • Menggunakan model klasifier kecil untuk menyaring konten awal.
   • Menjalankan Safety Reasoner secara asinkron, agar pengguna tetap mendapat pengalaman cepat tanpa mengabaikan keamanan.

Kolaborasi Komunitas: Membangun Standar Keamanan AI Terbuka

Peluncuran gpt-oss-safeguard bukan hanya rilis teknologi, tetapi juga awal dari kolaborasi besar komunitas keamanan AI terbuka. OpenAI menggandeng berbagai mitra seperti SafetyKit, ROOST, Tomoro, dan Discord dalam tahap uji awal.

CTO ROOST, Vinay Rao, memuji pendekatan ini:

“gpt-oss-safeguard adalah model penalaran open-source pertama yang memungkinkan organisasi membawa kebijakan dan definisi risikonya sendiri.
 Model ini mampu menjelaskan alasan di balik keputusannya dengan sangat baik, sebuah langkah besar untuk transparansi dan keamanan AI.”

Ke depan, OpenAI akan memperkuat kolaborasi melalui ROOST Model Community (RMC), wadah bagi para peneliti dan praktisi untuk berbagi hasil evaluasi, praktik terbaik, serta menyempurnakan alat keamanan terbuka ini. Semua dokumentasi dan pembaruan komunitas akan tersedia secara publik di repositori GitHub RMC.

Untuk mulai menggunakan model ini, Anda dapat mengunduhnya langsung dari Hugging Face.

Masa Depan AI yang Aman dan Terbuka

Kehadiran GPT-OSS-Safeguard menandai langkah besar menuju AI yang lebih transparan, fleksibel, dan kolaboratif. Model ini menunjukkan bahwa keamanan AI tidak harus tertutup atau eksklusif — sebaliknya, dengan keterbukaan dan partisipasi komunitas, sistem dapat menjadi lebih kuat dan adaptif terhadap ancaman baru.

Dengan kemampuan menalar secara langsung terhadap kebijakan, GPT-OSS-Safeguard memberi pengembang kebebasan untuk menulis, menerapkan, dan menyesuaikan kebijakan keamanan mereka sendiri, tanpa batasan rigid dari model lama.

Singkatnya, GPT-OSS-Safeguard bukan sekadar model AI baru, ia adalah pondasi untuk masa depan keamanan digital yang terbuka dan bertanggung jawab.