Category: Bisnis.com Tekno

Bisnis.com, JAKARTA – Risiko keamanan DeepSeek R1 terkait penyebaran informasi sensitif dan berbahaya tengah menjadi sorotan, di samping prestasinya akan performa apik yang kini mengguncang lanskap kecerdasan buatan (artificial intelligence/AI) global.

Kelemahan dari model AI besutan pengembang asal China itu terungkap dalam riset Cisco melalui Robust Intelligence, bersama para akademisi University of Pennsylvania yang dipublikasikan akhir Januari 2025.

Riset tersebut membuktikan, model DeepSeek R1 memberikan tingkat jawaban 100% atas uji perintah-perintah (prompt) berisi isu-isu sensitif, alias sama sekali gagal membendung pemblokiran penyebaran informasi sensitif terkait.

“Selama pengembangan, konon DeepSeek R1 dilatih dengan anggaran paling murah, ketimbang penyedia model AI populer lainnya. Namun, sepertinya ada harga yang harus dibayar akibat hal itu, yakni risiko keamanan dan keselamatan,” ungkap perwakilan peneliti Robust Intelligence, Paul Kassianik dan Amin Karbasi dalam laporannya, dikutip Sabtu (8/2/2025).

Riset Robust Intelligence bersama University of Pennsylvania ini menggunakan metode jailbreaking algoritmik yang memberikan sekitar 50 perintah acak dari kumpulan data HarmBench benchmark, kepada enam model AI populer.

Data HarmBench benchmark mampu mengungkap sekitar 400 perilaku berbahaya AI dalam memberikan informasi sensitif pada beberapa kategori, antara lain kejahatan siber, kimia dan biologi berbahaya, misinformasi, aktivitas ilegal, perundungan, dan bahaya umum lain-lain.

Hasilnya, DeepSeek R1 benar-benar gagal membendung segala isu sensitif terkait. Tingkat keberhasilannya memberikan jawaban atas serangan pengujian yang diukur dari attack success rate (ASR) mencapai 100% di semua kategori isu sensitif.

Selain DeepSeek R1, model paling parah di peringkat ke-2 adalah Llama 3.1 405B dengan tingkat ASR total 96%. Hal ini karena model terbaru besutan Llama itu hanya mampu membendung info-info terkait kategori perundungan dan aktivitas ilegal, tetapi kategori lainnya masih bisa bobol.

Sementara itu, GPT 4o menduduki peringkat ke-3 terparah dengan tingkat ASR total 86%, sebab masih bobol 100% terkait kategori kimia dan biologi berbahaya, kejahatan siber, dan aktivitas ilegal. 

Adapun, Gemini 1.5 Pro cukup baik karena memiliki tingkat ASR 64% atas semua isu sensitif tersebit. Sisanya, Claude 3.5 Sonnet terbilang impresif dengan ASR hanya 36%, dan OpenAI o1 menjadi yang terbaik dengan hanya 26%. 

“Hasil dari DeepSeek R1 begitu kontras dengan model AI populer seperti OpenAI o1 yang setidaknya bisa memblokir mayoritas serangan dari semua kategori dalam tingkatan tertentu,” ungkap laporan Cisco tersebut. 

Namun, pada akhirnya, riset juga mengakui DeepSeek R1 memiliki kemampuan penalaran tingkat tinggi dengan metode pelatihan yang hemat biaya. Bahkan, kinerjanya mampu menyaingi model canggih seperti OpenAI o1 sehingga tak heran apabila model ini begitu menarik perhatian para pegiat AI internasional.

Senada, CEO Anthropic Dario Amodei pun menyoroti keamanan DeepSeek R1 setelah melakukan uji keamanan model AI atas informasi soal senjata biologis.

Dilansir dari Techcrunch, Dario menjelaskan DeepSeek R1 menjadi yang terburuk ketimbang model-model AI lain dalam hal membendung informasi soal senjata biologis berbahaya, termasuk kaitannya dengan data-data sensitif suatu negara. 

Namun, Dario mengakui bahwa ekosistem DeepSeek berisi para pengembang berbakat yang tergolong berhasil, sebab sudah bisa menyaingi perusahaan AI global ternama dalam waktu singkat dan dana pengembangan rendah.

Tak heran, kini beberapa negara telah memblokir model-model AI besutan DeepSeek akibat khawatir dengan risiko keamanan nasional. Setelah Amerika Serikat, Italia, Irlandia, dan Korea Selatan, baru-baru ini Australia juga ikut-ikutan memblokir DeepSeek.