JAKARTA — Risiko terbesar dari kecerdasan buatan (AI) saat ini terletak pada sifatnya yang memiliki dua tujuan (dual‑use) — yaitu bisa dipakai untuk hal positif maupun disalahgunakan untuk hal negatif seperti phishing, penipuan, dan malware dalam skala besar.
Model bahasa besar (large language models atau LLMs) seperti ChatGPT dan Google Gemini kini sudah menjadi bagian dari aktivitas sehari‑hari banyak organisasi dan masyarakat. Namun, riset terbaru dari Palo Alto Networks Unit 42 menunjukkan bahwa munculnya LLMs berbahaya — sering disebut dark LLMs — berpotensi mengubah lanskap kejahatan siber secara signifikan, termasuk di Indonesia.
Dalam laporan berjudul The Dual‑Use Dilemma of AI: Malicious LLMs, Unit 42 mengungkap adanya model‑model seperti WormGPT, FraudGPT, dan KawaiiGPT yang dibangun tanpa sistem pengaman dan kini diperjualbelikan secara terbuka melalui platform seperti Telegram dan forum dark web.
Ancaman ini dinilai makin mendesak bagi Indonesia, mengingat tingginya ketergantungan masyarakat terhadap aplikasi pesan instan, platform e‑commerce, serta layanan publik digital.
Laporan tersebut menyatakan tiga dampak utama dark LLMs terhadap lanskap kejahatan siber di Indonesia:
-
Kemampuan AI menghasilkan bahasa sangat presisi memungkinkan pelaku membuat pesan phishing dan penyusupan email bisnis yang tampak sangat meyakinkan. Pesan‑pesan ini bisa meniru gaya komunikasi seorang pimpinan perusahaan, institusi keuangan, atau lembaga pemerintah, sehingga mampu mengeksploitasi kepercayaan korban.
-
Teknologi ini mendorong komersialisasi kejahatan siber dengan kemampuan untuk menghasilkan malware, kits phishing, dan skrip pencurian data secara instan — hal yang dulu hanya bisa dilakukan pelaku kejahatan dengan keterampilan teknis tinggi.
-
Hilangnya hambatan teknis memungkinkan individu dengan kemampuan teknis rendah pun bisa menjalankan penipuan dan pemerasan digital secara cepat. Ini mengubah kejahatan siber menjadi operasi yang lebih murah, mudah diulang, dan berskala besar.
Palo Alto Networks menekankan pentingnya menetapkan standar dan kerangka kerja yang mengatur proliferasi model AI berbahaya, serta mewajibkan penerapan praktik keamanan terbaik bagi para pembuat kebijakan.
Seiring pemerintah Indonesia menyusun peta jalan AI nasional, Unit 42 menegaskan bahwa tantangan utamanya bukan sekadar membatasi atau melarang penggunaan alat AI, tetapi membangun ketahanan keamanan siber untuk menghadapi serangan berbasis AI yang bergerak cepat dan berskala besar.
“Kolaborasi antara pemerintah, regulator, dan sektor swasta diperlukan untuk memastikan praktik AI yang aman tertanam dalam peta jalan AI dan kerangka tata kelola nasional,” tegas laporan tersebut.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan Qfirewall indonesia, merupakan bagian dari PT. iLogo Infralogy Indonesia, yang merupakan mitra terpercaya dalam solusi Infrastruktur IT dan Cybersecurity terbaik di Indonesia.
Hubungi kami sekarang atau kunjungi Qfirewall.ilogoindonesia.id untuk informasi lebih lanjut!