Pada tanggal 24 dan 25 Oktober, SophosAI mempresentasikan ide-ide tentang bagaimana menggunakan model besar dan kecil—dan bertahan melawan model-model berbahaya.
Applied Machine Learning in Information Security (CAMLIS), yang diadakan minggu ini di Arlington, Virginia—salah satunya dalam sebuah presentasi utama, dan lainnya dalam sesi lebih informal berupa “poster session” selama acara berlangsung. Topik-topik yang dibahas langsung menuju inti dari fokus riset tim SophosAI—menemukan cara yang lebih efektif untuk menggunakan teknologi pembelajaran mesin dan kecerdasan buatan untuk melindungi terhadap risiko keamanan informasi serta menjaga agar risiko yang melekat pada model AI itu sendiri tetap terjaga.
Pada tanggal 24 Oktober, Ben Gelman, Sean Bergeron, dan Younghoo Lee dari SophosAI akan mempresentasikan dalam sesi poster. Gelman dan Bergeron akan menyampaikan presentasi berjudul “Revitalisasi Model Keamanan Siber Kecil di Era Baru AI.”
Model-model pembelajaran mesin yang lebih kecil telah banyak diabaikan dalam sebagian besar riset yang berfokus pada Large Language Models (LLMs) seperti GPT-4 dari OpenAI, Gemini dari Google, dan LLaMA dari Meta. Namun, model-model ini tetap sangat penting untuk keamanan informasi di tepi jaringan dan titik akhir, di mana biaya komputasi dan jaringan dari LLM membuatnya tidak praktis.
Dalam presentasi mereka, Gelman dan Bergeron akan membahas bagaimana menggunakan teknologi LLM untuk mempercepat proses pelatihan bagi model-model kecil, serta membicarakan teknik yang telah digunakan SophosAI untuk membuat model-model kecil yang hemat biaya berfungsi pada tingkat yang lebih tinggi dalam berbagai tugas keamanan siber.
Dalam presentasi terkait, Lee akan menyampaikan topik “Fusi LLM dan ML ringan untuk deteksi email phishing yang efektif.” Dengan para pelaku ancaman kini beralih ke LLM untuk menghasilkan email phishing yang lebih meyakinkan dan terarah dengan pola teks unik, selain juga memanfaatkan nama domain yang sebelumnya tidak terlihat untuk menghindari pertahanan spam dan phishing tradisional, Lee menyelidiki bagaimana LLM dapat digunakan untuk menghadapinya—dan bagaimana mereka dapat digabungkan dengan model pembelajaran mesin kecil tradisional untuk menjadi lebih efektif.
Dalam pendekatan yang Lee presentasikan dalam makalahnya, LLM dapat dimanfaatkan untuk mendeteksi niat dan sinyal mencurigakan, seperti pemalsuan pengirim dan domain menipu. Dan dengan menggabungkan LLM dengan model pembelajaran mesin yang lebih ringan, kita dapat meningkatkan akurasi deteksi phishing serta mengatasi keterbatasan dari kedua jenis model tersebut jika digunakan secara terpisah.
Pada hari kedua CAMLIS, Tamás Vörös dari SophosAI akan mempresentasikan risetnya tentang bagaimana mengatasi LLM berbahaya—model-model yang membawa backdoor atau malware yang dimaksudkan untuk diaktifkan dengan input tertentu. Presentasinya yang berjudul “Aktivasi Backdoor LLM Menempel Bersama” akan menunjukkan baik risiko menggunakan LLM “kotak hitam” (dengan menunjukkan bagaimana tim SophosAI menyuntikkan Trojan yang dikendalikan ke dalam model) maupun metode “noising” yang dapat digunakan untuk menonaktifkan perintah aktivasi Trojan yang sudah ada.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan qfirewall Indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman.
Hubungi kami sekarang atau kunjungi qfirewall.id untuk informasi lebih lanjut!