Penelitian Sophos X-Ops yang dipresentasikan di Virus Bulletin 2024 menggunakan AI ‘multimodal’ untuk mengklasifikasikan spam, phishing, dan konten web yang tidak aman
Pada konferensi Virus Bulletin 2024, Principal Data Scientist Sophos, Younghoo Lee, mempresentasikan makalah tentang penelitian SophosAI mengenai AI ‘multimodal’ (sistem yang mengintegrasikan berbagai jenis data ke dalam kerangka analisis yang terintegrasi). Dalam pembicaraannya, Lee menjelaskan penelitian empiris baru timnya mengenai penerapan AI multimodal untuk mendeteksi spam, phishing, dan konten web yang tidak aman.
Apa itu AI multimodal?
AI multimodal mewakili pergeseran signifikan dalam kecerdasan buatan. Alih-alih analisis berbasis satu mode tradisional, sistem multimodal dapat memproses banyak aliran data secara bersamaan, menyintesis data dari berbagai input.
Dalam konteks keamanan siber – dan khususnya dalam mengklasifikasikan ancaman – ini adalah kemampuan yang sangat kuat. Alih-alih menganalisis konten teks dan visual secara terpisah, sistem multimodal dapat memproses keduanya dan ‘memahami’ hubungan rumit di antara keduanya.
Misalnya, dalam deteksi phishing, AI multimodal memeriksa pola linguistik dan gaya penulisan teks bersamaan dengan kesesuaian visual dari logo dan elemen branding, sekaligus menganalisis konsistensi semantik antara komponen teks dan visual. Pendekatan holistik ini berarti bahwa sistem dapat mengidentifikasi serangan canggih yang mungkin tampak sah bagi sistem tradisional. Selain itu, AI multimodal dapat belajar dari, dan beradaptasi dengan, korelasi antara berbagai jenis data, mengembangkan pemahaman tentang bagaimana konten yang sah dan berbahaya berbeda di berbagai dimensi.
Kemampuan
Dalam penelitiannya, Lee merinci beberapa kemampuan deteksi dari sistem AI multimodal:
- Analisis teks dan pemahaman bahasa alami
Menganalisis pola linguistik, gaya penulisan, dan petunjuk kontekstual untuk mengidentifikasi upaya manipulasi
Mendeteksi taktik rekayasa sosial seperti urgensi buatan dan permintaan tidak biasa untuk informasi sensitive
Memelihara database yang terus berkembang dari teks-teks phishing dan narasi-narasi
- Inteligensi visual dan verifikasi merek
Membandingkan logo, gaya perusahaan, dan tata letak visual dengan template yang sah
Mendeteksi perbedaan halus dalam warna merek, font, dan tata letak
Memeriksa metadata gambar dan tanda tangan digital
- Analisis URL dan keamanan tingkat lanjut
Mengidentifikasi teknik penipuan seperti typosquatting dan serangan homograf
Menganalisis hubungan antara teks tautan yang ditampilkan dan tujuan yang sebenarnya
Mendeteksi upaya untuk menyembunyikan URL berbahaya dengan trik styling dan formatting
Studi Kasus: Email Palsu Costco
Gambar di bawah adalah upaya phishing yang sah, dirancang untuk menipu penerima agar berpikir bahwa mereka telah memenangkan hadiah dari Costco. Email ini terlihat resmi, lengkap dengan logo dan branding Costco yang disalin.
Gambar 1: Tangkapan layar email phishing, yang diduga berasal dari Costco
AI multimodal dapat mengidentifikasi beberapa aspek mencurigakan dari email ini, termasuk:
- Frasa yang digunakan untuk memicu urgensi dan tindakan
- Domain email pengirim yang tidak cocok dengan domain yang sah
- Ketidaksesuaian dengan logo dan gambar
Akibatnya, sistem memberikan skor tinggi pada email ini, menandainya sebagai mencurigakan.
SophosAI juga menerapkan AI multimodal untuk situs web NSFW (not safe for work) yang berisi konten terkait perjudian, senjata, dan lainnya. Seperti halnya klasifikasi email phishing, deteksi memanfaatkan sejumlah kemampuan, termasuk evaluasi kata kunci dan frasa (tanpa memandang bahasa), serta analisis gambar dan grafik.
Hasil Eksperimental
Untuk menguji efektivitas AI multimodal dibandingkan dengan model pembelajaran mesin tradisional seperti Random Forest dan XGBoost, SophosAI melakukan serangkaian eksperimen empiris. Hasil lengkap tersedia dalam makalah Lee dan presentasi Virus Bulletin – tetapi secara singkat, model tradisional tampil baik dalam mendeteksi ancaman yang sudah dikenal, tetapi kesulitan dengan email phishing baru yang belum pernah terlihat. Skor F1 mereka (ukuran yang menyeimbangkan presisi dan recall untuk memberikan representasi keseluruhan akurasi antara 0 dan 1) serendah 0,53 dengan sampel yang belum terlihat, mencapai tinggi 0,66. Sebaliknya, AI multimodal (menggunakan GPT-4o) tampil sangat baik dalam mendeteksi upaya phishing baru, mencapai skor F1 hingga 0,97 bahkan pada merek yang belum pernah terlihat.
Cerita serupa terjadi dengan konten NSFW; model tradisional mencapai skor F1 sekitar 0,84-0,88, tetapi model dengan embedding AI multimodal mencapai skor hingga 0,96.
Kesimpulan
Lanskap digital sedang mengalami evolusi yang konstan, membawa serangkaian ancaman baru – termasuk penggunaan AI generatif untuk menipu pengguna. Email phishing sekarang meniru komunikasi sah dengan sangat teliti dan rutin, sementara situs web NSFW menyembunyikan konten berbahaya di balik visual yang menipu. Meskipun metode keamanan siber tradisional tetap penting, mereka semakin tidak memadai dengan sendirinya. AI multimodal menawarkan lapisan pertahanan inovatif yang meningkatkan pemahaman kita tentang konten.
Dengan secara efektif mendeteksi email phishing yang canggih dan mengklasifikasikan situs web NSFW dengan akurat, AI multimodal tidak hanya melindungi pengguna dengan lebih baik tetapi juga beradaptasi dengan ancaman baru. Hasil eksperimen yang dipresentasikan Lee dalam makalahnya menunjukkan peningkatan signifikan dibandingkan metode tradisional.
Ke depan, mengintegrasikan AI multimodal ke dalam strategi keamanan siber tidak hanya bermanfaat; itu sangat penting untuk memastikan perlindungan lingkungan digital kita di tengah kompleksitas dan ancaman yang terus berkembang.
Infrastruktur IT yang kuat adalah kunci produktivitas perusahaan. Dengan qfirewall indonesia, Anda bisa mendapatkan solusi IT lengkap yang sesuai dengan kebutuhan Anda. iLogo Indonesia sebagai mitra terpercaya siap mengintegrasikan semuanya agar bisnis Anda tetap berjalan lancar dan aman.
Hubungi kami sekarang atau kunjungi qfirewall.id untuk informasi lebih lanjut!