PERBANDINGAN MODEL LIGHTWEIGHT TRANSFORMER ANTARA DISTILBERT DAN TINYBERT UNTUK KLASIFIKASI PERMINTAAN HYPERTEXT TRANSFER PROTOCOL (HTTP) BERBAHAYA
Keamanan aplikasi web ialah aspek fundamental dalam menjaga integritas data pengguna, namun serangan siber seperti Structured Query Language Injection (SQLi) dan Cross-Site Scripting (XSS) terus mendominasi kerentanan global. Sistem deteksi tradisional sering tidak efektif terhadap serangan tersamarkan, sementara model Transformer seperti BERT memiliki kendala latensi tinggi untuk penerapan real-time. Oleh karena itu, diperlukan pendekatan lightweight yang menjaga akurasi tanpa mengorbankan efisiensi komputasi. Penelitian ini bertujuan untuk mengevaluasi performa dua model lightweight Transformer, yakni DistilBERT dan TinyBERT dalam melakukan klasifikasi permintaan HTTP sebagai normal, SQLi, atau XSS. Metodologi melibatkan preprocessing dataset CSIC 2010 melalui decoding, normalisasi, dan pelabelan ulang berbasis regular expression, serta 5-fold cross validation. Perbandingan dilakukan dengan konfigurasi baseline (AdamW dan dropout 0,1) pada dataset asli dan undersampling. Hasil menunjukkan dataset asli memberikan stabilitas performa lebih unggul. Kedua model menunjukkan performa yang sangat mirip dengan DistilBERT unggul tipis melalui akurasi 99,70% atau 0,03% lebih tinggi dari TinyBERT, serta F1-score 98,73% yang berbeda 0,09
URI
https://repo.itera.ac.id/depan/submission/SB2602110065
Keyword
Keamanan Aplikasi Web Lightweight Transformer DistilBERT TinyBERT Web Application Firewall