View/Open

Author
YOHANNA ANZELIKA, SITEPU

Date Published
12 May 2026

Advisor
Ilham Firman Ashari, S.Kom., M.T,

Subject
Teknik Informatika

Publisher

Pesatnya perkembangan media sosial telah mempermudah pengguna dalam berkomunikasi dan menyebarkan informasi secara luas. Namun, kondisi tersebut juga memicu munculnya berbagai permasalahan, seperti komentar agresif, ujaran kebencian, serta tindakan cyberbullying yang dapat memberikan dampak negatif bagi individu maupun komunitas digital. Oleh sebab itu, diperlukan suatu sistem otomatis yang mampu mendeteksi dan mengklasifikasikan komentar tersebut secara efektif. Penelitian ini bertujuan untuk membandingkan beberapa teknik ekstraksi embedding pada model Bidirectional Encoder Representations from Transformers (BERT) dalam tugas klasifikasi komentar cyberbullying, yaitu CLS token, mean pooling, dan concatenation. Dataset yang digunakan terlebih dahulu melalui tahap pra-pemrosesan yang meliputi pembersihan teks, normalisasi, penghapusan stopword, serta proses tokenisasi menggunakan tokenizer BERT. Selanjutnya, data diubah menjadi representasi embedding yang digunakan sebagai fitur masukan dalam model klasifikasi Logistic Regression untuk mengelompokkan komentar ke dalam kategori agresif dan non-agresif. Evaluasi model dilakukan menggunakan metrik accuracy, precision, recall, dan weighted F1-score. Hasil eksperimen menunjukkan bahwa seluruh teknik embedding berbasis BERT mampu menghasilkan performa klasifikasi yang baik dengan nilai accuracy dan F1-score di atas 0,89. Di antara ketiganya, teknik CLS token memberikan kinerja terbaik dengan accuracy sebesar 0,8917 dan F1-score sebesar 0,8934. Teknik mean pooling berada di posisi berikutnya dengan accuracy sebesar 0,8896 dan F1-score sebesar 0,8914, sementara teknik concatenation menghasilkan accuracy sebesar 0,8896 dan F1-score sebesar 0,8912. Berdasarkan hasil tersebut, dapat disimpulkan bahwa teknik ekstraksi embedding pada model BERT efektif untuk klasifikasi komentar cyberbullying, dengan CLS token sebagai metode yang paling optimal dalam penelitian ini.

URI
https://repo.itera.ac.id/depan/submission/SB2605250013

Keyword
BERT Embedding Analisis Sentimen Cyberbullying CLS Token Mean Pooling Concatenation