PENERAPAN TEKNIK CURRICULUM LEARNING PADA PELATIHAN MODEL INDOBERT-LITE UNTUK KLASIFIKASI SARKASME DALAM TEKS NATURAL BAHASA INDONESIA
Sarkasme dalam teks natural merupakan salah satu tantangan dalam pemrosesan bahasa alami karena makna yang disampaikan sering kali berbeda dengan makna literal kalimat. Penelitian ini Bertujuan untuk membandingkan kinerja model IndoBERTLITE-BASE dengan dan tanpa curriculum learning dalam klasifikasi sarkasme berbahasa Indonesia serta mengevaluasi kemampuan generalisasi model pada data lintas domain. Dataset yang digunakan adalah IdSarcasm yang terdiri dari data Reddit dan X (Twitter) dengan label sarkasme dan nonsarkasme. Data Reddit digunakan sebagai data utama untuk pelatihan, validasi, dan pengujian, sedangkan data Twitter digunakan untuk evaluasi lintas domain serta eksperimen tambahan fine-tuning lanjutan. Metode penelitian meliputi prapemrosesan data, fine-tuning IndoBERTLITE-BASE, pengujian beberapa konfigurasi pelatihan secara Bertahap menggunakan pendekatan one-factor-at-a-time, serta penerapan Self-Paced Dynamic Curriculum Learning (SPDCL). Tingkat kesulitan sampel pada SPDCL dihitung menggunakan nuclear norm dari representasi token, kemudian urutan data diperbarui berdasarkan perubahan nilai nuclear norm selama pelatihan. Evaluasi dilakukan menggunakan accuracy, precision, recall, dan F1-score. Hasil penelitian menunjukkan bahwa konfigurasi SPDCL terbaik adalah M12 dengan 2 bin, yang memperoleh F1-score validasi sebesar 0,5956. Pada data uji Reddit, M12 memperoleh F1-score sebesar 0,5789, lebih tinggi dibandingkan model tanpa SPDCL sebesar 0,5609. Pada evaluasi lintas domain Twitter, M12 memperoleh F1-score sebesar 0,4136, sedangkan setelah fine-tuning lanjutan pada data Twitter meningkat menjadi 0,5732. Dengan demikian, penerapan SPDCL mampu meningkatkan performa model pada data Reddit dan membantu model mengenali lebih banyak sampel sarkasme, meskipun performa lintas domain masih dipengaruhi oleh perbedaan karakteristik teks antarplatform.
URI
https://repo.itera.ac.id/depan/submission/SB2606180280
Keyword
Sarkasme IndoBERTLITE Curriculum Learning SPDCL IdSarcasm