(0721) 8030188    [email protected]   

All of ITERA Repository
Titles

IMPLEMENTASI DEIT-TINY DENGAN KNOWLEDGE DISTILLATION UNTUK KLASIFIKASI PENYAKIT MATA BERBASIS CITRA FUNDUS


View/Open

Author
ALFAJAR,

Date Published
10 Mar 2026

Advisor
Hafiz Budi Firmansyah, S.Kom., M.Sc., Ph.D.,

Subject
Teknik Informatika

Publisher


Deteksi dini penyakit mata merupakan langkah penting dalam upaya pencegahan kebutaan. Pemanfaatan citra fundus sebagai sumber data visual telah banyak digunakan dalam pengembangan sistem klasifikasi penyakit mata berbasis kecerdasan buatan. Namun, pendekatan Convolutional Neural Network (CNN) memiliki keterbatasan dalam menangkap konteks global citra, sementara Vision Transformer (ViT) membutuhkan dataset besar dan sumber daya komputasi tinggi. Penelitian ini mengimplementasikan Data-Efficient Image Transformer (DeiT) varian DeiT-Tiny dengan dan tanpa mekanisme knowledge distillation berbasis distillation token untuk klasifikasi multikelas penyakit mata menggunakan citra fundus. Dataset Ocular Disease Intelligent Recognition (ODIR) digunakan sebagai data pelatihan dan evaluasi internal dengan enam kelas penyakit, sedangkan Retinal Fundus Multi-Disease Image Dataset (RFMiD) digunakan untuk pengujian generalisasi lintas-dataset. Proses penelitian meliputi pra-pemrosesan citra, penanganan ketidakseimbangan kelas melalui augmentasi lanjutan, pelatihan model, serta evaluasi menggunakan metrik Accuracy, F1-Score Macro, Cohen’s Kappa, dan AUC-ROC. Hasil eksperimen menunjukkan bahwa DeiT-Tiny tanpa distillation memperoleh akurasi 72,92%, F1-Score Macro 70,19%, dan AUC-ROC 90,56%. Penerapan knowledge distillation dengan teacher ConvNeXt-Base meningkatkan performa menjadi akurasi 73,74%, F1-Score Macro 71,38%, Cohen’s Kappa 0,558, dan AUC-ROC 91,39%, tanpa meningkatkan kompleksitas model. Evaluasi lintas-dataset pada RFMiD menghasilkan akurasi 63,41%, F1-Score Macro 48,68%, dan AUC-ROC 86,36%, yang menunjukkan adanya pengaruh pergeseran domain data. Hasil penelitian ini menunjukkan bahwa DeiT-Tiny dengan knowledge distillation mampu memberikan keseimbangan antara performa klasifikasi dan efisiensi komputasi dalam klasifikasi penyakit mata berbasis citra fundus.

URI
https://repo.itera.ac.id/depan/submission/SB2602270014

Keyword
Citra Fundus Klasifikasi Penyakit Mata DeiT-Tiny Knowledge Distllation Vision Transformer