Pengembangan Model Deteksi Hoaks Berbahasa Indonesia Menggunakan Kombinasi IndoBERT dan BiLSTM

Abstrak

Hoaks merupakan informasi yang secara sengaja dibuat untuk menyesatkan pembaca. Hoaks umumnya mempunyai karakteristik struktur bahasa yang tidak rapi dan penggunaan kosakata yang bernuansa emosional. Penyebaran hoaks yang cepat dan masif membuat pendeteksian hoaks secara otomatis melalui pendekatan machine learning dibutuhkan. Pendeteksian hoaks merupakan salah satu bentuk implementasi klasifikasi teks yang dapat dilakukan dengan pemrosesan linguistik secara kontekstual. Penelitian terdahulu memanfaatkan Convolutional Neural Network (CNN) dan Long-Short Term Memory (LSTM) untuk melakukan klasifikasi teks. Dalam penelitian selanjutnya, Bidirectional Encoder Representation from Transformers (BERT) mulai diperkenalkan dan banyak digunakan dalam melakukan klasifikasi teks. Indonesian Bidirectional Encoder Representation from Transformers (IndoBERT) merupakan BERT yang dikembangkan untuk dapat melakukan klasifikasi teks dalam bahasa Indonesia. Penelitian kali ini bertujuan untuk mengeksplorasi potensi peningkatan performa model machine learning dalam mendeteksi hoaks dengan mengkombinasikan IndoBERT dan Bidirectional LSTM (BiLSTM). Peneliti mengusulkan dan menguji tiga model yang berbeda: IndoBERT-BC menggunakan fine tuning approach, IndoBERT-BiC menggunakan feature-based approach, dan IndoBERT-CC menggunakan kombinasi dari dua pendekatan tersebut. Dataset yang digunakan berasal dari portal berita CNN Indonesia untuk berita bukan hoaks dan TurnBackHoax.ID untuk berita hoaks. Dalam menentukan model terbaik kami melakukan evaluasi dengan menggunakan skor akurasi, skor F1, serta skor Receiver Operating Characteristic Area Under the Curve (ROC_AUC). Dari tiga model tersebut, model IndoBERT-CC menghasilkan rata-rata skor ROC_AUC sebesar 0.999, serta rata-rata skor F1 dan akurasi masing - masing sebesar 0.988. Nilai ini lebih tinggi dibandingkan nilai skor F1, akurasi, dan ROC_AUC dari IndoBERT-BC dan IndoBERT-BiC.