Fake news adalah materi palsu yang berbentuk format media berita tetapi tidak diproses dengan baik oleh kantor berita yang dapat memprovokasi atau mencemarkan nama baik entitas atau individu. Orang awam sulit untuk membedakan antara berita palsu dan berita asli karena kurangnya pengetahuan domain dan keterbatasan waktu. Model Transformers merupakan salah satu jenis arsitektur Deep Learning mengacu pada pendekatan dalam bidang kecerdasan buatan (AI) dalam pemrosesan bahasa alami, misalnya dalam mendeteksi berita palsu. Contoh model Transformers yaitu BERT, ALBERT, dan RoBERTa. Penelitian yang telah dilakukan dengan dataset dan pengaturan hyperparameter yang diadopsi dari paper Aisyah Awalina, dkk (2021) dalam kasus BERT (BERT-Multilingual) serta implementasi model IndoBERT, ALBERT dan RoBERTa. Pada hasil eksperimen ini, accuracy, recall, F1-Score model IndoBERT mendapatkan performa paling optimal dibandingkan model lainnya dengan nilai accuracy 0.8656156, recall 0.89030, F1-Score 0.860274. Sedangkan hasil performa precision dan runtime, ALBERT lebih unggul dari lainnya, dengan nilai precision 0.838013 dan runtime selama 169 detik/epoch.
