Optimasi Pengembangan Question Answering System Bahasa Indonesia Menggunakan Bi-Directional Attention Flow dengan Self-Attention
Penulis Utama
:
Vicko Danendra Setyo Yuwono
NIM / NIP
:
M0520079
×Question Answering System (QAS) dapat menjawab suatu pertanyaan pada suatu konteks yang diberikan dan membutuhkan pemodelan interaksi yang kompleks antara konteks dan pertanyaan menggunakan Deep Neural Network (DNN). Pengembangan QAS Bahasa Indonesia dengan pendekatan DNN masih menjadi tantangan yang signifikan di bidang Natural Language Processing (NLP). Hal ini disebabkan karena Bahasa Indonesia merupakan low resource language, dan sebagian besar pendekatan NLP menggunakan Bahasa Inggris yang merupakan high resource language. Oleh karena itu, diperlukan optimasi pada pengembangan QAS Bahasa Indonesia yang dapat memahami dan menangani Bahasa Indonesia sebagai low resource language. Penelitian ini mengusulkan model arsitektur Bi-Directional Attention Flow (BiDAF) dengan menambahkan self-attention dan perbandingan model Bidirectional Long Short-Term Memory (BiLSTM) dan Bidirectional Gated Recurrent Unit (BiGRU) pada modeling layer-nya. Model arsitektur BiDAF dengan self-attention mampu menangkap hubungan yang kompleks antara kata dan frasa dalam suatu konteks secara global, sehingga dapat memberikan manfaat signifikan terutama untuk low resource language. Pengujian dilakukan dengan empat dataset, yaitu SQuAD, TyDiQA, QASiNa, dan variated dataset. Pada dataset SQuAD mendapatkan skor matriks F1-score 61.7 dan EM 45.1 dengan BiLSTM. Pada dataset TyDiQA mendapatkan skor matriks F1-score 65.1 dan EM 52.5 dengan BiGRU. Pada dataset QASiNa mendapatkan skor matriks F1-score 58.5 dan EM 41.6 dengan BiLSTM. Pada variated dataset mendapatkan skor matriks yang lebih unggul daripada saat menggunakan data asli dengan F1-score 75.1 dan EM 64.8 dengan BiGRU. Dari hasil pengujian tersebut, model yang diusulkan menunjukkan kinerja yang lebih optimal dibandingkan dengan pre-trained model sebelumnya dalam pengembangan QAS Bahasa Indonesia.
×
Penulis Utama
:
Vicko Danendra Setyo Yuwono
Penulis Tambahan
:
-
NIM / NIP
:
M0520079
Tahun
:
2024
Judul
:
Optimasi Pengembangan Question Answering System Bahasa Indonesia Menggunakan Bi-Directional Attention Flow dengan Self-Attention
Edisi
:
Imprint
:
Surakarta - Fak. Teknologi Informasi dan Sains Data - 2024
