Al-Qur’an merupakan kitab suci umat islam dengan kompleksitas makna mendalam, yang tidak selalu dapat dipahami melalui pencarian berbasis kata kunci akibat karakteristik linguistiknya seperti polisemi dan sinonimi yang menjadikan pencarian semantik Al-Qur’an sebagai tantangan dalam Natural Language Processing (NLP), dimana pendekatan konvensional cenderung menghasilkan keluaran yang parsial dan kurang relevan. Sementara itu, penggunaan Large Language Model (LLM) juga beresiko menimbulkan halusinasi karena tidak berbasis pada sumber yang valid. Penelitian ini bertujuan untuk mengembangkan sistem retrieval kontekstual ayat Al-Qur’an melalui integrasi ontologi dan GPT-based Retrieval Augmented Generation (RAG) guna menghasilkan jawaban yang kontekstual dan relevan. Metode yang digunakan menggabungkan pendekatan Symbolic AI melalui ontologi berbasis Resource Description Framework (RDF) dan Semantic Web Rule Language (SWRL) dengan Neural AI menggunakan Model GPT-4o-mini dalam kerangka RAG. Dataset terdiri dari 324 ayat beserta tafsirnya dengan 9 Tema Pendidikan (Tarbiah), 218 Tema Umum, dan 63 Question Answering (QA) dataset uji. Proses meliputi tahap retrieval berbasis ontologi, augmentasi konteks, dan generasi jawaban. Evaluasi dilakukan dari dua aspek, yaitu berbasis metrik dengan retrieval (precision dan recall) dan generation (faithfulness dan answer relevancy), serta dengan human evaluation. Selain itu, penelitian ini juga membandingkan performa sistem dengan penggunaan SWRL dan tanpa SWRL. Pada dataset tanpa SWRL membutuhkan waktu reasoning  13 – 20 detik dan menunjukkan hasil precision 0.6349, recall 0.7901,  f1-score 0.6316,  faithfulness 0.9342, dan answer relevancy 0.9180. Sedangkan pada dataset dengan SWRL membutuhkan waktu 25 – 60 detik untuk melakukan reasoning dan menunjukkan hasil precision 0.6198, recall 0.9379, f1-score 0.6998, faithfulness 0.9578, dan answer relevancy 0.9145. Selain itu, hasil human evaluation menunjukkan bahwa sistem mampu menghasilkan jawaban yang relevan, akurat, dan sesuai konteks berdasarkan penilaian expert. Secara keseluruhan, penelitian ini menunjukkan integrasi ontologi dan GPT-based RAG efektif dalam meningkatkan kualitas retrieval dan generation pada sistem pencarian ayat Al-Qur’an.