Perkembangan teknologi Artificial Intelligence dalam menghasilkan gambar wajah yang sangat realistis telah menciptakan tantangan baru dalam membedakan antara foto wajah asli dan hasil generate AI. Penelitian ini mengusulkan pengembangan model hybrid yang mengkombinasikan Convolutional Neural Network (CNN) dan mekanisme attention untuk mendeteksi foto wajah hasil generate AI. Model yang diusulkan tidak hanya berfokus pada akurasi deteksi, tetapi juga menggunakan pendekatan Interpretable AI untuk memberikan penjelasan terhadap keputusan yang diambil oleh model. Metodologi yang digunakan melibatkan pengembangan arsitektur Deep Learning yang terdiri dari Backbone CNN dengan EfficientNet, dilengkapi mekanisme attention untuk memfokuskan analisis pada area-area kritis wajah. Dataset yang digunakan terdiri dari kombinasi foto wajah asli dari Dataset publik dan foto wajah hasil generate AI dari berbagai model generator AI terkini. Pendekatan Interpretable AI diterapkan untuk memberikan visualisasi dan penjelasan area-area yang menjadi dasar pengambilan keputusan model. Hasil yang diharapkan dari penelitian ini adalah terciptanya model yang tidak hanya mampu membedakan foto wajah asli dan AI dengan akurasi tinggi, tetapi juga dapat memberikan penjelasan yang interpretable terhadap setiap klasifikasi yang dilakukan. Pengembangan model ini diharapkan dapat berkontribusi dalam meningkatkan keamanan dan kepercayaan dalam era digital, khususnya dalam konteks verifikasi keaslian foto wajah.