La moschea sotterranea si trova a una certa distanza dalla necropoli a nord-est di essa. La moschea Sultan-Epe è tagliata nella massa di roccia calcarea. La moschea si trova nella parte più a sud della costa settentrionale del mare. Nel 2003 sono state eseguite ricerche archeologiche da specialisti della Riserva storica e culturale nazionale di Mangystau sotto la direzione di A. Astafyev e M. Kalmenov. La moschea sotterranea è composta da 9 stanze. La stanza d’ingresso termina con una specie di scale molto ripide fatte di lastre di pietra grezza di diverse dimensioni. La scala scende in una piccola sala con un tetto alto e un lucernario. Le pareti sono costruite in pietra. All’interno della stanza c’è una scala alta. La sala è rettangolare e le pareti sono alte fino a 3 m. Sulla parete nord della sala c’è anche un’apertura luminosa che conduce a una stanza stretta. Un’attenzione speciale merita il canyon Sultan-Epe e il pozzo. Il canyon Sultan-Epe si trova sulla costa settentrionale della penisola di Tupkaragan, vicino al golfo di Sarytas esteso a 5 km dal mare. È un posto molto bello. Il canyon Sultan-Epe è una pletora di flora e fauna diverse che non troverete altrove nella regione.
Sultan-Epe era il figlio del famoso poeta mistico centroasiatico Khakim-Ata (Suleiman Bakyrgani), un discepolo di Ahmad Yassawi, e Ambar-Ana. Secondo la leggenda, Sultan-Epe è il patrono delle persone che annegano e dei pescatori. Ha fatto molti miracoli. Ad esempio, ha trasferito la Kaaba a Bakyrgan (Khorezm) per suo padre, ha miracolosamente rianimato tori macellati, ecc. Tuttavia, Khakim-Ata ha trattato le attività del suo sole con gelosia e sfiducia. In risposta Sultan-Epe ha salutato suo padre e sua madre ed è diventato invisibile. Dopo aver sentito di questo, Khodja Ahmed Yassawi ha punito Khakim-Ata con una benedizione inversa: presumibilmente al suo comando sulla tomba di quest’ultimo l’Amu Darya ha fluito per quarant’anni e la città di Bakyrhan è stata distrutta. Circa cento anni dopo la scomparsa di Sultan-Epe i Nogai stavano migrando a Mangistau. Tra i nomadi Nogai c’era un mullah che insegnava ai bambini a leggere e scrivere. Tra i suoi allievi c’era un ragazzo debole e zoppo di nome Heyrulla. Ogni giorno veniva picchiato: a scuola dal mullah, e a casa dai suoi genitori. I compagni lo prendevano in giro e lo insultavano sempre. In breve, la sua vita era dura.