Berada di tengah pemukiman penduduk dan dikelilingi pagar tembok setinggi 2,5 meter, gapura dan temboknya terbuat dari bata merah. Itulah keunikan kompleks Masjid Gede Mataram. Tak heran jika tempat ini seringkali digunakan oleh generasi milenial untuk melakukan foto-foto sebelum menikah.

Di bagian belakang masjid terdapat makam para peletak dasar Kerajaan Mataram Islam, di antaranya Ki Gede Pemanahan, Panembahan Senapati, Panembahan Hayakrawati dan sejumlah besar makam keluarga raja-raja Mataram lainnya. Selain itu terdapat makam Sultan Hamengku Buwana II dan Pangeran Adipati Pakualam I.

Di bagian lain dari kompleks ini terdapat Sendang Seliran yang dibagi menjadi 2 bagian, yakni sendang Seliran Kakung dan Sendang Seliran Putri. Karena letak sendang lebih rendah dari pada kompleks makam, untuk menuju kemari kita harus melewati sebuah gapura dan beberapa anak tangga. Selain Sendang Seliran, di kompleks ini juga terdapat Sendang Kemuning.