Pembangunan Masjid Syuhada di Yogyakarta berawal dari kegiatan pegajian yang diadakan di rumah keluarga Moch. Joeber Prawiroyuwono yang berada di Jalan Ngasem, Yogyakarta. Pengajian itu digelar setelah mundurnya Belanda dari Yogyakarta dan menjelang pemindahan ibu kota negara dari Yogyakarta ke Jakarta. Pada saat itu, beberapa tokoh yang hadir dengan dipantik oleh Mr. Asaat berpikir tentang kenang-kenangan apa yang pantas dihadiahkan kepada rakyat Yogyakarta. Mereka berpikir bahwa kemerdekaan yang dinikmati Indonesia saat ini tidak terlepas dari perjuangan rakyat Yogyakarta dan Sri Sultan Hamengkubuwono IX yang telah menjadikan Yogyakarta sebagai Ibu Kota Revolusi Indonesia.[2]

Berkenaan dengan itu, jauh ketika penjajahan Belanda masih berlangsung, Lapangan Kridosono di Kotabaru dimonopoli oleh Belanda. Lapangan sepak bola tersebut sejatinya adalah lapangan sepak bola terbesar di Yogyakarta. Belanda mempergunakan lapangan tersebut untuk kepentingan klub sepak bola mereka yang bernama Voetbalbond Djokja (VDB). Pribumi yang tinggal di sekitar lapangan bahkan dilarang untuk memasuki area tersebut. Hanya golongan berkebangsaan Belanda yang diperbolehkan untuk memasuki dan memanfaatkan fasilitas tersebut. Keadaan berubah sekejab ketika Jepang menjajah Indonesia dan mengusir Belanda dari Yogyakarta. Jepang dengan politik dan tipu muslihatnya berupaya untuk mengambil hati rakyat Indonesia. Mereka memberikan kesempatan kepada rakyat Yogyakarta untuk dapat memanfaatkan fasilitas lapangan sepak bola tersebut. Hal itu menjadi dalih Jepang yang mengaku sebagai saudara tua Indonesia. Rakyat Yogyakarta diperkenankan untuk menggunakan lapangan yang ada sebagai sarana hiburan menonton pertandingan sepak bola. Di tengah-tengah pertandingan sepak bola yang sedang berlangsung, terjadi percakapan antara dua tokoh masyarakat bernama Muhammad Muammal dan H.M Syuja’. Ketika waktu Shalat Ashar tiba di antara berlangsungnya pertandingan sepak bola, mereka kesulitan untuk mencari tempat ibadah. Mereka lupa bahwa di daerah Kotabaru belum ada masjid. Bahkan, Gereja Kristen Batak Protestan yang ada di sana dahulu juga sempat dijadikan masjid jami’ untuk Shalat Jumat. Berkenaan dengan dua peristiwa tersebut, maka beberapa tokoh agama dan masyarakat sepakat untuk membangun masjid di Kotabaru sekaligus sebagai hadiah dari pemerintah Indonesia kepada rakyat Yogyakarta