Masjid Raya Jakarta dirancang oleh tim dari Atelier 6 Arsitek. Tim itu diketuai oleh arsitek Indonesia, Adhi Moersid. Adhi dan timnya mengerjakan rancangan masjid tersebut pada 2013. Saat itu, Jakarta belum memiliki masjid provinsi. Lalu, Gubernur Jakarta Joko Widodo ingin Jakarta memiliki masjid raya.

Adhi mengagumi konsep Masjid Nabawi di Madinah. Nabi Muhammad SAW menciptakan masjid tersebut tidak hanya sebagai tempat ibadah. "Masjid Madinah itu bukan hanya tempat ibadah. Masjid tersebut sekaligus menjadi tempat sosial," ujar Adhi saat ditemui di kantornya, di Jalan Cikini IV Nomor 22, Jakarta Pusat. Karena punya 'jiwa' Masjid Nabawi, Masjid Raya Jakarta dibangun dengan fasilitas lengkap. Masjid ini memiliki area yang luas dan bangunannya memiliki ruangan selain tempat ibadah.

Bentuk bangunan membentuk huruf 'T'. Bagian tengah dikhususkan untuk ruang ibadah. Sedangkan sayap bangunan dikhususkan untuk fasilitas lain.

"Ada ruang serbaguna, ruang rapat besar, ada ruang komisinya. Ruang seminar, ruang pendidikan, ruang posyandu, puskesmas, koperasi, warung koperasi. Ruang pengelola. Pengelola penting. Dia harus ada manajemen pengelola yang benar," ujar Adhi.

"Selain itu, akan juga dibangun ruang perpustakaan, kafetaria, area olahraga," sambung Adhi. Selain itu, masjid ini bisa digunakan untuk menampung orang secara darurat. Jika diperkirakan, Masjid Raya Jakarta bisa menampung 12.500-13.000 orang. "Kalau misalkan ada bencana, dan mencari tempat, ini bisa menjadi tempat penampungan. Ada ruang penampungan keadaan darurat," kata Adhi.

Masjid Raya Jakarta akan dibangun dengan konsep ramah lingkungan. Cukup pencahayaan dan air yang digunakan bisa didaur ulang.

"Yang kita perhatikan adalah KDH, koefisien dasar hijau. Jadi masjid ini masih memiliki halaman yang luas. Yang memungkinkan untuk kita garap," ujar Adhi.

Halaman hijau tidak hanya digunakan untuk ruang terbuka, tapi juga menghasilkan. Menurut Adhi, ini konsekuensi dari konsep Millennium Development Goal.

"Masjid akan memiliki karang kitri. Itu kebon tradisional Indonesia. Biasanya orang menyediakan sedikit halaman untuk menanam sayur, bumbu, tanaman obat, dan sebagainya," ujar Adhi.

"Di antara pohon, kita tanam tanaman serbaguna. Kita hutankan dengan cara tumpang sari," kelas Adhi.

Hasil pertanian yang dibuat dijual di warung koperasi masjid. Maka, pengelolaan masjid harus dilakukan dengan profesional. "Saya usulkan kelak, supaya dikelola oleh pengelola profesional."

Masjid ini kental akan budaya Betawi. Tidak ada kubah bundar seperti masjid pada umumnya. Di bagian tengah terdapat satu segitiga besar dan empat segitiga kecil pada bagian depan. Masjid ini memiliki dua menara di depan, dua di sayap kanan, dan satu di sayap kiri. Masjid ini mengadopsi konsep rumah bapang khas Betawi. Dengan atap segitiga dan ornamen gigi balang.

"Beberapa ciri khas Betawi ikut dimasukkan. Kita ingin memunculkan kesan tradisional dan modern," ujar Adhi. Jika bangunan masjid telah ditumbuhi pohon, atap akan menjadi bagian yang menonjol. Atap tersebut akan terlihat jelas dari Jalan Daan Mogot.