Berdirinya Masjid Jami Cheng Hoo ini merupakan prakarsa dari PITI (Persatuan Islam Tionghoa Indonesia). Masjid Jami tersebut diresmikan pada tanggal 5 Juli 2011 oleh Ketua Umum Simpan Pinjam Jasa. Yang menjadi ciri khas keunikan Masjid ini adalah bentuk bangunannya bergaya arsitektur perpaduan akulturasi khas China/Tiongkok dan Jawa Islam. Bentuknya mirip kelenteng. Tak ada kubah bulat. Bangunan ini banyak dihiasi ukiran dan pernak-pernik ala China seperti lampion merah.

Masjid Jami ini mulai dibangun pada tahun 2005, akan tetapi pada tahun 2006 pembangunannya terhenti disebabkan karena sesuatu hal. Pada tahun 2010 pembangunan kembali dimulai hingga akhirnya Masjid Jami’ PITI Muhammad Cheng Hoo berdiri dengan megahnya. Masjid Jami ini kemudian dijadikan Pusat Dakwah dan Pendidikan Islam.

Awalnya Masjid Jami ini sengaja dibuat untuk kaum muslim dan para Mualaf di daerah Purbalinggga. Jumlah Muslim Tionghoa di Purbalingga terdapat kurang lebih 130-an orang. Mereka tersebar di 18 kecamatan. Masjid Jami ini diharapkan bisa lebih memajukan Purbalingga khususnya dibidang dunia dakwah Islam.

Masjid Jami PITI Muhammad Cheng Hoo menjadi suatu bukti terdapatnya keberagaman agama, suku maupun ras dalam kehidupan bermasyarakat di Purbalingga. Hal ini menjadi suatu kekuatan yang luar biasa. Para muslim Tionghoa memanfaatkan Masjid Jami ini sebagai sarana tempat berkumpul mereka untuk menyiarkan dakwah dan pendidikan Islam.

Nah, itulah sedikit historis dari masjid Jami Cheng Hoo. Semoga masjid ini selalu ada hingga sampai kapanpun