Pada tanggal 3 Oktober 1943, dibentuklah Tentara Sukarela Pembela Tanah Air (PETA). Agar tidak kelihatan bahwa rencana pembentukan Peta diatur oleh Jepang, maka dibuatlah cara yang paling halus yakni agar Peta tersebut diminta oleh rakyat Indonesia sendiri.

Tanggal 7 September 1943, Gatot Mangunpraja ,mengajukan permohonan kepada Gunseikan yang menurut sumber tertentu ditanda-tangani dengan darahnya sendiri. Gatot memohon agar dibentuk kesatuan bersenjata di kalangan penduduk sendiri. Beberapa hari kemudian sejumlah alim ulama juga mengajukan permohonan yang sama mereka diantaranya K.H. Mas Mansyur, KH. Adnan, Dr. Abdul Karim Amrullah (HAMKA), Guru H. Mansur, Guru H. Cholid. K.H. Abdul Madjid, Guru H. Jacob, K.H. Djunaedi, U. Mochtar dan H. Moh. Sadri yang menuntut agar segera dibentuk tentara sukarela bukan wajib militer yang akan mempertahankan Pulau Jawa. Dengan alasan itu, kemudian Saiko Syikikan dan Gunseikan menyetujui pendirian PETA.

Pendirian PETA didasarkan pada maklumat Osamu Seirei Nomor 44 yang diumumkan oleh Panglima Tentara ke-16, Letnan Jenderal Kumakichi Harada.

Osamu Seirei No 44, 3 Oktober 1943 berisikan mengenai Pembentukan Pasukan Sukarela untuk membela Pulau Jawa dengan status :

Kesatu, Tentara Pembela Tanah Air (PETA), terdiri dari warga negara yang asli
Kedua, Tentara Pembela Tanah Air (PETA), dilatih oleh tentara Jepang
Ketiga, Tentara Pembela Tanah Air (PETA), bukan milik organisasi manapun, langsung dibawah Panglima Tentara Jepang
Keempat, Tentara Pembela Tanah Air (PETA), sebagai tentara teritorial yang berkewajiban mempertahankan wilayahnya (syuu)
Kelima, Tentara Pembela Tanah Air (PETA), siap melawan sekutu

Pengumuman mengenai pembentukan PETA itu dinyatakan bahwa seluruh anggotanya, baik prajurit maupun perwira terdiri dari bangsa Indonesia sendiri. Pasukan PETA akan dibentuk pada setiap Syu (Keresidenan) untuk membela daerah tersebut. Penyebarluasan berita pembentukan PETA dan syarat-syarat menjadi anggota PETA ternyata mendapat perhatian besar dari masyarakat, khususnya di Jawa. Penyebabnya karena PETA tidak terlalu mementingkan tingkat pendidikan seperti yang di haruskan Heiho, tetapi lebih mengutamakan kecakapan memimpin dan mengatur rombongan.
Mengenai umur hanya disebutkan untuk calon Komandan Peleton harus berumur dibawah 30 tahun dan untuk calon Komandan Regu dan Prajurit harus di bawah 25 tahun. Namun, mereka yang diterima menjadi Komandan Batalyon adalah tokoh-tokoh yang mempunyai pengaruh kuat pada suatu daerah tertentu seperti tokoh-tokoh agama, guru dan sebagainya. Para calon perwira dilatih di kompleks militer Bogor yang diberi nama Jawa Bo-ei Giyugun Kanbu Resentai mulai bulan Oktober 1943, dan selanjutnya pada bulan April, bulan Juli 1944, dan seterusnya. Mereka dibagi dalam tiga kelompok, yaitu calon Komandan Batalyon (Daidanco), Komandan Kompi (Gudanco), dan Komandan Peleton (Syudanco). Angkatan pertama menyelesaikan latihan dan dilantik pada bulan Desember 1943.

Sebenarnya untuk apa Jepang menyetujui pembentuka PETA? Dari sudut pandang Jepang, PETA dimaksudkan sebagai alat untuk mempertahankan Indonesia terhadap kemungkinan pendaratan Sekutu.

Di seluruh wilayah yang didudukinya, Jepang menderita kekalahan yang mengejutkan, dan menjadi lemah. Mereka ingin sekali memberi dukungan pada prajurut mereka dengan para pemuda Indonesia yang tidak pernah mendapat pendidikan Belanda dan dengan demikian tidak memiliki perasaan pro Barat. Secara teoritis, orang Indonesia yang sederhana, tidak berpendidikan dan bersifat kekanak-kanakan itu akan mudah diperlakukan sesuai kehendak Jepang. Mereka akan diindoktrinasi untuk membenci Barat dan dilatih bagaimana bertempur.

Komando Tinggi Jepang menyetujui pembentukan PETA, agar mempersiapkan penduduk asli untuk melawan Sekutu seandainya invasi mereka berlangsung. Jauh lebih baik, demikian pikir para Jenderal Jepang itu, darang bangsa Indonesia yang tertumpah daripada darah bangsa Jepang.

Bagi Soekarno, PETA merupakan kesempatan bagi rakyat yang tidak terlatih menjadi tentara yang andal. Untuk pertama kali bangsa Indonesia belajar menggunakan senapan, untuk mempertahankan dirinya sendiri. Mereka akan diajari disiplin militer, dilatih perang gerilya, bagaimana menghadang musuh, bagaimana menembakan senapan dalam posisi merangkak, bagaimana merakit granat buatan sendiri dengan menggunakan tempurung yang diisi bensin. Mereka berlatih bagaimana berperang melawan musuh- siapapun musuh yang mereka hadapi.

Komando Tinggi Jepang meminta Soekarno untuk mencari calon-calon perwira. Dia segera memanfaatkan kesempatan ini. Argumentasinya, bagwa seseorang tidak akan secara sukarela mempertahankan negerinya, kecuali dia seorang patriot yang penuh semangat. Perasaan kebencian terhadap Sekutu yang akan ditanamkan Jepang harus diperkuat dengan perasaan cinta kepada Tanah Air yang sifatnya positif sebagaimana yang diajarkannya.

Setelah diyakinkan seperti itu, Komando Tinggi Jepang meminta Soekarno untuk memberikan dan menjamin nama-nama orang yang memiliki kesetiaan terhadap Tanah Air.

Soekarno pun memilih para pemimpin seperti Gatot Mangunpraja, seorang pemberontak PNI yang bersamanya dipenjara di tahun 1929. Soekarno juga memilih orang-orang muda yang dapat dikendalikannya dan nantinya dapat menjadi pahlawan-pahlawan revolusi. Soekarno lah yang pada akhir 1943 mengusulkan orang-orang yang nantinya menjadi kolonel dan jenderal dalam Tentara Nasional Indonesia.