Menurut sejarawan Prof. Dr. Slamet Muljana, tokoh Semar pertama kali ditemukan dalam karya sastra zaman Kerajaan Majapahit berjudul Sudamala. Selain dalam bentuk kakimpoi, kisah Sudamala juga dipahat sebagai relief dalam Candi Sukuh yang berangka tahun 1439
Semar dikisahkan sebagai abdi atau hamba tokoh utama cerita tersebut, yaitu Sahadewa dari keluarga Pandawa. Tentu saja peran Semar tidak hanya sebagai pengikut saja, melainkan juga sebagai pelontar humor untuk mencairkan suasana yang tegang.
Pada zaman berikutnya, ketika kerajaan-kerajaan Islam berkembang di Pulau Jawa, pewayangan pun dipergunakan sebagai salah satu media dakwah. Kisah-kisah yang dipentaskan masih seputar Mahabharata yang saat itu sudah melekat kuat dalam memori masyarakat Jawa. Salah satu ulama yang terkenal sebagai ahli budaya, misalnya Sunan Kalijaga. Dalam pementasan wayang, tokoh Semar masih tetap dipertahankan keberadaannya, bahkan peran aktifnya lebih banyak daripada dalam kisah Sudamala.
Dalam perkembangan selanjutnya, derajat Semar semakin meningkat lagi. Para pujangga Jawa dalam karya-karya sastra mereka mengisahkan Semar bukan sekadar rakyat jelata biasa, melaikan penjelmaan Batara Ismaya, kakak dari Batara Guru, raja para dewa.

Terdapat beberapa versi tentang kelahiran atau asal-usul Semar. Namun semuanya menyebut tokoh ini sebagai penjelmaan dewa.
Dalam naskah Serat Kanda dikisahkan, penguasa kahyangan bernama Sanghyang Nurrasa memiliki dua orang putra bernama Sanghyang Tunggal dan Sanghyang Wenang. Karena Sanghyang Tunggal berwajah jelek, maka takhta kahyangan pun diwariskan kepada Sanghyang Wenang. Dari Sanghyang Wenang kemudian diwariskan kepada putranya yeng bernama Batara Guru. Sanghyang Tunggal kemudian menjadi pengasuh para kesatria keturunan Batara Guru, dengan nama Semar.
Dalam naskah Paramayoga dikisahkan, Sanghyang Tunggal adalah anak dari Sanghyang Wenang. Sanghyang Tunggal kemudian menikah dengan Dewi Rakti, seorang putri raja jin kepiting bernama Sanghyang Yuyut. Dari perkimpoian itu lahir sebutir mustika berwujud telur yang kemudian berubah menjadi dua orang pria. Keduanya masing-masing diberi nama Ismaya untuk yang berkulit hitam, dan Manikmaya untuk yang berkulit putih. Ismaya merasa rendah diri sehingga membuat Sanghyang Tunggal kurang berkenan. Takhta kahyangan pun diwariskan kepada Manikmaya, yang kemudian bergelar Batara Guru. Sementara itu Ismaya hanya diberi kedudukan sebagai penguasa alam Sunyaruri, atau tempat tinggal golongan makhluk halus. Putra sulung Ismaya yang bernama Batara Wungkuham memiliki anak berbadan bulat bernama Janggan Smarasanta, atau disingkat Semar. Ia menjadi pengasuh keturunan Batara Guru yang bernama Resi Manumanasa dan berlanjut sampai ke anak-cucunya. Dalam keadaan istimewa, Ismaya dapat merasuki Semar sehingga Semar pun menjadi sosok yang sangat ditakuti, bahkan oleh para dewa sekalipun. Jadi menurut versi ini, Semar adalah cucu dari Ismaya.
Dalam naskah Purwakanda dikisahkan, Sanghyang Tunggal memiliki empat orang putra bernama Batara Puguh, Batara Punggung, Batara Manan, dan Batara Samba. Suatu hari terdengar kabar bahwa takhta kahyangan akan diwariskan kepada Samba. Hal ini membuat ketiga kakaknya merasa iri. Samba pun diculik dan disiksa hendak dibunuh. Namun perbuatan tersebut diketahui oleh ayah mereka. Sanghyang Tunggal pun mengutuk ketiga putranya tersebut menjadi buruk rupa. Puguh berganti nama menjadi Togog sedangkan Punggung menjadi Semar. Keduanya diturunkan ke dunia sebagai pengasuh keturunan Samba, yang kemudian bergelar Batara Guru. Sementara itu Manan mendapat pengampunan karena dirinya hanya ikut-ikutan saja. Manan kemudian bergelar Batara Narada dan diangkat sebagai penasihat Batara Guru.
Dalam naskah Purwacarita dikisahkan, Sanghyang Tunggal menikah dengan Dewi Rekatawati putra Sanghyang Rekatatama. Dari perkimpoian itu lahir sebutir telur yang bercahaya. Sanghyang Tunggal dengan perasaan kesal membanting telur itu sehingga pecah menjadi tiga bagian, yaitu cangkang, putih, dan kuning telur. Ketiganya masing-masing menjelma menjadi laki-laki. Yang berasal dari cangkang diberi nama Antaga, yang berasal dari putih telur diberi nama Ismaya, sedangkan yang berasal dari kuningnya diberi nama Manikmaya. Pada suatu hari Antaga dan Ismaya berselisih karena masing-masing ingin menjadi pewaris takhta kahyangan. Keduanya pun mengadakan perlombaan menelan gunung. Antaga berusaha melahap gunung tersebut dengan sekali telan namun justru mengalami kecelakaan. Mulutnya robek dan matanya melebar. Ismaya menggunakan cara lain, yaitu dengan memakan gunung tersebut sedikit demi sedikit. Setelah melewati bebarpa hari seluruh bagian gunung pun berpindah ke dalam tubuh Ismaya, namun tidak berhasil ia keluarkan. Akibatnya sejak saat itu Ismaya pun bertubuh bulat. Sanghyang Tunggal murka mengetahui ambisi dan keserakahan kedua putranya itu. Mereka pun dihukum menjadi pengasuh keturunan Manikmaya, yang kemudian diangkat sebagai raja kahyangan, bergelar Batara Guru. Antaga dan Ismaya pun turun ke dunia. Masing-masing memakai nama Togog dan Semar.

Dalam pewayangan dikisahkan, Batara Ismaya sewaktu masih di kahyangan sempat dijodohkan dengan sepupunya yang bernama Dewi Senggani. Dari perkimpoian itu lahir sepuluh orang anak, yaitu:

* Batara Wungkuham
* Batara Surya
* Batara Candra
* Batara Tamburu
* Batara Siwah
* Batara Kuwera
* Batara Yamadipati
* Batara Kamajaya
* Batara Mahyanti
* Batari Darmanastiti

Semar sebagai penjelmaan Ismaya mengabdi untuk pertama kali kepada Resi Manumanasa, leluhur para Pandawa. Pada suatu hari Semar diserang dua ekor harimau berwarna merah dan putih. Manumanasa memanah keduanya sehingga berubah ke wujud asli, yaitu sepasang bidadari bernama Kanistri dan Kaniraras. Berkat pertolongan Manumanasa, kedua bidadari tersebut telah terbebas dari kutukan yang mereka jalani. Kanistri kemudian menjadi istri Semar, dan biasa dipanggil dengan sebutan Kanastren. Sementara itu, Kaniraras menjadi istri Manumanasa, dan namanya diganti menjadi Retnawati, karena kakak perempuan Manumanasa juga bernama Kaniraras.

Dalam pewayangan Jawa Tengah, Semar selalu disertai oleh anak-anaknya, yaitu Gareng, Petruk, dan Bagong. Namun sesungguhnya ketiganya bukan anak kandung Semar. Gareng adalah putra seorang pendeta yang mengalami kutukan dan terbebas oleh Semar. Petruk adalah putra seorang raja bangsa Gandharwa. Sementara Bagong tercipta dari bayangan Semar berkat sabda sakti Resi Manumanasa.
Dalam pewayangan Sunda, urutan anak-anak Semar adalah Cepot, Dawala, dan Gareng. Sementara itu, dalam pewayangan Jawa Timuran, Semar hanya didampingi satu orang anak saja, bernama Bagong, yang juga memiliki seorang anak bernama Besut.

Semar memiliki bentuk fisik yang sangat unik, seolah-olah ia merupakan simbol penggambaran jagad raya. Tubuhnya yang bulat merupakan simbol dari bumi, tempat tinggal umat manusia dan makhluk lainnya.
Semar selalu tersenyum, tapi bermata sembab. Penggambaran ini sebagai simbol suka dan duka. Wajahnya tua tapi potongan rambutnya bergaya kuncung seperti anak kecil, sebagai simbol tua dan muda. Ia berkelamin laki-laki, tapi memiliki payudara seperti perempuan, sebagai simbol pria dan wanita. Ia penjelmaan dewa tetapi hidup sebagai rakyat jelata, sebagai simbol atasan dan bawahan.

Semar merupakan tokoh pewayangan ciptaan pujangga lokal. Meskipun statusnya hanya sebagai abdi, namun keluhurannya sejajar dengan Prabu Kresna dalam kisah Mahabharata. Jika dalam perang Baratayuda menurut versi aslinya, penasihat pihak Pandawa hanya Kresna seorang, maka dalam pewayangan, jumlahnya ditambah menjadi dua, dan yang satunya adalah Semar.
Semar dalam karya sastra hanya ditampilkan sebagai pengasuh keturunan Resi Manumanasa, terutama para Pandawa yang merupakan tokoh utama kisah Mahabharata. Namun dalam pementasan wayang yang bertemakan Ramayana, para dalang juga biasa menampilkan Semar sebagai pengasuh keluarga Sri Rama ataupun Sugriwa. Seolah-olah Semar selalu muncul dalam setiap pementasan wayang, tidak peduli apapun judul yang sedang dikisahkan.
Dalam pewayangan, Semar bertindak sebagai pengasuh golongan kesatria, sedangkan Togog sebagai pengasuh kaum raksasa. Dapat dipastikan anak asuh Semar selalu dapat mengalahkan anak asuh Togog. Hal ini sesungguhnya merupakan simbol belaka. Semar merupakan gambaran perpaduan rakyat kecil sekaligus dewa kahyangan. Jadi, apabila para pemerintah - yang disimbolkan sebagai kaum kesatria asuhan Semar - mendengarkan suara rakyat kecil yang bagaikan suara Tuhan, maka negara yang dipimpinnya pasti menjadi nagara yang unggul dan sentosa.