Kota Jambi merupakan daerah pemukiman yang menjadi pusat kedudukan pemerintahan dari masa ke sama. Berawal dari Dinasti Sung yang menjabarkan Maharaja San-fo-tsi (Swarnabhumi) bersemayam di Chan-pi.

Utusan dari Chan-pi datang untuk pertama kalinya di istana Kaisar China pada tahun 853M. Utusan ke dua kalinya datang pula pada tahun 871M. Informasi ini menorehkan bahwa Chan-pi (yang diidentifikasikan Prof. Selamat Mulyana sebagai Jambi) sudah muncul diberita China pada tahun – tahun tersebut.

Dengan demikian Chan-pi atau Jambi sudah ada dan dikenal pada abad ke 9M. Berita China Ling Pio Lui (890-905M) juga menyebut Chan-pi (Jambi) mengirim misi dagang ke China.
Silsilah Raja-raja Jambi tulisan Ngebih Suto Dilago Priayi Rajo Sari pembesar dari kerajaan Jambi yang berbangsa 12, menulis Putri Selaro Pinang Masak anak rajo turun dari Pagaruyung di rajakan di Jambi.

Dari sebutan Pinang dalam bahasa Jawa (Sunda) dilapas sebagai Jambe sehingga ditenggarai banyak orang sebagai asal kata Jambi. Jadi ada perubahan bunyi dan huruf dari Jambe ke Jambi. Identifikasi ini menginformasikan kata Jambe-Jambi terbuhul pada abad ke 15 yaitu di masa Puteri Selaro Pinang Masak memerintah dikerajaan Jambi Tahun 1460-1480. Raden Syarif (yang kemudian diungkapkan kembali oleh Datuk Sulaiman Hasan) dari “Riwayat Tanjung Jabung Negeri Lamo” mencatat bahwa Puteri Selaro Pinang Masak mengilir dari Mangun Jayo ke Tanjung Jabung di pandu oleh sepasang itik besar (Angso Duo) yang mupur ditanah pilih pada tanggal 28 Mei 1401.

Legenda Tanah Pilih ini berbeda versi dengan Ngebi Suto Dilago. Silsilah Raja-raja Jambi menyebut Orang Kayo Hitam (salah seorang putera dari pasangan puteri Selaro Pinang Masak dengan Ahmad Barus II/Paduko Berhalo) yang mengilir mengikuti sepasang itik besak (Angso Duo) atas saran petuah mertuanya Temenggung Merah Mato Raja Air Hitam Pauh.

Profesor Moh. Yamin mengidentifikasi Jambi berada disekitar Kantor Gubernur Jambi di Telanaipura sekarang. Indikasi ini atas dasar mulai dari kawasan Mesjid Agung Al-falah sampai ke Pematang pinggiran Danau Sipin terdapat deretan struktur batuan bata candi yang diantaranya menunjukan sebagai komplek percandian yang cukup besar dikawasan kampung Legok.

Tidak tertutup kemungkinan penemuan tanah pilih oleh sepasang Angso yang mupur tersebut adalah pembukaan kembali Kota Chan-pi yang ditinggal karena kerajaan SwarnaBhumi (San-fo-tsi) diserang oleh Singosari dalam peristiwa Pamalayu tahun 1275M dan pindah ke pedalaman Batang Hari yang kemudian dikenal sebagai Darmasraya (Sumatera Barat). Dua Puteri Melayu/Darmasraya yaitu Dara Petak dan Dara Jingga diboyong oleh Mahisa Anabrang ke Singosari pada tahun 1292. Ternyata di saat itu Singosari telah runtuh oleh pemberontak dan kemudian mendapat serbuan tentara Khu Bilaikhan.

Singosari berganti menjadi Majapahit dengan Rajanya Raden Wijaya. Salah seorang keturunan Puteri melayu itu yaitu dari pasangan Dara Jingga yaitu Adityawarman kembali ke Darmasraya kemudian mendirikan dan menjadi Raja di Pagaruyung (1347-1375M). Anaknya yang bernama Ananggawarman meneruskan teratah kerajaan Pagaruyung. Keturunan Ananggawarman salah satunya adalah Puteri Selaro Pinang Masak yang dirajakan di Jambi.

Setelah Orang Kayo Hitam dirajakan pusat kerajaan dipindahkan dari Ujung Jabung ke Tanah Pilih Jambi disekitar awal abad ke 16. Jadilah Jambi kembali sebagai tempat kedudukan Pemerintahan.

Pangeran Depati Anom yang naik tahta dikerajaan Jambi bergelar Sultan Agung Abdul Jalil (1643-1665M) pernah memberikan surat izin untuk mendirikan pasar tempat berjual beli di Muaro Sungai Asam pada seorang Belanda bernama Beschseven. Izin Sultan tersebut tertanggal 24 Juni 1657 dimana lokasi yang diizinkan itu kemudian berpindah dari Muaro Sungai Asam ke sekitar Muaro Sungai di bawah area WTC Batang Hari sekarang.

Jambi sebagai pusat pemukiman dan tempat kedudukan raja terus berlangsung. Istana yang dibangun di Bukit Tanah Pilih disebut sebagai istana tanah pilih yang terakhir sebagai tempat Sultan Thaha Saifuddin dilahirkan dan dilantik sebagai sultan tahun 1855. Istana Tanah Pilih ini kemudian di bumi hanguskan sendiri oleh Sultan Thaha tahun 1858 menyusul serangan balik tentara Belanda karena Sultan dan Panglimanya Raden Mattaher menyerang dan berhasil menenggelamkan 1 kapal perang Belanda Van Hauten di perairan Muaro Sungai Kumpeh.

Dari puing – puing Istana Tanah Pilih oleh Belanda dikuasai dan dijadikan tempat markas serdadu Belanda. Praktis setelah Sultan Thaha Saifuddin gugur tangga 27 April 1904 Belanda secara utuh menempatkan wilayah kerajaan Jambi sebagai bagian wilayah kekuasaan Kolonial Hindia Belanda. Jambi kemudian berstatus Under Afdeling di bawah Afdeling Palembang. Pada Tahun 1906 Under Afdeling Jambi ditingkatkan sebagai Afdeling Jambi kemudian di tahun 1908 Afdeling Jambi menjadi Kerisidenan Jambi dengan residennya O.L. Helfrich berkedudukan di Jambi.

Sampai masa Kemerdekaan pejabat Residen dari Keresidenan Jambi berkedudukan di Jambi. Setelah Republik Indonesia di Proklamirkan pada tanggal 17 Agustus 1945, berdasarkan berita RI Tahun II No. 07 hal 18 tercatat untuk sementara waktu daerah Negara Indonesia di bagi dalam 8 Provinsi yang masing – masing dikepalai oleh seorang Gubernur diantaranya Provinsi Sumatera. Provinsi Sumatera ini kemudian pada tahun 1946 dibagi lagi dalam 3 sub Provinsi yaitu Sub Provinsi Sumatera Utara, Sub Provinsi Sumatera Tengah dan Sub Provinsi Sumatera Selatan. Keresidenan Jambi dengan hasil voting dimasikan ke dalam wilayah Sub Provinsi Sumatera Tengah.

Presiden Jambi yang pertama di masa Republik adalah Dr. Asyagap sebagaimana tercantum dalam pengumuman Pemerintah tentang pengangkatan residen, Walikota di Sumatera dengan berdasarkan pada surat ketetapan Gubernur Sumatera tertanggal 03 Oktober 1945 No. 1-X.

Pada tahun 1945 tersebut sesuai Undang-undang no.1 tahun 1945 wilayah Indonesia terdiri dari Provinsi, Karesidenan, Kewedanaan dan Kota. Tempat kedudukan Residen yang telah memenuhi syarat, disebut Kota tanpa terbentuk struktur Pemerintahan Kota. Dengan demikian Kota Jambi sebagai tempat kedudukan Residen Keresidenan Jambi belum berstatus dan memiliki pemerintahan sendiri. Kota Jambi baru diakui berbentuk pemerintahan, ditetapkan dengan ketetapan Gubernur Sumatera No. 103 tahun 1946 tertanggal 17 Mei 1946 dengan sebutan Kota Besar dan Walikota pertamanya adalah Makalam. Mengacu pada Undang-undang No. 10 tahun 1948 Kota Besar menjadi Kota Praja. Kemudian berdasarkan Undang-undang No. 18 tahun 1965 menjadi Kota Madya dan berdasarkan Undang-undang No. 22 tahun 1999 Kota Madya berubah menjadi Pemerintah Kota Jambi sampai sekarang.

Dengan Undang-undang No. 19 Tahun 1958 Keresidenan Jambi sebagai bagian dari Provinsi Sumatera Tengah dikukuhkan sebagai Provinsi Jambi yang berkedudukan di Jambi. Kota Jambi sendiri pada saat berdirinya Provinsi Jambi telah berstatus Kota Praja dengan Walikotanya R. Soedarsono. Tanggal penetapan Kota Jambi sebagai Kota Praja yang mempunyai Pemerintahan sendiri sebagai Pemerintah Kota dengan ketetapan Gubernur Sumatera No. 103 Tahun 1946 tertanggal 17 Mei 1946 dipilih dan ditetapkan dengan Peraturan Daerah Kota Jambi No. 16 Tahun 1985 dan disahkan dengan Keputusan Gubernur Kepala Daerah Tingkat I Jambi No. 156 Tahun 1986, tanggal 17 Mei 1946 itu sebagai Hari Jadi Pemerintah Kota Jambi.