Sebagai seorang Pengusaha di tahun 1995, Basuki pernah mengalami sendiri pahitnya berhadapan dengan politik dan birokrasi yang korup. Pabrik dan perusahaannya ditutup akibat ia melawan kesewenangan para pejabat. Ia sempat berpikir untuk kabur keluar negeri, namun keinginan itu ditolak oleh sang ayah, Alm. Indra Tjahaja Purnama. Sang ayah berkata kepadanya bahwa suatu saat ia (Basuki) akan dipilih oleh rakyat untuk memperjuangkan nasib mereka.

Bermodalkan keyakinan bahwa orang miskin jangan lawan orang kaya dan orang kaya jangan lawan pejabat, keinginan untuk membantu rakyat kecil di kampungnya, dan juga kefrustasian yang mendalam terhadap kesemena-menaan pejabat yang ia alami sendiri, Ahok memutuskan untuk masuk ke politik di tahun 2003.
Pertama-tama ia bergabung dibawah bendera Partai Perhimpunan Indonesia Baru (PPIB) yang saat itu dipimpin oleh Dr. Sjahrir. Pada pemilu 2004 ia mencalonkan diri sebagai anggota legislatif. Dengan keuangan yang sangat terbatas dan model kampanye yang lain dari yang lain, yaitu menolak memberikan uang kepada rakyat, ia terpilih menjadi anggota DPRD Kabupaten Belitung Timur periode 2004-2009.

Selama di DPRD ia berhasil menunjukan integritasnya dengan menolak ikut dalam praktik KKN, menolak mengambil uang SPPD fiktif, dan menjadi dikenal masyarakat karena ia satu-satunya anggota DPRD yang berani secara langsung dan sering bertemu dengan masyarakat untuk mendengar keluhan mereka sementara anggota DPRD lain lebih sering “mangkir”.

Oleh karena pola kerja nya yang bagus para rakyat Belitung Timur meminta Ahok maju sebagai calon bupati untuk periode 2005-2010. Maju sebagai calon Bupati Belitung Timur, Ahok mempertahankan cara kampanyenya, yaitu dengan mengajar dan melayani langsung rakyat dengan memberikan nomor telepon genggamnya yang juga adalah nomor yang dipakai untuk berkomunikasi dengan keluarganya. Dengan cara ini ia mampu mengerti dan merasakan langsung situasi dan kebutuhan rakyat. Dengan cara kampanye yang tidak “tradisional” ini, yaitu tanpa politik uang, ia secara mengejutkan berhasil mengantongi suara 37,13 persen dan menjadi Bupati Belitung Timur periode 2005-2010.
Bermodalkan pengalamannya, ia mengerti betul sistem keuangan dan budaya birokrasi yang ada, dalam waktu singkat sebagai Bupati ia mampu melaksanakan pelayanan kesehatan gratis, sekolah gratis sampai tingkat SMA, pengaspalan jalan sampai ke pelosok-pelosok daerah, dan perbaikan pelayanan publik lainya. Prinsipnya sederhana: jika kepala lurus, bawahan tidak berani tidak lurus. Selama menjadi bupati ia dikenal sebagai sosok yang anti sogokan baik di kalangan lawan politik, pengusaha, maupun rakyat kecil. Ia memotong semua biaya pembangunan yang melibatkan kontraktor sampai 20 persen. Dengan demikian ia memiliki banyak kelebihan anggaran untuk memperbaiki kesejahteraan masyarakat.

Kesuksesan besar sebagai bupati pun terdengar ke seluruh Bangka Belitung dan mulailah muncul suara-suara untuk mendorong Ahok maju sebagai Gubernur di tahun 2007. Kesuksesannya di Belitung Timur tercermin dalam pemilihan Gubernur Babel ketika 63 persen pemilih di Belitung Timur memilih Ahok. Namun sayang, karena banyaknya manipulasi dalam proses pemungutan dan penghitungan suara, ia gagal menjadi Gubernur Babel.

Dalam pemilu legislative 2009 ia maju sebagai caleg dari Golkar. Meski awalnya ditempatkan pada nomor urut keempat dalam daftar caleg (padahal di Babel hanya tersedia 3 kursi), ia berhasil mendapatkan suara terbanyak dan memperoleh kursi DPR berkat perubahan sistem pembagian kursi dari nomor urut menjadi suara terbanyak.
Selama di DPR, ia dikenal oleh kawan dan lawan sebagai figur yang apa adanya, vokal, dan mudah diakses oleh masyarakat banyak.

Namanya kian melejit pada tahun 2012, setelah Bapak Joko Widodo (Jokowi) dari PDI-P menunjuk Ahok (waktu itu ia menjadi anggota parta GERINDRA) sebagai calon pendampingnya sebagai Wakil Gubernur DKI Jakarta periode 2012-2017. Mereka akhirnya maju menjadi pemenang Gubernur dan Wakil Gubernur DKI Jakarta, dan dilantik pada 15 Oktober 2012.

Pasca menangnya Pak Jokowi di pemilihan capres 2014. Pada November 2014, Bapak Ahok diangkat sumpah dan dilantik oleh Bapak Jokowi sendiri menjadi pemimpin DKI. Ahok meneruskan pekerjaan yang ditinggalkan oleh Pak Jokowi sampai tahun 2017.