Pada tahun 1996, namanya muncul sebagai calon anggota legislatif sementara nomor urut empat dari Partai Golkar. Meski ini mengejutkan beberapa penggemarnya, Rhoma memiliki alasan tersendiri. Pasca vakum dari dunia politik praktis, Rhoma mengakui terus mengamati peran partai-partai Orde Baru terhadap kemajuan Islam. Golkar, menurutnya, dianggap memiliki andil besar dalam hal tersebut.
Sayangnya, nasib Rhoma Irama sebagai caleg Golkar pada Pemilu 1997 tidak diketahui dengan pasti. Kabar mengenai keterlibatannya dalam dunia politik meredup seiring dengan berakhirnya pemerintahan rezim Orde Baru pada Mei 1998, akibat gerakan reformasi yang melanda Indonesia.
3. Kembali ke PPP, Dukungan pada Pilpres 2014, dan Partai Idaman
Pada tahun 2008, Rhoma Irama kembali mencuri perhatian wartawan politik ketika ia memutuskan untuk kembali ke pangkuan PPP. Keputusannya ini diumumkan bersama dua ustaz terkemuka, Zainuddin MZ dan Noer Muhammad Iskandar Sq, serta Fadil Hasan. Saat itu, Suryadharma Ali, Ketua Umum PPP, menyatakan bahwa Rhoma berikrar untuk membesarkan partai.
Namun, dinamika politik menjelang Pilpres 2014 membuat Rhoma Irama beralih dukungan. Meskipun awalnya digadang-gadang menjadi calon presiden PKB setelah mendapatkan dukungan dari kalangan ulama, Rhoma harus menerima kenyataan bahwa partai belum memutuskan siapa calon presidennya. Muhaimin Iskandar, Ketua Umum PKB, dengan cepat menangkap peluang ini dan mengajak Rhoma untuk menjadi calon presiden PKB.
Rhoma kemudian menjadi ikon partai, menghadiri sejumlah acara dan memberikan dukungan yang signifikan. Hasilnya, perolehan suara PKB pada Pilpres 2014 meningkat drastis menjadi 11,2 juta (9,04%), dibandingkan dengan 5,15 juta suara (4,95%) pada Pemilu 2009. Namun, meski memberikan kontribusi pada perolehan suara PKB, Muhaimin Iskandar memutuskan untuk mencalonkan pasangan Jokowi-Kalla di Pilpres 2014.
Kekecewaan Rhoma terhadap keputusan ini membuatnya beralih dukungan kepada pasangan Prabowo Subianto-Sandiaga Uno pada Pilpres 2014. Meskipun Prabowo kalah dalam pilpres tersebut, Rhoma tetap mempertahankan posisinya sebagai tokoh yang memiliki pengaruh politik yang signifikan.