PERJALANAN karier Rusdi Tahir penuh warna. Lulusan terbaik Program Pembentukan Jaksa (PPJ) 1978 ini—teman seangkatannya antara lain Jaksa Agung Muda Bidang Intelijen Muchtar Arifin dan Direktur Hak Asasi Manusia Kejaksaan Agung Suhartoyo—mengawali kariernya sebagai pegawai Kejaksaan Agung.

Saat bertugas di Kejaksaan Negeri Jakarta Barat pada 1980, ia pernah menyeret Abdul Qadir Jaelani dalam kasus subversi lantaran menolak asas tunggal Panca