Iscritto alla Federazione giovanile comunista di Bologna nel 1960, ne è stato segretario dal 1967 al 1969. In seguito nella segretaria della federazione del Pci di Bologna fino al 1975, dopo un periodo nella struttura di formazione della Cgil ha diretto la contrattazione nella segretaria regionale fino al 1980 quando ne è diventato segretario generale aggiunto e dal 1985 segretario generale. Nel 1988 su proposta della Cgil nazionale diventò segretario generale della funzione pubblica cgil e nel 1990 entrò nella segretaria confederale della Cgil diretta da Bruno Trentin. Nel 1996 lasciò la segreteria Cgil e diventò responsabile nazionale lavoro nella segreteria Pds di Massimo D'Alema fino al1999 quando diventò sottosegretario alle Finanze nel 2° governo D'Alema, poi di nuovo sottosegretario alle Finanze con il 2° governo Amato. Eletto nel 2001 deputato nel collegio di Bologna Borgo Panigale divenne vice presidente della commissione finanze. Nel 2006 tornò nel 2° governo Prodi come sottosegretario al Ministero dell'Economia occupandosi di fisco a fianco del vice MInistro Vincenzo Visco. Sciolti i DS nel 2007 non entrò nel Pd e rimase in Sinistra Democratica fino alla nascita di Sel, in cui non entrò, da allora non ha più avuto tessere di partito. Nel 2008, sfiduciato il governo Prodi, rinunciò ad avere ruoli di rappresentanza politica e istituzionale, scrisse un saggio edito da Ediesse "Ripartire da Prodi" e aderì all'Ars fondata da Aldo Tortorella. Di fronte alla decisione del governo Berlusconi di riproporre il nucleare civile, bocciato nel referendum del 1987, decise insieme ad un gruppo che condivideva l'obiettivo (Giorgio Parisi, Gianni Mattioli, Massimo Scalia, Massimo Serafini, Umberto Guidoni, Mauro Bulgarelli, Vittorio Bardi, per citarne alcuni) di preparare un'iniziativa referendaria per abrogare il nucleare. Malgrado rapporti non facili con Antonio Di Pietro si arrivò a raccogliere le firme per cancellare l'iniziativa del governo Berlusconi e ad un coordinamento delle associazioni ambientaliste storiche con la nuova associazione "Si alle rinnovabili no al nucleare" di cui era divenuto Presidente. In seguito alla vittoria del No nel referendum divenne Presidente dell'Ars su proposta di Aldo Tortorella e nel 2015 partecipò alla costituzione del Coordinamento per la Democrazia Costituzionale per contrastare la controriforma costituzionale di Matteo Renzi e diventò vice presidente vicario del prof Alessandro Pace. Il Coordinamento diede vita a due distinti comitati referendari, uno per la bocciatura della controriforma costituzionale Renzi, presidente onorario il prof Gustavo Zagrebelsky, e uno contro l'Italicum che ne era il braccio elettorale, di questo comitato fu Presidente onorario il compianto prof Stefano Rodotà. Dopo la vittoria del No nel referendum che cancellò la controriforma costituzionale Renzi Alfiero Grandi è rimasto vice Presidente vicario del Coordinamento di cui oggi è presidente il prof Massimo Villone dopo la rinuncia del prof Alessandro Pace.
