Nato a Roma nel 1926, socialista dal 1944, ha sempre collegato un forte e convinto impegno culturale e politico -sin dalla sua militanza nei quadri della Federazione Giovanile Socialista, negli anni della liberazione- con una intensa carriera professionale, che gli ha permesso una esperienza ricca e differenziata come esperto economico e finanziario, nell'ufficio studi della Banca Nazionale del Lavoro, nell'organizzazione per la cooperazione economica europea a Parigi (OCSE), e all'Eni, al fianco di Enrico Mattei, dal 1956 alla sua morte, nel 1962.

Con Riccardo Lombardi, Antonio Giolitti, Pasquale Saraceno, è stato tra i promotori di una politica di piano intesa come strumento per superare gli squilibri territoriali, ridurre le diseguaglianze sociali, estendere la democrazia. Nel 1962 il Ministro del Bilancio La Malfa lo ha incaricato di organizzare gli uffici tecnici della programmazione, che poi ha guidato come collaboratore diretto di Giolitti e di Pieraccini.

È stato Segretario Generale della programmazione economica fino al 1975. Come esperto economico di problemi internazionali, ha collaborato con la CEE e con l'OCSE, partecipando e presiedendo comitati di studio, come il gruppo del progetto Europa. Dal 1975 al 1979 Ruffolo ha presieduto la FIME (Finanziaria Meridionale) per lo sviluppo di nuove iniziative industriali nel Mezzogiorno. Dal 1979 al 1983 è stato deputato al Parlamento Europeo.

Nel 1981 ha costituito insieme ad un gruppo di economisti, tra i quali Antonio Pedone e Luigi Spaventa, il Centro Europa Ricerche, un istituto specializzato in previsioni economiche e analisi critiche della politica economica, del quale è oggi il presidente. Nel luglio 1983 è stato eletto deputato del PSI alla Camera dei Deputati e nominato Presidente della Commissione Finanze e Tesoro. È stato eletto Senatore della Repubblica nel 1987 e nuovamente nel 1992.

Dal 1987 al 1992 ha ricoperto la carica di Ministro dell'Ambiente. Nel 1994 è stato eletto Deputato al Parlamento Europeo come indipendente nelle liste del PDS. E nel giugno 1999 nelle liste del DS.

Ha fondato nel 1986 la rivista Micromega: le ragioni della sinistra.