Hijo de un aviador del bando nacional, luego piloto de Iberia, y nieto de un republicano, Alfredo Pérez Rubalcaba fue pieza clave de los Gobiernos de Felipe González y ahora lo es del de Zapatero. En este último, el actual ministro de Interior gana poder en el Ejecutivo pasando a ocupar la vicepresidencia primera, cargo que hasta ahora ostentaba María Teresa Fernández de la Vega.
En 1988 fue nombrado Secretario de Estado de Educación, y entre 1992 y 1993 fue nombrado ministro de Educación y Ciencia. Tras las elecciones generales de 1993, el por entonces presidente del Gobierno, Felipe González, le nombró ministro de la Presidencia y de Relaciones con las Cortes (cartera de nueva creación), cargo en el que se mantuvo hasta las elecciones generales de 1996. En sus intervenciones negó reiteradamente cualquier relación del Gobierno con los GAL.
En las elecciones generales del 14 de marzo de 2004, que dieron la victoria al PSOE, fue responsable técnico del Programa Electoral del Partido, que coordinó Jesús Caldera. Luego fue secretario general de Empleo, cargo que dejó en 2006 por su "desgaste físico".
En las elecciones generales de marzo de 2004, Rubalcaba fue responsable de la estrategia electoral del PSOE. Algunos analistas políticos le atribuyen un papel decisivo en la victoriasocialista.
El día de reflexión de las elecciones generales de 2004, dos días después de los atentados islamistas del 11-M, Alfredo Pérez Rubalcaba criticó al gobierno del PP, que atribuía a ETAla autoría de la masacre, y dijo en rueda de prensa la frase "España se merece un gobierno que no le mienta".
Tras la victoria socialista en las elecciones generales de 2008, Pérez Rubalcaba fue renovado en la cartera ministerial, ocupando de nuevo el cargo de ministro del Interior para ejercer durante la IX Legislatura.5 Entre el 20 de mayo y el 30 de junio de 2008 asumió interinamente las funciones de ministro de Defensa durante la baja de maternidad de la titular del departamento, Carme Chacón.