En août1992, il rejoint l'équipe de campagne présidentielle de Bush puis après la défaite de ce dernier face àBill Clinton en, redevient brièvement le chef de cabinet de la Maison-Blanche, jusqu'à l'Inauguration Day en janvier.
Lors de l'élection présidentielle de 2000, il est le conseiller juridique et l'envoyé deGeorge W. Bush enFloride pour contrer la procédure judiciaire enclenchée parAl Gore et les démocrates visant à faire recompter tous les bulletins de vote de certains comtés de Floride et renverser la victoire locale de Bush acquise par quelques centaines de voix d'avance.
En mars2006, il est chargé par le Congrès et le présidentGeorge W. Bush de présider une commission intituléeGroupe d'étude sur l'Irak (GEI), composée de dix membres, républicains et démocrates, et dont le but est de redéfinir la politique à mener enIrak. La commission est chargée de remettreses conclusions pour la fin de l'année 2006, lesquelles devraient osciller entre deux options, l'une préconisant une concentration des forces sur Bagdad couplée à l'ouverture de négociations politiques avec les insurgés, laSyrie et l'Iran et la seconde proposant un retrait graduel des troupes américaines, sans toutefois définir de calendrier. James Baker n'a pas caché dès octobre au cours d'entretiens télévisés être partisan de la première option.
Marié à Susan Garrett, le couple Baker a huit enfants.