James Taylor werd geboren als zoon van Isaac en Gertrude Taylor. In 1966 begon hij metDanny Kortchmar enJoel O'Brien de bandThe Flying Machine. Ze namen een album op maar dit zou pas vier jaar na het uit elkaar gaan van de band uitkomen onder de naamJames Taylor and the Original Flying Machine. In 1971 speelde hij de hoofdrol in de film Two Lane Blacktop van Monte Hellman.
In1968, een jaar na het uiteenvallen vanThe Flying Machine, vertrok Taylor naarLonden waar hij een platencontract aangeboden kreeg doorApple Records. Later dat jaar kwam deelpeeJames Taylor uit in Engeland. Omdat dit album weinig succes bleek te hebben ging Taylor weer terug naar Amerika. Begin1969 werd hetzelfde album daar ook uitgebracht. Ook tekende hij een platencontract bijWarner Music. In1971 scoorde Taylor zijn grootste hit met het - doorCarole King geschreven - nummerYou've got a friend. Tevens maakte hij in dat jaar een uitstapje naar de filmindustrie door samen metDennis Wilson (Beach Boys) de hoofdrol te spelen in de filmTwo-Lane Blacktop.
Op 3 november1972 trouwde hij metCarly Simon met wie hij twee kinderen kreeg, maar van wie hij in 1983 zou scheiden.
Na het uitkomen van het albumSweet Baby James kreeg hij meer succes. Het album bereikte nummer 1 en bleef twee jaar lang een enorme bestseller. Hierna volgden nog enkele succesvolle albums waaronder zijnGreatest Hits. In1976 stapte hij over van Warner Music naarColumbia Records.
In februari1978 won Taylor eenGrammy Award voor het nummerHandyman. In de jaren die volgden deed hij verschillende tournees en bracht hij albums uit alsDad Loves His Work enFlag.
In1982 werd het iets rustiger rond Taylor. In oktober1985 verscheen pas zijn nieuwe albumThat's Why I'm Here. Ook trouwde hij in dat jaar metKathryn Walker. In mei1995 ontving Taylor een eredoctoraat in muziek van deBerklee College of Music inBoston,Massachusetts. Het jaar daarop scheidde hij ook van Kathryn Walker.
In het najaar van 2007 verscheen het livealbumOne Man Band, een opname van zijn gelijknamige concerttour waarbij hij akoestisch speelde met alleen pianist Larry Goldings als ondersteuning. Als onderdeel van het Europese deel van deze tournee speelde Taylor op 5 april 2008 in deHeineken Music Hall inAmsterdam.
In 2008 kwam zijn nieuwe cover-cd uit,Covers genaamd, waarop hij onder andereLeonard CohensSuzanne,The Temptations'It's Growing en nog 10 andere covers uitbracht. Deze werden in januari 2008 studio-live opgenomen in de schuur van Taylor met muzikanten alsLouis Conte,Steve Gadd enLou Marini. In 2009 bracht Taylor een extra cd uit met de niet eerder uitgebrachte liedjes die waren opgenomen tijdens dezelfde sessie. Hieronder zijnChuck Berry's Memphis enTom Waits'Shiver Me Timbers.
↑Een '-' betekent dat het nummer niet was genoteerd, een '×' betekent dat het nummer nog niet was uitgebracht en een vetgedrukt getal geeft de hoogste notering van een nummer aan.