Колтрејн е роден воСеверна Каролина. Кон крајот на 1940-тите години почнал да свири во оркестарот наДизи Гилеспи, а во1953 година ѝ се придружил на групата наЏони Хоџиз. Првиот голем чекор во својата кариера го направил во1955 година, кога го заменилСони Ролинс во т.н. „првиот голем квинтет“ наМајлс Дејвис. Со таа група снимил неколку славни албуми, но во1957 година Колтрејн се оддалечил од групата заради зависноста одхероин. Кога се ослободил од хероинот, Колтрејн ѝ се придружил на групата наТелониус Манк. За овој период Колтрејн изјавил дека бил пресуден во неговиот животот. Во1958 година се вратил во групата на Мајлс Дејвис и свирел на албумитеMilestones (1958) иKind of Blue (1959), станувајќи најпознатиот тенор-саксофонист на своето време.
Својата прва гупа (квартет) ја основал во1960 година, кога почнал да свири сопран-саксофон и да се движи конслободен џез. Сепак, најголемата слава ја доживеал со својот „класичен квартет“, заедно сопијанистотМекој Тајнер,контрабасистотЏими Герисон итапанаротЕлвин Џоунс. Со оваа група во1964 година го снимил еден од своите најзначајни албуми, „Совршена љубов“ (англиски:A Love Supreme). Од1965 година, Колтрејновата музика станувала сè понепристапна, бидејќи создавалимпровизација без јасно дефинирана форма ихармонија. Членови на неговата тогашна група, покрај другите, биле иФероа Сендерс и Колтрејновата жена,Алис.
Џон Колтрејн починал во1967 година одрак на црниот дроб.
