Pochodził z licznej rodziny. W wieku dwunastu lat zaczął grać napuzonie, ale mniej więcej po roku przerzucił się na trąbkę. Uczył się sam i mimo że zdobył stypendium muzyczne, wiedzę o muzyce wolał zdobywać na estradzie. W 1935 porzucił uniwersytet i wyjechał doFiladelfii, gdzie występował w miejscowych grupach.
Razem zCharliem Parkerem stworzył bebop – jeden z nurtów jazzu. Zaczynał w orkiestrze Teddy'ego Hilla. Stamtąd trafił do zespołuEarla Hinesa, gdzie po raz pierwszy spotkał Parkera. Następnie trafił do bopowego big-banduBilly’ego Eckstine’a. Wkrótce założył swój własny big-band.
Na szeroką skalę wprowadził do jazzu elementy muzyki kubańskiej. W 1965 i 1971 wystąpił w Polsce. Dizzy Gillespie wywarł ogromny wpływ na wielu muzyków jazzowych, nie tylko trębaczy, m.in.Milesa Davisa,Maxa Roacha,Arturo Sandovala.