Започва да свири на ранна възраст, като едва на осем години се сдобива с първата си акустична китара, която е леко очукана. На 14 години става притежател на първата си качественакитара и се научава да свири като десничар, въпреки че е левичар. Мести се вДъблин през 1968 г., когато е едва на 16 г. Ранните му музикални влияния включватАлбърт Кинг,Елвис Пресли,Шадоус иБийтълс. По-късно, когато чуваДжими Хендрикс иДжон Мейол и Блусбрейкърс, развива стила си къмблус рок звученето, което доминира през цялата му кариера.
В тези първи дни най-голямо влияние върху Мур оказваПитър Грийн, който става ментор на Мур, докато той е в Дъблин. За продължителното му влияние Мур му се отплаща по-късно чрез албума „Blues For Greeny“, който съдържа само песни на Грийн. В този албум Мур свири на китарата на Грийн Гибсън Лес Пол Стандарт от 1959 г., която последният му подарява след напускането наФлийтуд Мак.
През 1968 г., на 16-годишна възраст, Мур се мести вДъблин, за да се присъедини къмСкид Роу с Ноел Бриджман и Брендан „Бръш“ Шийлс. С тази група той си спечелва репутация в музикалната индустрия и започва съвместната му работа сФил Лайнът.
Мур издава първия си солов албум, „Grinding Stone“, през 1973 г. под името „the Gary Moore Band“. Той печели наградата на радио KTAC-FM за най-добър албум на годината. През 1978 г. Мур продължава соловата си кариера с помощта наФил Лайнът. Комбинацията от блус китарата на Мур и гласа на Лайнът създават „Parisienne Walkways“, която влиза в класацията Топ 10 на синглите във Великобритания през април 1979 г., а през същата година албумът наТин Лизи „Black Rose: A Rock Legend“ достига второ място в класацията на албумите във Великобритания. Мур участва в клиповете на „Waiting for an Alibi“ и „Do Anything You Want To“.
През 1987 г., той свири по солото в песента „Let It Be“ като част от благотворителна кампания за набиране на средства за оцелелите от инцидента с ферибота MS Herald of Free Enterprise.
След поредица рок албуми Мур се завръща към блуса със „Still Got the Blues“, в който участие взиматАлбърт Кинг,Албърт Колинс иДжордж Харисън. Мур се задържа в блус звученето до 1997 г., когато решава да експериментира с модерния тогава денс бийт в албума „Dark Days in Paradise“, което обърква много от феновете му и музикалната преса. Освен това Мур свири в албума на Ричард Блекууд „You'll Love to Hate This“.
През януари 2005 г., Мур се присъединява къмOne World Project, който записва песен за оцелелите от цунамито в Азия през2004 г. В групата участват ощеРъсел Уотсън,Бой Джордж,Стив Уинууд,Бари Гиб,Робин Гиб,Брайън Уилсън,Клиф Ричард и др. Песента, наречена „Grief Never Grows Old“, е издадена през февруари 2005 г. и достига четвърто място в класацията на синглите във Великобритания.
В изказване определено като „смело и принципно“ Мур заявява подкрепата си за културен бойкот на Израел. На пресконференция в Русия той обявява, че няма да посети „престъпния“ Изреал заради „расистката политика по отношение на палестинския народ“.
