Sullivan nacque a Londra il 13 maggio1842 da Thomas Sullivan e Mary Clementina Coghlan. Suo padre era il direttore di unabanda, e non appena Arthur raggiunse l'età di otto anni era già esperto in tutti gli strumenti che la componevano. A scuola iniziò a comporre inni e canzoni e nel1856 vinse ilMendelssohn Prize e studiò allaRoyal Academy of Music aLondra e quindi aLipsia dove iniziò a dirigere l'orchestra. Il suo pezzo composto per la laurea, ottenuta nel1861, fu per le musiche di scena deLa Tempesta diWilliam Shakespeare. Riveduto ed ampliato esso venne rappresentato al Teatro Crystal Palace di Londra nel1862 ed ottenne un immediato successo.Egli iniziò a costruirsi la fama di più promettente giovane compositore inglese, componendo unasinfonia, unconcerto e la acclamataOverture di Ballo nel1870.
I suoi primi lavori per canto furonoThe Masque at Kenilworth nel (1864); unoratorio,The Prodigal Son nel (1869); una cantata drammatica,On Shore and Sea nel (1871); una canzone,The Window o The Song of the Wrens nel (1871). Egli compose anche un balletto,L'Île Enchantée e musiche di scena per un notevole numero di lavori diShakespeare. Questi lavori non furono però sufficienti per mantenerlo a galla in questo periodo. Egli lavorò anche come organista e compose molti inni, compresoOnward, Christian Soldiers nel 1872 e diverse canzoni popolari. La sua prima opera di successo fuCox and Box del (1867) all'Adelphi Theatre di Londra, seguita dall'operettaThe Contrabandista del (1867) a Londra, entrambe sulibretto di Francis Cowley Burnand e la prima con John Maddison Morton. L'operettaThe Zoo con il libretto di Benjamin Charles Stephenson va in scena nel1875 nel St James's Theatre di Londra.