Alison Krauss stammer fraIllinois og begyndte at spille violin som femårig. I begyndelsen spillede hun klassisk violin, men snart begyndte hun at dyrke bluegrass-stilen. Som tiårig dannede hun sit første orkester, og som trettenårig vandt hun en stor konkurrence inden for bluegrass.[kilde mangler] På den tid deltog hun i flere festivaler, hvor hun mødte en række andre musikere, og det orkester, hun nu spiller med,Union Station, består alle af mennesker, hun mødte omkring dette tidspunkt.
I1985 indspillede hun sit første album,Different Strokes, sammen med blandt andet sin bror Viktor. Hun havde også spillet sammen med sangskriver og bassist John Pennell, der dannede Union Station, og da han havde brug for en ny violist, bad han Krauss om at være med. Hun var så interessant for pladeindustrien, at da orkesteret skulle udgives på plade, blev det i form af et soloalbum med Alison Krauss, hvor Union Station fungerede som backinggruppe. Det blev til Krauss’ debut soloalbumToo Late to Cry, som blev udsendt i 1987 da hun var blot 16 år gammel.
I denne periode havde Krauss en pladekontrakt, der betød, at hver anden plade skulle være et soloudspil, og hver anden skulle udgives som en Union Station-plade. I 1989 udgav den dengang 18-årige Krauss sit første gruppealbum sammen med Union Station kaldetTwo Highways. SoloudspilletI've Got That Old Feeling fra1990 tog de første spæde skridt mod populariteten, da det nåede 75.-pladsen påBillboard-hitlisten.[kilde mangler] Det indbragte ligeledes hendes første Grammy-pris i bluegrasskategorien, og hendes førstevideo blev lavet til titelsangen.
De følgende år steg hendes popularitet ganske hurtigt, og hun blev medlem afGrand Ole Opry i1993 som blot 21-årig og den første bluegrassmusiker her i 29 år. I1995 udgav hunNow That I've Found You: A Collection med en række fortolkninger af andres numre, som hun godt kunne lide, herunder numre afThe Beatles ogThe Foundations, og dette udspil blev hendes hidtil mest sælgende album med over 2 millioner solgte eksemplarer.[kilde mangler]
Alison Krauss på scenen, 2008
Alison Krauss har gennem årene ofte spillet sammen med andre musikere, og hun har ligeledes siden gennembruddet i2000 medO Brother, Where Art Thou? skrevet en del filmmusik med stor succes.[kilde mangler] TilO Brother... sang hun også flere af sangene, blandt andet sammen medDan Tyminski, og soundtracket fra filmen indbragte hendeGrammy Award for Album of the Year. Herudover kan nævnes, at hun har bidraget med musik til film somPrinsen af Egypten,Mona Lisa Smile og ikke mindstCold Mountain, hvor hun blandt andet sang sammen medSting ogElvis Costello.