1970 és 1978 között aRapid Wien játékosa volt. Az 1971–72-es idényben kölcsönben szerepelt aWiener SC csapatában. A Rapiddal1976-ban osztrák kupa-győztes lett. Ebben az időszakban háromszor volt az élvonal gólkirálya (1973–74,1976–77,1977–78). Az 1977–78-as idényben Európa legjobb góllövője lett és ezzel elnyerte azAranycipőt.
1978-ban azFC Barcelona együtteséhez szerződött. Első idényében aspanyol bajnokságban gólkirály lett, a csapattal pedig megnyerte akupagyőztesek Európa-kupáját. A további idényekben már nem volt ilyen sikeres.1981-ben ugyan tagja volt a spanyol kupa-győztes csapatnak, de ebben az idényben, 1980-ban már kölcsönben szerepelt aFirst Vienna együttesében.
1981-ben végleg hazatért és ismét a Rapid játékosa lett. Az első idényben bajnok lett a csapattal. A következő idényben megvédték bajnoki címüket és kupagyőztesek is lettek. Krankl ebben az idényben ismét osztrák gólkirály lett. Az osztrák kupagyőzelmüket a Rapiddal még kétszer védték meg és így sorozatban háromszor nyertek. 1984–85-ben a KEK-ben a döntőig jutottak, ahol azEvertontól szenvedtek vereséget.
1986-ban aWiener SC labdarúgója lett két idényre. 1988-ban aKremser SC, 1989-ben azAustria Salzburg csapatában szerepelt. 1989-ben vonult vissza az aktív labdarúgástól. Pályafutása során 518 bajnoki mérkőzésen szerepelt és 392 gólt szerzett.Ausztriában öt alkalommal volt az év labdarúgója (1973, 1974, 1977, 1982, 1988).
1989-ben aRapid vezetőedzője lett. Az első két idényben az osztrák kupa döntőjég jutott a csapattal. (1990,1991). 1992-ben távozott a csapattól és aVfB Mödling együttesénél tevékenykedett két idényen át. 1994-95-ben azFC Tirol Innsbruck, 1996-ban ismét VfB Mödling, 1997-ben azSV Gerasdorf szakmai munkáját irányította. 1998-99-ben azAustria Salzburg vezetőedzője volt és 1999-ben az év edzőjének választottákAusztriában. 2000-ben a németFortuna Köln, 2000-01-ben aVfb Admira Wacker Mödling csapatainál dolgozott. 2002 és 2005 között azosztrák válogatott szövetségi kapitánya volt. 2009-ben aLASK Linz vezetőedzője volt.