Hy studearre oan de Technyske Universiteit fan Berlyn en helle syn diploma yn 1935. Dêrnei koe er oan it wurk by Henschel Flugzeugwerke. Nei in jier hie er syn nocht fan Henschel en woe er him talizze op it meitsjen fan in rekkenmasine. Yn 1938 hie Zuse de Z1 rekkenmasine klear. De Z1 wie in binêre meganyske rekkenmasine dy't op elektrisiteit wurke. De programmearmooglikheden wienen lykwols beheind en it systeem wurke net altiten like betrouber troch problemen mei de meganyske krektens. Hy ferbettere de Z1 en yn 1939 wie de Z2 klear. Dizze wie opboud mei relais, útsein dat der krekt as by de Z1 in meganyskûnthâld wie. Yn 1941 boude er yn syn wenning de Z3. De Z3 rekkene folslein binêr en hie in eigen ûnthâld en inprosessor fan relays. Ornaris hat de Z3 it predikaat 'earste kompjûter', hoewol't de definysje fan 'de earste kompjûter' nea fêstlein is. Troch bombardeminten yn1944 gongen de Z1 en Z3 stikken.
Yn 1945 begûn Zuse mei de Z4, dy't klear wie yn 1949. Suze begûn yn datselde jier mei syn eigen bedriuw, dat er de Zuse KG neamde. De Technyske Hegeskoalle yn Zürich wie de earste dy't de Z4 fan Zuse KG kocht. Yn 1967 hie syn firma 251 kompjûters ferkocht oan bedriuwen en universiteiten. Yn 1964 luts Zuse him werom út Zuse KG, dêrnei waard de firma oernaam troch de Dútske BBC yn Mannheim. Yn 1967 hieSiemens eigner 70 persint fan de oandielen fan Zuse KG en wie dêrmei eigner wurden, twa jier dêrnei kocht Siemens de rest.
Doe't er mei pensjoen wie is Zuse begûn mei syn hobby, it skilderjen. Yn 1995 joech er Bill Gates in selspotret. Yn 1969 skreau Zuse it boekRechnender Raum.