Começou sua carreira noSão Paulo em 1969, onde ficou até 1977, participou por seis vezes daSeleção Paulista e esteve relacionado pelo técnicoZagallo entre os nomes selecionados para aCopa do Mundo FIFA de 1974, sendo afastado devido a uma cirurgia[6]. Encerrou sua passagem pelo Morumbi com 261 jogos e 28 gols.[6]
O técnico José Carlos Serrão tem muita experiência no futebol brasileiro. Depois de nove anos de sucesso como jogador, assumiu a carreira de treinador em 1983 no próprio São Paulo, onde era funcionário do clube, assumindo interinamente o time por 4 vezes, posteriormente esteve treinando vários clubes, o que faz até hoje.
Comandou oGamba Osaka, de onde foi demitido após 5 partidas, com 5 derrotas.[9]
Em dezembro de 2012, foi contratado peloSão Carlos.[10] No dia 11 de fevereiro de 2016, Serrão deixou o comando do clube.[11]
Assumiu o comando doJuventus-SP em 21 de fevereiro de 2016.[12] Acabou deixando o clube paulista em 8 de março do mesmo ano, após 4 jogos, sem nenhuma vitória.[13]
José Carlos Serrão assumiu o comando do Sertãozinho FC, ainda no primeiro semestre de 2016. Em maio, Serrão conseguiu o título daSérie A3 do Paulistão e levou a equipe ao acesso á Série A2 do Paulistão de 2017[14], sendo esse é o segundo acesso que Serrão consegue junto da equipe paulista, o outro acesso aconteceu em 2009.[15] Em 3 de outubro de 2016, Serrão anunciou que não comandaria o Sertãozinho Futebol Clube na próxima temporada.[16] O que muita gente vinha comentando é que Serrão havia se aposentado, mas o treinador ainda quer contribuir muito com o futebol brasileiro, pois já dirigiu mais de 40 clubes entre Brasil e exterior.[17]
Em 05 de fevereiro de 2018, Serrão foi anunciado como novo treinador doMogi Mirim para o restante daSérie A3 do Paulistão, com uma difícil missão no comando do Sapão, o principal objetivo é regular o futebol da equipe e manter o Mogi Mirim na divisão.[18] Após 7 dias que assumiu o comando do Mogi Mirim, surgiu uma proposta do Sertãozinho Futebol Clube para o treinador, pesando alguns fatores Serrão decidiu rescindir com o Mogi e assumir o comando técnico do Touro dos Canaviais.[19]
No dia 12 de fevereiro de 2018 a diretoria do Sertãozinho anunciou José Carlos Serrão como novo comandante do Touro dos Canaviais para a temporada 2018.[19] Após oito vitórias consecutivas, chegou até a última fase com chances de classificação ao G4, contudo, o time acabou tropeçando nas rodadas finais e terminou na sexta colocação.[20]
Em setembro de 2019, foi contratado para comandar o Sertãozinho na disputa daSérie A2 do Campeonato Paulista em 2020, sendo essa sua oitava passagem pelo clube.[7] Deixou o clube em março de 2020, após duas vitórias, oito empates e duas derrotas.[21]
↑Durante esse período, Serrão trabalhou efetivamente como treinador em apenas três ocasiões: 1983, 1986 e 1987. Em outras duas oportunidades, mais precisamente nos anos de 1985 e 1986, Serrão substituiu o então treinador nas duas ocasiões,Cilinho, apenas temporariamente, comandando o São Paulo em apenas uma partida em cada um dos anos. Nos demais anos, atuou apenas como auxiliar-técnico.
↑Nessa oportunidade, o então treinador corintiano,Oswaldo de Oliveira, estava focado em uma outra competição, enquanto seu auxiliar-técnico,Édson Cegonha, também não podia assumir a equipe. Então, Serrão foi chamado diretamente das categorias de base do Corinthians para assumir o comando interinamente em apenas uma partida, válida pelaCopa do Brasil de 2008.