Стам починав кар'єру в аматорському клубі свого рідного міста, «ДОС Кампен». У1992 році дебютував у професійній команді«Зволле», а в наступному році вже заявив про себе, виступаючи за«Віллем II» зТілбурга. Після несподіваної перемоги над найкращим у той час клубом Європи,«Аяксом», Стам привернув увагуПСВ і у1996році перейшов у цю команду. З нею він виграв Кубок, чемпіонат і два Суперкубки країни, а також звання найкращого футболіста країни. У1998 році Яп Стам став найдорожчим захисником і найдорожчим голландським футболістом в історії, коли«Манчестер Юнайтед» заплатив за нього 36 млнгульденів (16,7 млнєвро). Три роки виступу за англійський клуб стали найуспішнішими в його кар'єрі: він виграв з командою 3 чемпіонати, Кубок, Лігу чемпіонів і Міжконтинентальний Кубок.
У сезоні 2001—2002 Стам був проданий у«Лаціо», після того, як деякі думки, викладені в його автобіографії, названої «Обличчям до обличчя», не сподобалися тренеру «МЮ»,Серу Алексу Фергюсону. Під час виступів за «Лаціо» Стам був викритий в прийомі забороненогоанаболіканандролону, і був дискваліфікований на п'ять місяців, але після апеляції термін покарання скоротили на місяць. Після трьох років у «Лаціо», захисник перейшов до титулованого«Мілана», але в цілому його кар'єра в Італії виявилася невдалою — йому вдалося завоювати лише один трофей, Кубок Італії 2004 року.
30 січня2006 року він оголосив про своє повернення до Нідерландів. Всупереч очікуванням він підписав дворічний контракт не зі своїм колишнім клубом, ПСВ, а з його головним суперником, «Аяксом». В амстердамському клубі Япа відразу ж після його переходу обрали капітаном команди.29 жовтня2007 року Стам несподівано оголосив про завершення кар'єри. Своє рішення він мотивував травмами і тим, що у нього пропало бажання грати. Свою останню гру за «Аякс» Стам провів 20 жовтня проти клубу «Неймеген», яку не зумів дограти через травму.