Futbolculuk yıllarında Almanya’nın VfB Stuttgart, İsviçre’nin FC Lugano, FC Basel ve Luzern takımlarında futbol yaşantısını sürdürmüştür.
1983 yılında jübile yapıp teknik direktörlük kariyerine İsviçre’nin Zug takımında başlamıştır. Ardından FC Aarau ve Grasshoppers takımlarını çalıştırmış ve Grasshoppers takımında 2 kez lig şampiyonluğu yaşamıştır.
Kariyerinin en başarılı dönemleri 1991 yılında Borussia Dortmund’un başına geçmesi ile başlamıştır. Borissia Dortmund ile 1993 yılında UEFA Kupası Finali’ni Juventus’a kaybetmiş, 1995 ve 1996 yıllarında Almanya Şampiyonu olmuş ve 1997 yılında Juventus’u Şampiyonlar Ligi Finali’nde yenerek kupaya uzanmıştır.
1998 yılında Bayern Münih’in başına geçmiştir ve bu takımla 1999, 2000, 2001 ve 2003 yıllarında Almanya lig şampiyonluğuna ulaşmıştır. Bu takımla Şampiyonlar Ligi’nde 26 mayıs 1999 Manchester United’e unutulmaz bir finalle kaybetmiş ancak 2001’de Valencia takımını penaltılar ile geçerek kupaya uzanmıştır. Bu başarı ile Ernst Happel’den sonra bu kupayı iki farklı takımla kazanan ikinci teknik direktör olmuştur.
2003-2004 sezonunda Bayern Münih’ten ayrılan Hitzfeld, 2007 yılına kadar Alman Milli Futbol Takımı dahil olmak üzere birçok teklifi geri çevirmiştir. Son olarak 1 Şubat 2007’de Bayern Münih ile tekrar anlaşmıştır.Takımı şampiyon yaptıktan takımdan sonra ayrılmıştır. 2008 Avrupa Futbol Şampiyonası’ndan sonra İsviçre Milli Futbol Takımı’nın teknik direktörlüğünü Jakob Kuhn’dan devralmıştır.