2004年离开维也纳的帅位之后，勒夫就进入了克林斯曼的德国国家队教练组。并随队出征了2006年的德国世界杯，在那届世界杯之后，他正式从后者手中接过了德国队的教鞭。
从2006年八月份德国3比0战胜瑞典的友谊赛完成主帅首秀至今，勒夫一共带队打了188场比赛。其中120场胜利，37场平局，31场失利，胜率达到63%。
而在大赛成绩上，他带队参加了2008年欧洲杯、2010年世界杯、2012年欧洲杯、2014年世界杯、2016年欧洲杯和2018年世界杯：
2008年欧洲杯（亚军）
2010年世界杯（季军）
2012年欧洲杯（季军）
2014年世界杯（冠军）
2016年欧洲杯（第四）
2017年联合会杯（冠军）
2018年世界杯（小组出局）
