球地区联赛的危险，主教练埃克哈德.克劳琛被解雇，体育主管海德尔下了一个赌注，他任命还没有退役的球队队长克洛普为球队的救火教练。这在当时很多人都认为这是一个十分“疯狂的决定”。
克洛普作为教练的影响力立竿见影。球队在克洛普上任后六场不败，赢了其中的五场比赛，强势逃离降级圈，并且最终保级成功。
在接下来两个赛季，他开始实施高位压迫打法，两次把球队带入德乙联赛第四，但最终还是离甲级联赛差了那么一口气：在2001/2002赛季的最后一天，他们在最后一轮1-3不敌柏林联合，跌出了前三，无缘升级附加赛。2002/2003赛季更惨，他们只是因为一个净胜球的劣势败在了法兰克福脚下。
在随后的一个赛季，克洛普和他的美因茨终于实现了梦想，俱乐部有史以来第一次进入了德国足球顶级联赛。
……
美因茨在随后的两个德甲赛季是梦幻般的，他们前两个赛季都排在第十一位，还第一次参加了欧联杯。
在2006/2007赛季，他们又重回了乙级联赛，尽管克洛普依然执掌教鞭，但他们最终还是以两分的劣势，一个名次的差距没能及时重返德甲。