之心，可是其智不能济其事。将军自以为能在他底下做事吗？将军您有龙虎之威，可以做韩（信）、彭（越）他们这样臣服于他人的事吗？如今兖州虽残，尚有三城可守。能战之士，不下万人。以将军的神武，加上我和文若（荀彧字）等人的协助，并收城池士兵而加以运用，那么霸王之业可以成就了。希望将军能慎重考虑一下！”曹操才放弃连和袁绍的想法。
汉献帝定都许县后，以程昱为尚书。其时兖州尚未绥抚停当，于是又以程昱为东中郎将，领济阴太守，都督兖州事。
建安三年（198年），刘备失去徐州，前来归附曹操。程昱劝曹操杀刘备，曹操不听。
建安四年（199年），曹操派遣刘备至徐州截击袁术，程昱与郭嘉向曹操道：“明公前日不除掉刘备，如今更向他借兵，他必定会有异心的。”曹操后悔，但已追之不及。果然，袁术病死后，刘备去到徐州，杀车胄，举兵背反曹操。
建安五年（200年），程昱迁为振威将军。当时袁绍在黎阳将移兵南渡，而程昱却只有七百兵守着鄄城，曹操知道危急，命人告诉程昱，欲加二千兵前往鄄城助守。程昱不肯接受，说道：“袁绍拥兵十万之众，自以为所向无前。他若见我领兵少，必不敢轻易来攻