人便认为孙权会必杀刘备，不过程昱却认为道：“孙权新任在位，尚未为海内所忌惮，而曹公无敌于天下，初举荆州，威震江表，孙权虽然有谋，亦不能独自抵当，刘备则一向有英名，刘备的两个义弟关羽、张飞皆是万人之敌，孙权必定会援助他们以防御我军。之后分道扬镳，但是刘备已经得到实际资助，那孙权又不能得之刘备而杀了。”
结果就真和程昱说的一样，孙权果然将补给军兵资助给了刘备，以抵御曹操的进攻。
在等到曹操攻取了荆州之后，中原之地便大致平定，曹军势力也在逐渐稳步的扩充。
有一次，曹操抚着程昱的背说道：“当初兖州之败，若非听从你的计谋，我又怎可以来到这里呢？”
而程昱却听出来了曹操的弦外之音，于是非常果断的答道：“所谓‘知足不辱’（出自《道德经》的第四十四章，指一个人只要懂得知足，就不会因为过份的贪婪而得到屈辱的收场），如今也是我急流涌退的时候了。”
于是程昱正式表示从此缴还兵权，阖门不出。
不过程昱也没有在家赋闲太久，到了公元211年，也就是建安十六年的时候，曹操在征讨韩遂、马超之时，曹丕负责留守，于是又使人请出了程昱参知军