程昱当时之所以拒绝为刘岱效力，就是因为程昱相信自己的眼光，知道刘岱虽然是汉室宗亲，但是在如今这个混乱的时代，汉室宗亲的影响力大不如前，而且刘岱还是一个遇事不决，瞻前顾后的人，实在不是一个合适的主公，所以程昱选择了返回家乡，继续等待机会。
过了不久，刘岱就为黄巾军所杀，这时的曹操便趁机出发兵临兖州，在得知了程昱的消息之后，便辟召了程昱，而这一次的程昱却是毫不犹豫的一口答应了，因此在程昱将行之时，程昱的乡人十分疑惑，开口询问程昱道：“怎么你前后的行为相背如此？！”，而程昱却只是笑而不应，不过很明显的是，程昱十分看好曹操在这乱世之中的表现。
而程昱初至之时，曹操便跟他谈论大事，而且讨论的十分高兴，便以程昱为寿张令，而且在曹操征讨徐州的时候，也是下令让程昱与荀彧共同留守鄄城，由此可见曹操对当时的程昱与荀彧都是一样看重的。
还是那时张邈等部发动叛乱，迎接吕布进入了兖州，四周郡县云起响应，唯有鄄城、范县、东阿三地没有动摇。
之后不久，便有一个吕布军的降兵，向荀彧与程昱报告，陈宫想要带兵取东阿，又派泛嶷取范县，当时的吏民听到这个消息之后