杨奉护送汉献帝东入洛阳。汉献帝渡河至安邑时，封赏保驾有功人员，徐晃被封为都亭侯。
建安元年，汉献帝在河内太守张杨、兴义将军杨奉等残余朝官的保护之下，回到了洛阳。杨奉被拜为车骑将军，驻兵大梁。徐晃见大将军兼司隶校尉韩暹和卫将军董承之间争斗日益加剧，就劝杨奉归附曹操，杨奉决定听从徐晃的建议。
建安二年，曹操保护着汉献帝要迁都许昌的时候，杨奉在韩暹的挑拨下又改变了归附曹操的主意，而是跟韩暹一起出兵去劫驾。杨奉在梁县被曹军杀得大败，徐晃则趁机投奔了曹操。从此，他便成为曹操的一名忠实战将，跟随曹操转战南北，为曹魏的创建屡立功勋。曹操分兵给徐晃，派其攻打卷、原武两地，破之，被拜为裨将军。又随曹操攻吕布，降吕布将领赵庶、李邹等，后又与史涣在河内斩杀眭固。
建安五年（公元二百年），在官渡之战中，徐晃随曹操击败了投靠袁绍的刘备，又随曹操击败颜良，攻克白马，进至延津，在此击败文丑，被拜为偏将军。
九月，曹操出兵与袁绍作战，不胜而还，坚壁自守。时袁绍数千车粮草至官渡，谋士荀攸对曹操说“袁绍的运粮车旦夕间就到了，其押运粮草的将领韩勇猛但轻敌，出击可以将他