义相告，不宜威迫，愿将军为我辞却这个命令。”刘备便以臧霸所言告诉曹操，曹操叹息地向臧霸道“这是古人仁德之事，而你能够加以奉行，这也正是孤之所愿。”于是皆以徐、毛二人为郡守。
后来曹操与袁绍相拒，而臧霸数以精兵投入青州，所以曹操不用顾念东方之事，能专心应付袁绍。
曹操破袁谭于南皮，臧霸等前往祝贺。臧霸便求遣子弟及诸将之父兄家属前往邺城，曹操道“诸位忠心报国，但何必要如此来表现呢。昔日萧何派遣子弟入侍，而汉高祖没有拒绝，耿纯焚烧自己的房子、马车追随，而光武帝没有辜负他的好意，现在我又怎么好改变前人的做法呢！”当时东州扰攘不止，而臧霸等执正匡义，征暴伐虐，清定海岱，其功莫大，于是皆封列侯。臧霸因功拜为都亭侯，加威虏将军。
公元二百零六年（建安十一年），臧霸与于禁讨昌豨于东海，昌豨降，为于禁引用法令所诛。
公元二百零七年（建安十二年），臧霸与夏侯渊讨黄巾余贼徐和等，再算上前讨昌豨之功劳，迁为徐州刺史。沛国人武周时为下邳令，臧霸敬异武周，常到其舍作客。后来武周部从事总詷不法，武周得其罪，被收监查究，但臧霸却不嫌弃武周，反而更加亲善。