早年经历
徐晃年轻时曾做河东郡小吏，因随车骑将军杨奉讨伐贼寇有功，被提拔为骑都尉。
初平三年（192年），王允和吕布诛杀董卓。董卓部将李唷⒐汜等攻破长安城，杀王允等人，后又自相火并，在长安大肆屠杀。徐晃说服杨奉护送汉献帝东入洛阳。汉献帝渡河至安邑时（今山西夏县北），封赏保驾有功人员，徐晃封为都亭侯。
随曹征战
建安元年（196年），汉献帝在河内太守张杨、兴义将军杨奉等残余朝官的保护之下，回到了洛阳。杨奉被拜为车骑将军，驻兵大梁。徐晃见大将军兼司隶校尉韩暹和卫将军董承之间争斗日益加剧，就劝杨奉归附曹操，杨奉决定听从徐晃的建议。
建安二年（197年），曹操保护着汉献帝要迁都许昌的时候，杨奉在韩暹的挑拨下又改变了归附曹操的主意，而是跟韩暹一起出兵去劫驾。杨奉在梁（今开封）被曹军杀得大败。徐晃则趁机投奔了曹操。 从此，他便成为曹操的一名忠实战将，跟随曹操转战南北，为曹魏的创建屡立功勋。曹操分兵给徐晃，派其攻打卷、原武两地，破之，被拜为裨将军。又随曹操攻吕布，降吕布将领赵庶、李邹等。后与史涣在河内斩杀眭固。
官渡显威
建安五年（200年），在官渡之战中，徐晃随曹操击败了投靠袁绍的刘备，
又随曹操击败颜良，攻克白马（今河南滑县东北），进至延津（今河南延津北），在此击败文丑，被拜为偏将军。后与曹洪击（氵隐）人祝臂，破之。九月，曹操出兵与袁绍作战，不胜而还，坚壁自守。时袁绍数千车粮草至官渡。谋士荀攸对曹操说：“袁绍的运粮车旦夕间就到了，其押运粮草的将领韩勇猛但轻敌，出击可以将他打败”。曹操问：“谁可以担当这个重任？”荀攸说：“徐晃可以。”于是曹操派徐晃和史涣带着几千骑兵共同攻打韩猛，在故市（今郑州西北）截烧其辎重。此战，徐晃功劳最大，被封为都亭侯。
