早早便追随在孙坚身边随他南征北战。多有战功，虽不如孙坚麾下程普、韩当、黄盖等将有名，但其亦同朱治、吴景、孙贲等同列。此时以偏将军之位佐孙策同守豫章。徐琨得了孙策之命，遂率军往柴桑，欲与周瑜合兵一处，共讨黄祖。
方欲渡江，忽见东风大作，江中白浪翻涌奔腾。帐中校尉便劝道：“将军，不如少歇，待风平浪静，再渡如何？”
徐琨道：“军情紧急，公瑾在寻阳等我，延误不得。区区风浪，如何能阻我？”不听，遂率众渡江。
船至江心，忽然上游无数船只一字排开，顺水而下。当中大船之上，黄字大旗迎风挥舞，甲板上端坐一将，横刀于膝，不是那黄祖，又是何人。
徐琨见黄祖兵至，便命甲士操舟，准备迎击。校尉劝道：“将军，此时吹刮东风，战时不利我军，不如走之。”
徐琨道：“我亦欲走，然黄祖蓄势而来，必有准备。不如拚死一战，死中求生也。”
黄祖见徐琨在江面上不逃反而摆开阵势，愕而笑道：“此将倒是有几分胆色。”遂下令全军，准备交战。
不一会，两支船队便逐渐接近靠拢，先是两边弓箭手一阵互射之后。黄祖便命蒙冲舟出击了。外狭而长曰蒙冲，以冲