宋金两国战争爆发，金兀朮随军征伐，他受到完颜宗望的节制，宗望派遣金兀朮攻打汤阴县，招降宋守军三千多人。在强攻黄河的时候，面对宋军已经焚毁浮桥，金军无法渡河的情况之下，金军将领合鲁索率领七十骑兵涉浅水过河，杀得宋军焚桥军队五百人。
完颜宗望先派遣使者吴孝民进入汴京城去质询宋国为何违背盟约，然后金兀朮率领三千轻骑威逼开封府，听闻宋徽宗吓得从开封府出逃，金兀朮率领一百骑去追赶，但是没有追上，获得三千匹良马。金兵包围开封府，宋国答应以割让太原、中山、河间三镇给金国作为求和条件，金军返回燕京。
同年八月，金兀朮再次随右副元帅完颜宗望南下。翌年的四月，金军攻下开封府，徽宗、钦宗二帝投降，靖康之耻发生，北宋灭亡。完颜宗望病逝，完颜宗辅继任为右副元帅，宗辅受命平定淄、青两州宋国抗金武装部队。
金兀朮先是在青州大败宋将郑宗孟的数万宋军，又在临朐城大破宋将赵成所率领的黄琼军，攻下了临朐。完颜宗辅回军的时候，在青河遇到三万宋军的袭击，金兀朮一马当先，杀死了宋军一万多人。
金太宗下诏追击逃在扬州的宋高宗赵构，金兀朮率领部队随宗辅军南下，金兀朮首攻归德府，