哈齐班师回朝之后，努尔哈赤准备将他的下属常书、纳齐布以临阵脱逃的罪名处死，以剪除他的左膀右臂同时也是杀鸡儆猴。
但是舒尔哈齐的反应十分强烈，说杀他们就是等于杀我，誓不低头，大有决以死战的阵势。最后努尔哈赤为了避免公开的冲突，便做出了让步。他只罚了常书一百两黄金，夺了纳齐布下属的人马，并且从此以后剥夺了舒尔哈齐指挥军队的权利，将他排挤出了最高军事领导层。
万历三十五年（1607年），舒尔哈齐的地位一落千丈，变成了一个有名无实的人物，他痛感自己与努尔哈赤势难并存。
于是，他与长子阿尔通阿，三子扎萨克图商议，图谋另立门户，与兄长分庭抗礼。舒尔哈齐带着几个儿子和少数部下来到了铁岭东南的黑扯木，在那里伐木建造房屋，开辟新的根据地。而黑扯木临近明朝的军事重镇铁岭，可以直接依靠明朝的军事保护，在他的东面又与乌拉部落接邻，能随时得到盟友的援助。
舒尔哈齐开始与努尔哈赤越来越疏远，转而靠近明朝了。李成梁看到这一分化女真的大好机会，于是火上浇油，故意挑起矛盾冲突。他上奏朝廷册封舒尔哈齐为建州右卫首领，这是明朝在辽东地区设立的最高地方军事长官。