府兵制实行君主直辖。这直接剥夺了关陇贵族赖以存在的军事基础。但关陇集团以另一种方式继续控制着军权，那即是利用自己手中权力的便利，将子弟、门生、假子、故吏、家将安插到了杨坚创立的七十万禁卫之中，自上而下的掌控着这一支足以致隋朝之命的军队。杨坚也因此不敢过于触怒关陇权贵集团，从而对他们进行了妥协，这也使得关陇权贵集团的权利走向了鼎盛。
杨广继位后，承续乃父遗志，以更大力度持续打击关陇集团。他创立进士科，这是科举制度正式确立的标志，是适应历史趋势的官吏选拨制，寒士从此可通过读书应考登上仕途，限制和打击了关陇集团垄断政治的局面，扩大了人才来源和统治根基。
接着，杨广又剥夺了关陇集团贵族世袭爵位的特权。他曾下诏，“不得计考增级，必有德行功能灼然显著者，擢之。”并将原有的国王、郡王、国公、郡公、县公、侯、伯、子、男九等爵位，“唯留王、公、侯三等，余并废之。”这既减少了冗繁的官僚层次，又节省了开支，却严重触犯了关陇集团既得政治利益。李渊历数杨广罪名之时，这个便是最重的一项，而为了得到关陇集团大力支持，李渊登基以后，一口气册封了百多名国公，郡公、县公、侯、伯、子、男更是成千