严格的惩罚制度作为保障。由于警查的设立目的是为了完成津门防务交接，是要给洋人看的样子，所以要求十分严格，其纪律也沿袭军法，从军棍到斩，一应俱全。这些刑罚也同样适用于监狱，当几名狱吏真的被斩悬挂示众之后，山东的衙门也就意识到，这位臬台从某种意义上说，和那位毓贤颇有相似之处，就是真的敢杀人。
比起毓贤来，赵冠侯另一个凭仗就是有帘眷，以衙门里四老爷那种地位的小官要想参劾，本章都递不上去，到袁慰亭那一层就会给砍掉。而他手上控制的武卫前军，则保障了人力资源上的充沛，即使是山东所有狱吏禁卒集体辞职，他也有足够的人手取而代之。且从他编练警查的手段就可以看出来，他对于衙门事务并不陌生，换上新人，也不会不知如何着手，相反，只会干的更好。
赵冠侯在山东，使用了部分后世的监狱管理模式，在他的职业生涯里，也进过几次监狱，包括几次成功的越狱。对于监狱的情形很了解，管理方法也比较清楚。这些管理手段对于这个时代而言，绝对算的上先进，而且十分人道。乃至于，当济南监狱作为整顿的示范工程，邀请洋人参观之后，连洋人都不由交口称赞：这是文明世界才该拥有的监狱，这一天，是泰西的耻辱日，即使是伦敦的监