秦汉北部边郡特殊的地理环境决定了军事需要高于一切，边郡太守的治兵职责重于治民，也重于内地边郡，他们一般亲自领兵巡察边境，或率兵出征，卫宏《汉旧仪》称：“边郡太守各将万骑，行障塞烽火，追虏。”边郡兵以边郡太守和各部都尉为首领，下属的文武官员有长史、司马、候等，长史“掌兵马”。千人与司马应为屯步兵骑兵的首长，而千人所辖有骑兵。

郡兵分部设都尉统领，称部都尉。北部都尉即其中之一。

陈梦家先生根据《汉书》《史记》《后汉书》《封泥考略》《居延汉简》等文献相互印证研究统计表明：西汉共计45个部都尉，分布在27个边郡。部都尉的设置视郡的大小或战事的频繁与否而定，每郡设置情况各不相同，或一个部都尉，如武威郡置有北部都尉；或两个，如上谷郡、辽东郡有西部和东部都尉；有的郡则设置有3个，如酒泉郡、辽西郡、定襄郡有北部、东部和西部都尉；有的置有4个，如敦煌郡、五原郡；最多者张掖郡多达8个，大部分边郡置有2个或3个都尉。在各部都尉防区内，边郡兵经常集中出屯，主要职责为谨候望、通烽火、备盗贼，就是担负烽燧候望的警戒任务，且随时参加作战，“虽有长爵不轻得复，五尺以上不轻得息，斥候望烽燧不得卧，将吏被介胄而睡”。