郑崇俭，字大章，山西乡宁人。万历四十四年（1616年）进士。授河南府推官，历济南兵备副使。崇祯初，迁陕西右参政，累迁右佥都御史，巡抚宁夏，数败套寇，因功获赐银币，世荫锦衣副千户。

崇祯十二年（1639年）正月，郑崇俭升任兵部右侍郎，接替洪承畴总督陕西三边军务。五月，张献忠在谷城起义，罗汝才等九营随之俱反，兴安（今陕西安康）告急。总理熊文灿请求皇上命令郧阳巡抚王鳌永防守江陵、远安，陕西巡抚丁启睿、四川巡抚邵捷春分别在各自区域内严兵防守，郑崇俭主持提兵合击。这时，固原、临洮、宁夏的三个总兵左光先、曹变蛟、马科已跟随洪承畴入卫京师，只有柴时华中途返回甘肃，郑崇俭调用他而他却不响应。郑崇俭于是传檄要副将贺人龙、李国奇等从西安出兵。不料，李国奇的队伍到略阳时发生士兵起哄，抢劫了瑞王的田租。李国奇当时已提升为陕西总兵官，却因此事被免去新职，而郑崇俭也因之被贬官一级。