1934年6月中旬,中共吴堡县委成立,为加强对红军地方武装的领导,设立军事部。随后各区设军事科。县苏维埃政府建立后,军事部(科)归政府建制。
1937年8月,八路军驻防吴堡后,成立河防委员会和抗敌后援会,分别负责军事指挥和战争动员。随后全县12个(后合并为6个)国民党联保均派有八路军的驻军代表。1942年5月建立吴堡县人民武装委员会,其后各区乡建立相应组织。
1947年,为适应解放战争的需要,县政府设武装科。1952年秋,为加强人民武装,县武装科改为人民武装部,编制5人,受县委和绥德军分区双重领导。1955年,武装部改称为陕西省吴堡县兵役局,有局长、副政委各1人,助理员9人,秘书、管理员、公务员、炊事员各1人,计15人。1956年,绥德军分区撤销,县兵役局改属榆林军分区。1958年10月,兵役局又改称人民武装部。同年11月,吴堡撤销县建制后,并入绥德县人民武装部。
1961年9月,吴堡恢复县建制,同时恢复人民武装部,并给全县10个公社配备了武装干部。1978年,县人民武装部编制22人,计有正副部长、政委各1人,组训、政工、后勤科长各1人,参谋、干事、助理员2~5人,通信员、司机、炊事员各1人。1982年,全县各人民公社均建立武装部,每社配备武干1~2人。
1985年,乡(镇)武装部配部长1名(副科级待遇),干事1~2名。
1996年,县人民武装部收归军队建制,受榆林军分区和县委双重领导。编制15人,计有部长、副部长、政委各1人,军事、政工、后勤科长各1人,参谋、干事、助理员3人,职工6人。全县8个乡(镇)都建立了武装部,配备了专职武装干部,有部长(副部长)、干事共2人。