陕甘边军政干部学校的创建，首先是在部队中举办各种训练班（队），其后发展为创办较为正规的红军干部学校和随营学校。

1931年10月20日，南梁游击队与阎红彦、杨重远领导的陕北支队在南梁林锦庙（今华池县林镇）会师后，来到正宁县东北的月明塬柴桥子村，根据中共陕西省委指示，于1932年1月1日，谢子长同刘志丹一起将两支游击队改编为西北反帝同盟军。为了教育训练这支成分复杂的队伍，在部队中临时开办军政训练班，组织班、排干部进行游击战术训练和军队政治思想教育。1932年2月12日，根据中共陕西省委指示，中共西北工农反帝同盟军委员会在正宁县三嘉原锦章村召开大会，将西北反帝同盟军改编为“中国工农红军陕甘游击队”。成立大会之后，谢子长等领导认真总结了以往开办军政训练班的经验，又在游击队中创办了军政训练队，主要培训对象为排级以上干部、班长以及优秀战士。在教学中坚持政治教育、思想建设与军事教育相结合，并进行游击战术等军事技术训练。军政训练队队长由张从（留苏学生）担任。训练队分两个班，高级班训练排以上干部，普通班训练班长及部分优秀战士。课程有“游击队怎样活动”等，同时学习刘志丹为红军起草的《简明军纪》《群众纪律》两个小册子，还讨论部队改编等问题。军政训练队1932年夏结束。1932年12月24日，陕甘红军游击队改编为中国工农红军第二十六军第二团（简称红二团）。红二十六军成立后，为了加强部队战斗力，适应整军和扩军任务需要，红二十六军在紧张的战斗之余，开始进行正规红军的教育和训练，以提高部队指战员的军政素质。红二十六军第二团参谋长郑毅在1933年1月9日写给中共陕西省委的报告中说：“关于训练的材料（军事的与政治的）与教授人才，非常缺乏，这是要请你们火速派人来和送教育材料来的。”

早在红二团成立前，中共中央和陕西省委就几次指示陕甘游击队，在部队中开办红军随营学校与干部学校以及各种短期训练班，培养各级干部。“1932年4月20日中共中央根据陕西省委的报告作出《关于陕甘边游击队的工作及创造陕甘边新苏区的决议》第三条指出：在可能的情况下，即刻开办红军随营学校与干部学校来训练新的指挥员”。为此，红二十六军第二团组建不久，在刘志丹领导与关怀下，1933年1月在照金根据地创办了陕甘红色政权所属的一所红军随营学校。李杰夫任校长，汪锋兼任政委。刘志丹亲自编写教材并为学员做报告、讲课。由于当时处于险恶斗争环境之中，随营学校没有固定的校址，是一种“游击学校”。教学形式采用官教兵、兵教官、兵教兵的方法。教学内容根据当时革命斗争实际需要而安排。6月间，随营学校因红二十六军二团南下渭华失败而停办，短短6个月时间共培训学员200余名，使红二十六军的军政素质和战斗力得到较大提高。

1934年，在陕甘边工农红军不断发展壮大和红色政权相继建立的形势下，部队和地方政权都迫切需要大批党政军骨干。急需培养革命骨干力量去组织群众、领导群众已成为当时军队教育的迫切任务。1934年10月，在刘志丹、习仲勋的主持下，陕甘边特委、军委和陕甘边区革命委员会在南梁张家岔创办了陕甘边军政干部学校，刘志丹兼任校长，习仲勋兼任政委，吴岱峰任军事主任，主持日常工作，马文瑞、蔡子伟等兼任教员。学员主要来自部队中下级干部，还有少量地方干部。根据培养目标，教学内容主要有政治、军事、文化和政权建设问题。政治课包括“工农红军”“共产党”“土地革命”（怎样分配土地）“六大决定”（十大纲领、革命性质）等内容，旨在使学员懂得当红军的性质、任务及其远大目标；文化课因学员文化程度较低，基本以识字扫盲为主，提高文化水平；军事课包括“制式教练”“尖兵活动”“游击战术”等，主要掌握游击战争的基本战略战术，提高指挥作战能力。刘志丹亲自担任军事课教学。一次，刘志丹正在给军事干部学校学员讲话，看见习仲勋前来检查工作，刘志丹喊了一声口令：“立正！”并向习仲勋敬了一个军礼，要习仲勋检阅学员队伍，并欢迎习仲勋给大家讲话。习仲勋一向把刘志丹当作领导者，论年龄刘志丹比习仲勋长10岁。这突如其来的场面，使习仲勋不知如何是好。事后，刘志丹对习仲勋说:“我们共产党员拥护我们自己建立起来的政权，如果我们不尊重，老百姓也就不在乎了。”刘志丹的行动真是有感召力，从此，20岁的习仲勋更受到大家的拥护，特别是比习仲勋年长的同志，也都很尊重他。学员对象，有来自部队的中、下级干部，也有少量的地方干部。教学没有正规教室，每个学员发根铅笔和一点麻纸做笔记，教员在台前或黑板上写，学员做笔记。学校生活也很简单。主食是黄米，蔬菜很少，当时，大家叫它“黄米杠子”，偶然在改善伙食时也能吃到一点羊肉。干部学校每期学员百余人，从1934年到1935年春，共办了三期。学员毕业后，分配到红军、游击队或赤卫队工作。他们在长期革命斗争中成为很有才干的党政领导干部和军事指挥员。

1934年11月7日陕甘边区苏维埃政府成立后，刘志丹、习仲勋进一步加强了干部教育工作，陕甘边军政干部学校改建为陕甘边区党政干部学校。培训对象除来自红军外，还有各级苏维埃政府选派的地方干部，办了两期培训班，前后共培训干部200多人。1935年7月，陕甘边区党政干部学校迁至陕北延川县永坪镇，发展成为西北红军干部学校，校长吴岱峰、政委张秀山，政治部主任李登瀛，教育长张文舟。1935年10月，中央红军长征到达陕甘根据地后，中央军委决定将西北红军干部学校与中央红军干部营（即原中央红军干部团）合编为中国工农红军学校，周昆任校长，宋任穷任政委，袁国平任政治部主任。

1936年2月，中共中央和中央军委决定，将中国工农红军学校易名为西北红军大学。周昆任校长，袁国平任政委，黄文骅任政治部主任。6月，中共中央决定，西北红军大学定名为中国人民抗日红军大学（简称“红大”），毛泽东兼任中国抗日红军大学教育委员会主席，林彪任校长，罗瑞卿任教育长，黄文骅任政治部主任，刘亚楼任训练部长。1937年初，中国人民抗日红军大学改名为中国人民抗日军政大学（简称“抗大”）。后来，抗大几经变迁发展成为今天的国防大学。刘志丹、习仲勋创建的陕甘边区红军干部学校，在红军教育机构和制度的发展史上，具有十分重要的地位。