1927年大革命失败后担任中共陕西省委秘密交通工作。1928年初，被派往以中共党员许权中为旅长的陕军新编第3旅，任参谋主任。不久，率一批干部到豫陕边界地区开展农民运动，培训赤卫队骨干。4月，参与领导了以新3旅为骨干力量的渭华起义，任西北工农革命军军事委员会主席。起义失败后，于1929年春返回陕北，任中共陕西省委候补委员、陕北特委军委书记。打入陕北、陕甘边一些军阀部队和民团，进行兵运工作，组织革命武装力量，曾先后任营长、团长、旅长等职。1931年10月，和谢子长等将南梁游击队与陕北游击支队合编为西北反帝同盟军(不久改编为中国工农红军陕甘游击队)，先后任副总指挥、总指挥，总结过去失败的教训，学习井冈山斗争的经验，开辟以照金、南梁为中心的陕甘边苏区。

　　
　　1933年5月奉命随红26军2团南下渭南华县地区作战，失败后，率少数人奋勇作战突出重围，9月返回照金苏区，任陕甘边红军临时指挥部副总指挥兼参谋长。1933年11月成立红26军42师后，任42师参谋长，不久任师长，率部北上合水、庆阳，与陕甘边游击队、关中游击队、陕北游击队1支队互相配合，开展游击战争。

　　
　　1934年2～4月九战九捷，以劣势兵力取得了西华池等战斗的重大胜利，挫败了国民党军对陕甘边苏区的第一次“围剿”，建立了陕甘边工农民主政府和14个游击支(中)队，进一步巩固和发展了革命根据地。1934年5月任中共陕甘边军事委员会主席，后兼军政干校校长。编写了《军事教育大纲》、《政治工作训令》等教材。

　　
　　1935年2月任西北革命军事委员会主席，5月红26军和红27军会合后组成西北革命军事委员会前敌总指挥部，任总指挥。后率红26军、红27军主力，在陕北游击队配合下，以围点打援，出敌不意，各个击破等战法，经两个多月机动作战，攻克延长、延川、安定、安塞、保安、靖边6座县城，歼敌大量有生力量，挫败了国民党军对陕甘边苏区的第二次“围剿”，壮大了红军和游击队，在20余县建立起工农民主政权，使根据地扩大到东临黄河，西接环县，南至淳化、耀县，北接长城的广大地区，把陕北、陕甘边两块苏区连成一片，成为中共中央和各路北上抗日红军长征之后的落脚点。8月，在陕北、陕甘苏区第三次反“围剿”中，指挥红军主力，集中兵力，在慕家塬、定仙??地区首歼国民党军晋军1个团，迫使晋军撤回黄河东岸。9月，红26、27军与长征到达陕北的红25军会师，合编为红军第15军团，他任副军团长兼参谋长。10月与军团长徐海东指挥劳山战役。后在“左”倾路线统治时期的“肃反”中被逮捕，备受折磨，但他始终坚持原则。不久，中共中央到达陕北，毛泽东、周恩来等迅速纠正了陕甘苏区党内“肃反”的错误，刘志丹从而获释。此后任西北革命军事委员会后方办事处副主任、红军北路军总指挥兼第28军军长和中共中央所在地瓦窑堡警备司令等职。经常教育部队顾全大局，绝对服从中共中央的领导和调遣。在他的影响下，陕北红军与中央红军团结一致，共同对敌。

　　
　　1936年3月，率红28军参加东征战役，由罗峪口附近东渡黄河，挺进晋西北，迭克敌军。4月14日在山西中阳县三交镇（今属柳林县）战斗中牺牲，年仅33岁。为纪念刘志丹烈士，中共中央和陕甘宁边区政府决定将保安县改名为志丹县，并在城北建刘志丹陵园，有毛泽东、周恩来、朱德等人题词石刻。

　　
　　刘志丹烈士一生热爱党、热爱祖国、热爱人民，追求真理，英勇善战，百折不挠，艰苦奋斗，忠心赤胆，为创建红军和革命根据地，为中国人民的解放事业建立了不可磨灭的功勋，被毛泽东同志誉为“群众领袖，民族英雄”。