1930年10月，劉志丹成功領導發動“太白起義”，建立了南梁游擊隊。1931年10月20日，楊重遠、閻紅彥率領的陜北游擊支隊來到合水縣林錦廟，與劉志丹領導的南梁游擊隊會合。為了加強對兩支隊伍的領導，中共陜西省委派謝子長來部隊。謝子長傳達了省委關于整頓隊伍、建立工農紅軍以及向關中一帶移動，首先在旬邑、淳化、正寧一帶發展的指示。 1931年12月底，南梁游擊隊和陜北游擊支隊按照中共陜西省委的指示，離開新堡、悅樂，沿子午嶺西麓南下。于1932年1月初，到達正寧縣月明塬柴橋子村駐扎，改編為西北工農反帝同盟軍。這是黨領導的西北紅軍第一次鮮明地打出反抗日本侵略者的旗幟。部隊駐扎期間，進行革命宣傳，教育動員廣大民眾，開展武裝斗爭。

1932年1月，中共陜西省委派省委常委、軍委書記李杰夫來到西北反帝同盟軍，傳達省委新指示：將西北反帝同盟軍改編為中國工農紅軍陜甘游擊隊，并在改編完成后立即南下渭北平原開展游擊戰爭。

1932年2月12日，中國工農紅軍陜甘游擊隊成立大會在正寧縣三嘉塬細咀子錦章村隆重召開。細咀子的麥場上搭起了一座高臺，臺上懸掛著巨幅橫標，上面寫著“中國工農紅軍陜甘游擊隊授旗典禮大會”。幾百名戰士系著紅色“犧牲帶”表示為革命不惜犧牲自己的生命。正寧、旬邑一帶的老百姓抬著豬羊、吹著嗩吶，前來慶賀，整個會場既壯觀，又熱烈。會上，李杰夫代表陜西省委宣布將西北反帝同盟軍改編為中國工農紅軍陜甘游擊隊，并宣布了游擊隊的編制和主要干部名單。謝子長任總指揮，李杰夫任政委，楊重遠任參謀長。劉志丹因離開部隊回陜西省委匯報工作，未任職。中國工農紅軍陜甘游擊隊下轄步兵大隊兩個，騎兵大隊、警衛大隊各1個。全軍共360余人。在授旗儀式上，由中共旬邑縣特支代表第五伯昌將一面寫著“中國工農紅軍陜甘游擊隊”的紅旗授給了游擊隊總指揮謝子長。人們向往已久的紅軍終于誕生了，成為西北地區第一支冠名紅軍的革命武裝。

為了加強黨對紅軍的領導，在部隊中成立了中國工農紅軍陜甘游擊隊委員會（簡稱“隊委會”），李杰夫任書記，在各大隊也建立了黨支部。

中國工農紅軍陜甘游擊隊（簡稱“陜甘游擊隊”）的成立，第一次在西北地區公開打出了中國工農紅軍的旗幟，以革命的武裝反對反革命的武裝，向廣大人民群眾公開了這支部隊的性質和宗旨，標志著中國共產黨在陜甘地區領導的武裝斗爭進入新的階段，拉開了西北紅色武裝割據的序幕。

陜甘游擊隊的成立，使得正寧縣三嘉塬、陜西旬邑縣職田塬上的老百姓，看到了共產黨領導下的紅軍游擊隊就是自己的隊伍，他們喜笑顏開，奔走相告。當天成立大會后，職田鎮附近的幾十個農民就找謝子長，控訴他們村土豪董鳳鳴（綽號油客）的罪行，請求紅軍替他們伸冤。謝子長根據群眾要求，召集隊委會研究，決定當晚攻占職田鎮。

職田鎮距離三嘉塬20多公里，是面積比較大的一個集鎮，駐有國民黨的區公所和數十人的民團。2月12日晚，謝子長命令騎兵大隊出發進入職田鎮，逮捕了喬景賢、董鳳鳴等8個惡霸地主。第二天拂曉，經過激戰，部隊進占職田鎮，擊斃20余人，打傷20余人，俘虜三四十人，繳獲步槍100余支、子彈2000余發。搗毀國民黨職田區公所，活捉了國民黨職田民團團長唐碧武和區紳唐德喬等七八人，當場燒毀了區公所的文書、賬本及查抄的豪紳賬債契約，并開倉分糧。陜甘游擊隊成立和占領職田鎮的消息，使國民黨統治當局極為震驚，他們立即調動駐旬邑縣境內張洪鎮的警衛團和附近民團共千余人，向職田鎮撲來，妄圖一舉殲滅陜甘游擊隊。2月15日，國民黨部隊剛到陽坡頭，就遭到謝子長率領的陜甘游擊隊的伏擊，殲俘“圍剿”敵人500余人，繳槍150多支。

陜甘游擊隊接連取得旬邑縣職田鎮、陽坡頭戰斗勝利后，隨即按照中共陜西省委指示，南下陜西渭北的三原、富平、蒲城、耀縣一帶開展游擊戰爭。轉戰月余，殲滅旬邑、彬縣、長武、宜君、耀縣等地民團武裝共約1000余人，力量不斷發展，影響迅速擴大。陜甘游擊隊紀律嚴明，對群眾秋毫無犯，所到之處，發動群眾，沒收豪紳地主的土地、財產并分給貧苦農民，得到廣大群眾的愛戴和擁護。可是，在分配財產時，群眾只要糧食、牛羊，不要土地。究其原因，他們怕游擊隊走后沒有保障。這就向紅軍游擊隊提出了一個極為重要的問題：即必須建立革命根據地，使武裝斗爭、土地革命和政權建設有機結合起來。鑒于這種情況，謝子長在耀縣香山組織召開隊委會和指揮部會議，認真分析形勢，總結陜甘游擊隊成立后作戰和發動群眾斗爭的情況，并討論了陜西省委的指示。會議認為，建立革命根據地是一項刻不容緩的任務，但在什么地方建立，要具體分析。三原、富平地處渭北高原，交通便利，國民黨統治力量強大，不利于建立革命根據地，必須走毛澤東農村包圍城市、武裝奪取政權的道路。決定游擊隊轉移向國民黨統治力量薄弱的地區開展游擊戰爭，建立革命根據地。香山會議，確立了正確的戰略方針，為游擊隊開展革命斗爭指明了方向。從此，陜甘游擊隊開始了創建革命根據地的偉大斗爭。

1932年4月中旬，陜西省委書記杜衡到游擊隊巡視，劉志丹隨杜衡一起回到部隊。杜衡以游擊隊攻打正寧縣山河城失利為借口，對謝子長妄加了一大堆罪名，宣布撤銷謝子長游擊隊總指揮一職，又將游擊隊分為第三、第五兩個支隊，三支隊由劉志丹率領，到西蘭公路沿線的乾縣、永壽一帶活動；五支隊由閻紅彥率領，到三原的武字區一帶活動。謝子長被排擠出部隊后，到甘肅靖遠發動了著名的靖遠起義。1932年5月，第三、第五支隊在旬邑縣的清水原會合，劉志丹接任總指揮兼第三支隊隊長，率領游擊隊繼續轉戰在陜甘邊區。1932年，為了發動勞苦大眾起來與敵人斗爭，劉志丹親自起草了《中國工農紅軍陜甘游擊隊布告》。

陜甘游擊隊成立的行動，受到“左”傾錯誤的極大干擾和破壞，四易總指揮，給發展壯大紅軍游擊隊、建立革命根據地造成很大的困難和損失。但是，在劉志丹、謝子長等堅強領導下，陜甘游擊隊堅持頑強的斗爭，為創建陜甘革命根據地打下了牢固基礎。