饑民紛紛離開城邑，流亡進入山野湖澤，挖野菜樹根爲食。可饑民實在是太多了，甚至於連野菜樹根都不夠吃，有的饑民之間還會發生打鬥。
這樣的糾紛多了，就需要推舉一些有威望的人出來做領袖以便裁決，這樣的饑民領袖，在新市(今湖北京山東北)是王匡，王風，在南郡(今湖北江陵)是張霸，在江夏(今湖北黃岡)是羊牧。
隨着災情的加重，王匡等人也意識到老吃野菜樹皮不是辦法，於是開始率領饑民出山打家劫舍，聊作謀生之計，計劃等到政治平靜，糧食豐熟時再考慮下一步的打算。因爲王匡領導的這支義軍平時藏在綠林山中，沒糧食了，就到村子裏打劫點糧食果腹，所以被朝廷成爲“綠林賊”。
王莽也曾派使者去解散綠林軍，承諾赦免他們的罪過，使者回來告訴王莽說：“這些人解散不久，又重新聚集到山中去了，問他們原因，他們回答說：‘賦稅太重，法令太嚴，實在活不下去’，看來盜賊羣起的主要原因還是百姓太窮了。”
王莽聽後很生氣，認爲使者是在誹謗朝政，免得他的官。當時天下造反的農民都和綠林軍一樣，只是平日裏在鄉間打家劫舍弄點糧食度日，並不敢去進攻城邑。他們即使抓獲前來討伐的官員，也立刻放掉了。他們心中並沒有什麼真正的造反的計劃，純碎是飢寒交迫所致。
但是這一點，王莽卻始終不明白，他總是向用軍事高壓和嚴刑酷法將百姓嚇到，卻不知這樣正是抱薪救火，只會使農民起義的烈火越少越旺。地皇二年(21)，新朝軍隊2萬人大舉進攻綠林軍，王匡等人率軍迎擊，與新朝軍隊大戰於雲社，安陸城(今湖北雲夢)，總兵力發展到5萬人，綠林軍擴張迅猛。這時，一場瘟疫讓王莽政權苟延殘喘了一段時間。
義軍大獲全勝的第二年，荊州發生了嚴重的瘟疫，綠林軍將士死亡了一半多。爲了維持住隊伍，王匡只好將軍隊分散爲兩部離開綠林山，一部由王常，成丹率領西入南郡，號稱“下江兵”;另一支由王匡，王風等率領北入南陽(今河南葉縣)，號稱“新市兵”。
