考虑到自己在山东，而许贯中经营北地自己鞭长莫及，王伦这几日便与柴进谋划组建了团结兵。
宋人自有“团结民兵，结社以备”的传统。自宋一朝，屡次为外族所侵，乡民多备有刀枪弓箭，以保卫家园。此风气从宋朝统一战争初始便萌发起来，如今逐渐形成各具特色的地方武装。
《宋史》卷一八七《兵》一中所载为“本河州忠烈、宣勇能结社买马者。”此为宋初边境之地较早的大规模武装社团，是为买马社。又“自澶渊讲和以来，百姓自相团结为弓箭社”。又如战乱频繁的河朔之地，“河朔之民愤于兵乱，自结巡社”。是为忠义社。
祝家庄、曾头市也是民间团练，而且是家族式的。
故此，王伦也与柴进合作组建社团，建立梁山之外的武装团队。有柴进的面子在，一应手续准备齐全，沧州太守也乐得多一助力。
值得一提的是，这队团结兵大多是柴进庄上的佃户、门客，还有一些江湖亡命，有些战力。而且柴进做了这队团结兵的团练使，每日操练兵马，乐此不疲。