就在李渊派遣其子李世民和李元吉发兵西河的之前，李渊在晋阳设起义堂，将军队分为三军，统称“义士”。裴寂等尊称李渊为“大将军”。待李家二子攻占西河郡诸县之后，于六月十四日，在晋阳建大将军府，以长子李建成为陇西公、左领军大都督，统率左军；以次子李世民为敦煌公、右领军大都督，统率右军；以四子李元吉为姑臧公，统率中军。以裴寂为大将军府长史，刘文静为司马，殷开山为掾，刘政会为属，长孙顺德、王长谐、刘弘基......