李渊回到家，把李世民叫到跟前说：“举事造反我不怕，不过你可记得，解雁门之围时，你在皇上面前立的誓言？我怕人说你言而无信！”

    李世民说：“父亲，当今天下混乱，百姓贫困，全因皇上荒淫所致。今天的皇上已非昨日皇上，难道我们还非得拥戴一个遭天下人唾弃的国君不成？”

    李渊无言以对。

    “再说，我是为父亲着想。父亲受诏讨贼，贼可以讨尽么？讨不尽，则最终难免获罪。当年世间传说李氏当应谶言，结果李浑一族无辜被杀。父亲即便能讨尽贼寇，皇上给你个功高不赏，处境就更危险了。所以，举事大计，父亲不可再犹疑。”

    李渊叹息说：“你说的极有道理。今日破家亡身由你，化家为国也由你了！”

    李世民喜出望外，又马上提出请李渊设法将刘文静放出大狱，跟裴寂一起参与大事。

    大业十三年七月，在经过几个月紧锣密鼓的谋划和招兵买马之后，李渊正式起事，自称大将军，建大将军府，任裴寂为长史，刘文静为司马。

    刘文静说：“欲夺天下，必须先取关中。除了西进关中，直取长安之外，我们没有别的路可走。也惟有此，才可成功。”

    后来的事实证明，这真是英明之举！

    裴寂又献计策：为了避免过早地显山露水，成为众矢之的，此时先不公开宣称反叛朝廷，而是尊杨广为太上皇，拥立留守长安的代王杨侑为帝。这样，进军长安也算出师有名。

    李渊听后，自嘲地笑笑说：“这是掩耳盗铃。然而迫于时事，也只好如此了。”

    留守长安的代王杨侑听说李渊在晋阳起兵，就料知他想夺西京，而且来者不善，立刻派虎牙郎将宋老生率两万精兵屯守霍邑，骁卫大将军屈突通屯守河东，阻击李渊西进。

    七月底，李渊命四子李元吉为太原太守，驻守晋阳宫，全权处置留守事务。自己亲率三万甲士，立军门誓众，启程西进，开始了创业的义举。

    此前不久，李渊写信给正在威逼东京的李密，想联合共举大计。这时候，派往瓦岗军的使者，带回了李密的复信：

    “我与兄派流虽异，根系本同，自己才疏学浅，被四海英雄共推为盟主。希望左提右挈，戮力同心，执子婴于咸阳，殪商辛于牧野，共襄此盛举……”信中还要李渊率几千人马亲至沁阳，与他面结盟约。

    看了李密的复信，李渊笑着说：“李密妄自尊大，不甘心居人之下，一群草寇推他为首领倒也罢了，还想要我也承认他的盟主地位。燕雀凌于鸿鹄，实在有些不自量力。不过，我们今天志在关中，如果与他断然绝交，等于又树一敌，于我不利。不如卑辞推奖，任他骄狂。利用他为我堵塞成皋之道，拖住东京之兵。等到关中平定，据险养威，再从容地观看鹬蚌之争，坐收渔人之利也不晚！”

    随即，李渊命记室温大雅再回一书说：“我虽庸劣，幸承祖先余绪，出为八使，入典六屯。国家倾覆而不扶，将为时贤责备，所以大会义兵，和亲北狄，共匡天下，志在尊隋。天生兆民，必有主宰，当今可做天下主宰者，舍密公还能有谁！老夫已过知命之年，无心力图天下主宰。衷心拥戴贤弟，攀鳞附翼，望弟早膺图箓，以安宁天下百姓！如能以我为李氏同姓，宽容接纳再封于唐，有此殊荣足矣。至于殪商辛于牧野，执子婴于咸阳，我无此能力气魄。汾晋左右，尚须安固，盟津之会，无暇顾之。”

    李密收到这封书信后高兴万分，逐一示左右将领，说：“唐公都推我做盟主了，不愁天下不定！”

    此后双方信使往来不断。

    李渊西进关中之前，还办了一件大事：派刘文静出使突厥，面见始毕可汗，请他出兵相助，攻取长安。李渊此举有他一定的道理：一是自己的力量毕竟还是薄弱，如遇大敌，难以抵挡，有了突厥帮助就会强大多了；二来如果突厥出兵，就与自己成为同路，算是入了伙。若不然，自己率军西进，突厥瞅准空子领兵南犯，必将把自己推入首尾难顾的尴尬境地。

    刘文静临行前，李渊再三叮嘱，对始毕可汗一定要许以厚利，反复重申：如可汗相助攻下长安，民众土地归唐公，金玉缯帛归突厥。

    李渊率军西进，一路上广发文告，向沿途郡县民说明，此去关中是为尊立代王为帝，并别无他图。

    走到当年与甄翟儿大战的雀鼠谷，适遇大雨连绵，山道泥泞，不得前进，只好驻军贾胡堡，此地距宋老生屯守的霍邑只有五十多里。

    雨幕时疏时密，却是终日不停。军中的粮食已不多了，刘文静至今杳无音信。李渊整天愁眉不展。这时又听风传，突厥要乘虚攻袭晋阳。李渊急了，连忙召集将佐，商议着要撤回太原。

    裴寂表示赞同：“宋老生、屈突通连兵据险，恐怕不易很快攻破。李密口说联合，但此人奸谋难算。突厥一向言而无信，惟利是图，居心叵测。太原是一方都会，我军将士的家眷都在那里，不如先救根本，再图后举。”

    李世民却不以为然，说：“现在已近秋季，稼禾遍野，不必为无粮忧愁。宋老生虽然据险霍邑，但他生性轻躁，无勇无谋。李密顾恋仓粟，不会远离东京西进。至于突厥欲袭晋阳一说，文静公还没回来，不知实。隋，所以不能偏信谣传。归到根本，我们既然举兴大义，奋不顾身以救苍生，就当先入长安，号令天下。如果退还太原，据守一城之地，岂不与盗贼流寇一样了吗？”

    李渊的长子李建成也附和说：“二弟说的有理，不能撤回太原。”可是李渊已下定北还的决心，不再听两个儿子劝说，催促左右两军立即准备，相继出发，返回晋阳。

    入夜，李世民与大哥李建成聚在一起，越觉得撤回太原定败无疑。情急之下，李世民决意进帐再谏。

    李渊刚刚睡下，忽然听到帐外有人放声恸哭，再细听，竟是李世民。李渊赶紧召李世民进帐，问他：

    “出了什么事，值得你深更半夜的号啕痛哭？”

    李世民擦擦眼角的泪水，说“父亲，军中兵勇都是为义举大事而来，所以才有今日的士气。听说父亲下令北还，许多人都暗中计议要解甲而去。如今的情势是进战则胜，退还则散。此处距霍邑仅五十里，万一在回太原途中士卒四散，宋老生必乘机追讨，那我们只有死路一条了。想想我们兴师动众，将要落得这样的悲惨下场，我怎么能不悲恸呢！”

    李渊一听，才猛然醒悟，后悔不迭地说：“哎呀，我怎么就没想到这一层呢！可是，军队已经出发，这可怎么办？”

    李世民说：“右军严阵以待，还没有走。左军虽走，这种天气里也不会去得太远，请父亲下令让我去追他们回来。”

    李渊笑笑说：“还用下令么？我看明白了，此次大事成败都在于你。你看怎么办好就怎么办吧。”

    李世民转身出帐，与李建成一起，连夜催马向北追去。

    天蒙蒙亮时，军门前忽然来了一位白胡子老头，对守门的军士说：“我是霍山神派来的使者，请转告唐公：三天后雨止，此出霍邑，不再有阻碍。”话音未落，老头便倏然不见了。

    军士告诉了李渊，李渊说：“岂不是山神也来助我？”

    三天之后，雨果然停了，当空艳阳高照。李渊即命士兵曝晒铠仗行装，然后沿山间小道向霍邑进发。

    霍邑守将宋老生听说李渊的兵马已到了城下，立即登城望去。只见仅有李世民、李建成兄弟二人领着几十名骑兵，手持马鞭对着城墙指指划划，像是在商议着如何围城。宋老生顿时光冒三丈，跺着脚骂道：“黄口小儿，你也欺人太甚，竟不把宋将军放在眼里！”随即领三万兵马，从东门、南门分道而出。

    宋老生果然被引出城来了。

    李渊与李建成在城东布阵，李世民在城南布阵，迎击宋老生的兵马。李渊这边接战以后，渐渐支持不住，李世民从南原引兵驰下，从敌军背后猛攻，杀人宋老生军阵。李世民纵马挥刀，砍倒了数十名敌兵，两把刀都砍缺了，鲜血湿透了衣袖，依然身先士卒，冲锋陷阵。这时候李渊也缓过劲来，挥师从正面进攻。李渊令士兵一边冲杀，一边大喊：