李渊睡了好半天才清醒过来，鼻中闻到一股异香，似兰非兰，似麝非麝，不由得纳闷起来。李渊揉了揉眼睛左右一瞧，身边竟然睡着两位美人，不禁大吃一惊：自己有没有做什么见不得人的勾当啊？正在胡思乱想，两位美人说话了：“唐公别见怪！这是裴副监的主意。”李渊问她们叫什么名字，家住哪里，两个人都说是宫女。李渊大惊失色：“原来是宫中贵人，我怎能与贵人同床共枕？这下我是死定了！”二位美人忙劝慰道：“皇上无德，南巡不归，各处行宫已经乱了。我等如果没有您的保护，难免遭人污辱，所以裴副监才特地嘱咐我等早日托身将军，以保全性命啊。”李渊连连摇头：“这……这事万万使不得呀！”边说边急急忙忙往外走。
刚一出门，迎面遇着裴寂，李渊一把扯住他，喊着他的表字：“玄真啊玄真！你这不是要害死我吗？”裴寂笑道：“唐公啊！你怎么这么胆小？收纳一两个宫人不过是小事一桩，就是那大隋的江山，只要你想要也是唾手可得呀！”李渊吓坏了：“你我都是杨氏臣子，怎能口出叛言？这可是灭门之罪！”裴寂说：“识时务者为俊杰。如今隋主无道，百姓穷困，四方已经群雄逐鹿。将军手握重兵，令郎广交英雄，何不趁机起义，以图帝业？”李渊小声嘀咕：“我李家世代蒙受国恩，不敢谋反。”裴寂正要再说话，忽然有探马来报：“突厥大军已到马邑，请留守大人赶快回署发兵，截击外寇！”李渊听了，连忙回府。副留守王威、高君雅等人早已等候多时，李渊立即和两个副将商量退敌之策，决定派高君雅率领一万人马救援马邑，高君雅领命而去。
李渊回忆起晋阳宫的事情，一连好几天寝食不安。不久又接到马邑军报，说太守王仁恭出战不利，高君雅也打了败仗。李渊更加着急，回到内室发起呆来。李世民趁机劝李渊：“如今天下大乱，朝廷朝不保夕，父亲若再守小节，下有盗寇，上有严刑，眼看就要大祸临头了。不如顺应民心，兴兵起义，说不定还能转祸为福呢。”李渊生气地说：“简直一派胡言！小心我拿你举报，免得受你牵连。”李世民道：“儿是看大隋的气数尽了，所以才敢这么说。父亲如果一定要将儿拿去送死，儿也不敢违抗。”李渊叹了口气说：“我岂能不讲父子之情置你于死地？只是警告你不要轻言罢了！”此时李渊已经动心。
几天之后，剿寇战事再次告急，李世民又来劝李渊：“如今盗贼日益猖獗，父亲奉旨讨贼，可这贼寇哪能讨光！贼不能除尽，您就难免获罪。况且世人盛传李氏当兴，您已经遭到皇上猜忌，如果真的将贼寇灭尽，恐怕更会功高震主。儿前思后想，只有昨天的计策可以免祸，请父亲别再犹豫了！”李渊道：“我昨天晚上仔细一想，你的话很有道理。现在我们的身家性命都系在你身上，安邦定国的事也都看你了。只是我们的家属还在河东，起义之事不宜操之过急，还是慢慢想办法吧。”李世民道：“父亲决定了就好，家属我派人去接。”接着，李世民安排得力属下快马赶赴河东去接家眷。
父子二人正在悄悄安排，江都又有坏消息传来。隋炀帝因为李渊剿寇不利，特派使臣前来太原，要拿李渊问罪。危急关头，李渊召裴寂及李世民一起商量对策。裴寂进言道：“我前几天之所以劝您，怕的就是这个祸。眼下形势紧急，您千万别犹豫了。古人云：‘先发制人，后发制于人。’请您三思！”李世民接着劝道：“如今皇帝昏庸，天下大乱，国法荒谬，纲纪无存，父亲何必再去守法！”李渊还有些犹豫：“如果起义不成，又怎么办？”裴寂答道：“将军多虑了！晋阳兵强马壮，您又有几万精兵，隋朝江山已摇摇欲坠，您占尽天时、地利、人和，还怕不成？”见李渊仍拿不定主意，裴寂又逼进一层道：“前几天我让宫女陪侍您，已经是死罪了，现在朝廷又为了剿寇的事要拿你问罪。如果两罪并罚，我死不足惜，您岂不要诛灭九族？”这一席话终于说得李渊死心塌地。
不一会儿使臣来到，李渊推说病重不能起床，让使臣到馆驿暂且居住，说等到病稍轻一些再来接旨。来使因为李渊手握兵权不便反驳，只好忍气待着。李渊与李世民等秘密部署，打算杀了使臣祭旗。这时候江都又传来赦免的旨意，让李渊照旧供职，戴罪立功。李渊接了诏书，一并款待了前后两个使臣。李渊稍稍放心，又把起义的事耽搁了好几天。
经裴寂和李世民再三催促，李渊才又提起起义的事。李世民保举刘文静，说可以封他为参赞谋士，于是李渊暗地里召刘文静出狱。刘文静见了李渊，当即献上一计，说可以假传圣旨，号令太原西河、雁门、马邑百姓，凡是年龄在二十岁以上的都要当兵，东征高丽。这道假圣旨一旦发下去，民怨必定沸腾，恨不得隋炀帝马上死掉。
没过几天又传来坏消息，草寇刘武周占据了汾阳宫。李世民又来说服李渊：“父亲身为留守，却让盗贼私占行宫，恐怕不等起事，大祸就要临头了。”李渊道：“只是家属没到，所以才会迟疑。”李世民道：“儿听说家眷已经起程，想必这两天就能到了。眼下事态燃眉，必须赶紧布置才好啊。”李渊皱眉道：“恐怕兵力不足啊。”李世民于是近前对李渊耳语了几句，李渊连声说好。
计划已定，父子马上召集将领议事。李渊升帐道：“突厥还没退兵，刘武周又来侵袭，眼下我们兵力不足，首要的任务是立即招兵买马。”副留守王威等人都说：“这的确是紧要之策。”李渊又道：“刘文静当县令多年，了解民情，我想招兵的事非他不可。我打算暂时释放他出狱，担当这个任务，你们看怎么样？”众人齐声说好。李渊于是将刘文静放了出来，命他招兵买马，王威等人暂时待命。
李渊又命令池阳人刘弘基和洛阳人长孙顺德协助刘文静。王威等人听到这个命令，不由得起了疑心。原来这刘弘基曾做过右勋侍，长孙顺德也做过右勋卫，二人本在隋炀帝左右，只因隋炀帝出征辽东，二人不愿随行，才流落晋阳暂时寄居下来。其中还有一层关系，李世民的妻子是已故骁卫将军长孙晟的女儿，长孙顺德又是长孙晟的族弟。这次李渊让他们一同招兵，显然有些可疑。而且新招的兵马都归他们两个统领，王威就更加猜疑了。这时高君雅回城求援，王威对高君雅密谈起自己的疑惑，高君雅也觉得可疑，二人打算找机会除掉李渊。当时正赶上晋阳大旱，李渊要到晋祠求雨，王威认为时机到了，便想趁此机会下手。但士兵多是李渊的手下，不肯听王威调遣，王威只好委托晋阳乡长刘世龙招集乡兵，埋伏在祠中准备刺杀李渊。刘世龙假装听从王威，暗中却告诉了李渊。
李渊召李世民商议，李世民道：“这两人死期到了，儿正要除掉他们，他们却自己送死，真是凑巧。”于是和李渊定下密计。第二天早上，李渊来到议事堂，邀王威、高君雅共同议事。这时，开阳府司马刘政会跑来告密，李渊准备让王威审读密信，刘政会却说：“被告正是副留守王威，这封信只有您自己可以取阅。”李渊假装惊讶：“有这等事吗？”于是亲自取过密信，只见信上写着“副留守王威、高君雅私下引突厥来攻城”等话。李渊拉着脸将信递给王威，王威没等看完就大声喊道：“哪来的叛徒，竟敢诬陷我们！”李渊冷笑道：“谁是叛徒，先问问你们自己吧。”王威和高君雅知道事情不妙，赶紧往外跑。刚一出门，就被团团围住。李世民早已等候多时，当即将二人拿下，送进大狱。
两天之后，突厥几万大兵果然来攻晋阳。李渊派裴寂等人分头埋伏，然后大开四面城门。突厥兵冲进外城，见内城的门也开着，不由得起了疑，喧闹了一阵，竟然出城而去。李渊将王威、高君雅绑到闹市，对百姓说道：“招来敌寇攻城的就是这两个人，你们说他们该不该杀？”百姓信以为真，都说该杀。于是一声令下，两颗人头落地。
还有一件可喜的事情，李氏家眷已经全都从河东赶到了。当时窦夫人已经去世，李渊的小妾及儿子李建成、李元吉等一并进来拜见，连女婿柴绍也来了，一家人欢聚一堂，高兴极了。只有三子李玄霸在老家时病死了，还有小妾万氏的儿子智云在途中失散，生死未卜，不免在欢聚中增添三分悲伤。
李渊召集刘文静、裴寂等商议出兵的策略。刘文静道：“出兵不难，倒是突厥侵袭令人担心。首要之计莫过于先通好突厥，然后再举兵也不迟。”李世民接着说：“这不过是个权宜之计。”于是李渊写信给突厥，大意是说“我准备起兵，打算与贵国和亲修好”之类的话，派刘文静为信使，快马奔赴突厥。
刘文静那边没有回音，李渊不便仓促发兵，只好休整军队。闲暇时想起智云，多次派人去河东探听下落。后来听说智云被官军押送长安，被留守阴世师杀害。李渊非常伤心，裴寂等都来劝解。
这时候，刘文静从突厥回来，李渊连忙询问情况。刘文静道：“突厥主始毕可汗说一定要请唐公自称天子，他才出兵相助。”裴寂一跃而起，道：“突厥都想让唐公当皇帝，大事成了。”李渊也转悲为喜。但嘴里却再三推托，不敢称帝。裴寂说：“机不可失，时不再来。”刘文静也说：“我们现在急需突厥的战马，若迟迟不给回音，突厥一旦反悔，便失去一个强有力的援助了。”李渊问：“各位还有什么折中的办法吗？”裴寂答道：“您如果实在不想称帝，不如尊称当今皇上为太上皇，再立一位王公为皇帝，暂时安定一下隋室。另一方面我们传书天下，改旗易帜。并通知突厥说您已有自立为王之意，免得他反悔。”李渊道：“这也不过是掩耳盗铃，但事已至此，也顾不得许多了。”于是又让刘文静回信，约定与突厥共同攻打京师，然后分享利益。始毕可汗很高兴，马上派使臣到晋阳，赠给李渊一千匹战马。李渊自然乐意，写信给突厥，暂时以外臣自称。
李渊安排好了和突厥的关系，又传书各地，宣布起义的消息。不料西河郡丞高德儒拒不买账，李渊派儿子李建成、李世民率兵攻打西河。李世民和士卒同甘共苦，所过之处秋毫不犯，百姓大加称颂。到了西河城下，高德儒闭门拒守，李世民率众猛攻，并且身先士卒，冒险登城。李建成紧随其后，一鼓作气攻下城池，拿住了高德儒，当即斩首示众，此外没有多杀一个人。李世民号令百姓各安旧业，远近百姓齐声称颂。李建成、李世民带兵返回晋阳，前后只用了九天。李渊大悦：“如果这么顺利，想要夺取天下也不难。”
李渊决意进关，自称大将军，然后一边招兵买马，一边开仓放粮赈济贫民。一时间老弱领粮，丁壮入伍，场面蔚为壮观。接下来李渊又按照各个将领的才干分别封了官职。然后派长史裴寂把晋阳宫里储藏的九百万斛粮食移送大将军府。又把五百匹各色布帛、四十万副铠甲一起移交过来，把尹、张两位美人以外的五百名宫女一并送到军中服役。这时是隋炀帝大业十三年初秋，天高云淡，金风送爽，李渊亲自率领三万大军从太原出发，留小儿子李元吉把守晋阳宫。李建成、李世民等一起跟随出征。
