不管儿子与部属如何劝他，李渊都是对峙本身的等候，直到陇西的薛举造反了，李渊才晓得本身不能再等了，该反了。
李渊想反，但并不代表他统领的老百姓会跟着他造反。当时李渊治下的山西，虽偶有盗贼，但老百姓的日子还能过下去。李渊想造反了，还能够活下去的老百姓却没有这类不要命的设法。这对于李渊来讲，可不是功德儿。以是李渊的部属刘文静就想出了一歪招：“诈为敕书，发太原、西河、雁门、马邑年二十岁以上，五十岁以下，悉为兵期岁暮集涿郡，击高丽。”
在谋反之前，一贯老谋深算的李渊行事当然更是谨慎谨慎。史称李渊“素怀济世之略，有经纶天下之心”。大业十二年，杨广南巡，他看到中原空虚，以为反隋机会正在成熟，因而命宗子李建成以照顾家眷为名，“于河东潜结漂亮”，以供己驱用，本身则坐镇太原“密远雄图”。大业十三年初又命次子李世民“于晋阳密招豪友”。一个“密”字，贵穿了李渊起事前的统统行动。
实在早就决定起兵的李渊就晓得对本身要以太原之兵反杨广，篡夺天下事没甚么掌控的。以是他就像刘武周一样想借突厥的力量来帮忙本身，他曾派出刘文静代表本身出使突厥。刘文静带着李渊亲身写的信给突厥始毕可汗，封题署具“某启”，有人建议：“突厥不识笔墨，只贪财宝。请多赠财物而改启为书，以显高贵。”李渊答道：“前人云‘屈于一人之下，伸于万人之上’，何乐不为！‘启’之一字，不值令媛。令媛尚且不吝，一字何所惜也。”。信中李渊对突厥始毕可汗说：“若能从我，不侵百姓，挞伐所得，后代财宝，皆可汗有之”。李渊的这类环境与刘武周称臣于突厥没有两样，故始毕可汗像接管刘武周一样快速的承诺了与李渊的“缔盟”。他当着刘文静的面，对摆布说：“杨广之为人，我知之也，不若奉唐公为天子，我当不避艰巨，以兵马助之！”
李渊假传杨广的旨意，说杨广要再伐高丽。讨伐高丽，对于当时很多人来讲是一场恶梦，现在杨广竟然又要讨伐高丽。以是这道假的圣旨让太原“情面忷忷，思乱者众”。同时李渊就以讨伐刘武周为名，开端擅高傲范围招兵。因为这时的李渊还是以隋朝太原留守的名义行事，以是在很短的时候里便招到近万人。
李渊的帮手。河东副讨捕史夏候端，传闻长于占卜、会给人看相。他也跑去对李渊说：“本年以来，玉床不安。帝座不稳，一年以内，必有真人崛起，部属思来想去，非君而谁？”