话说仁寿四年七月十三日，隋文帝驾崩于仁寿宫大宝殿，其后该如何收场，这对于太子杨广、宰相杨素而言，已非难事。因为大行皇帝死在避暑离宫仁寿宫，并非京中权力中枢之地，且距离京师大兴城数百里，为了以防不测，杨广首先对杨坚之死“秘不发丧”，接着收捕怀有二心的柳述、元岩等人，关押于大理狱。
七月乙卯（二十一日），太子杨广已经掌控了仁寿宫的局势，就在仁寿宫为大行皇帝发丧，于先帝灵前宣读遗诏。这份遗诏十有八九是杨广、杨素伪造的，言及杨坚生平，安排后事，做人生最后的交待，遗诏曰：
“嗟乎！自昔晋室播迁，天下丧乱，四海不一，以至周、齐，战争相寻，年将三百。故割疆土者非一所，称帝王者非一人，书轨不同，生人涂炭。上天降鉴，爰命于朕，用登大位，岂关人力！故得拨乱反正，偃武修文，天下大同，声教远被，此又是天意欲宁区夏。……朕今年逾六十，不复称夭，但筋力精神，一时劳竭。如此之事，本非为身，止欲安养百姓，所以致此。
人生子孙，谁不爱念，既为天下，事须割情。勇及秀等，并怀悖恶，既知无臣子之心，所以废黜。古人有言：‘知臣莫若于君，知子莫若于父。’若令勇、秀得志，共治家国，必当戮辱遍于公卿，酷毒流于人庶。今恶子孙已为百姓黜屏，好子孙足堪负荷大业。此虽朕家事，理不容隐，前对文武侍卫，具已论述。
皇太子广，地居上嗣，仁孝著闻，以其行业，堪成朕志。但令内外群官，同心戮力，以此共治天下，朕虽瞑目，何所复恨。……凶礼所须，才令周事。务从节俭，不得劳人。诸州总管、刺史已下，宜各率其职，不须奔赴。自古哲王，因人作法，前帝后帝，沿革随时。律令格式，或有不便于事者，宜依前敕修改，务当政要。呜呼，敬之哉！无坠朕命！”
于是，太子杨广遵照先皇遗诏，于灵前即皇帝位，史称隋炀帝。
但隋文帝的死讯仅限于仁寿宫的大臣知道，为防止京城内得知死讯而发生政变，杨素早已暗中派人通知弟弟、伊州（今河南临汝县）刺史杨约进入仁寿宫，并伪造先帝于赐死庶人杨勇的敕书。
杨广在仁寿宫登基后，立即派遣杨约携带敕书快马入京，调换留守将士，诈称先帝旨意，赐死庶人杨勇。而杨勇心有疑虑，拒绝服毒，杨约当即将他活活勒死。缢杀杨勇之后，杨约陈列兵士、集结朝臣，再发布先帝凶信，稳定了京城政局。
炀帝闻之，对杨素赞叹道：“爱卿之弟，果堪大任！”
后来，隋炀帝追封杨勇为房陵王，但其子嗣不得继承王位。不久，炀帝又命人用鸩酒毒杀杨勇长子杨俨。杨勇其余九子全部流放岭外，仍敕命地方官吏杀之。
八月丁卯（初三），杨坚的梓宫自仁寿宫运至京师。
八月丙子（十二日），杨广于大兴前殿为先帝出殡。
隋炀帝君臣商议后，为杨坚立庙号“高祖”，定谥号为 “文”，史称隋高祖文皇帝。
炀帝初即位，太史令袁充及太史丞高智宝上奏称：“去岁冬至，日影逾长，今岁皇帝即位，与尧受命年合。昔唐尧受命四十九年，到上元第一纪甲子，天正十一月庚戌冬至，陛下即位，其年即当上元第一纪甲子，天正十一月庚戌冬至，正与唐尧同。自放勋以来，凡经八上元，其间绵代，未有仁寿甲子之合。……共帝尧同其数，与皇唐比其踪。信所谓皇哉唐哉，唐哉皇哉者矣。”
袁充又规劝杨广次子、豫章王杨暕率百官拜表奉贺，礼部侍郎许善心却以为“国丧刚完，不宜称贺。”左卫大将军宇文述素来讨厌许善心，便示意御史弹劾他，许善心降职为给事郎，降品二等。
隋文帝尚未入土安葬，北方传来并州总管、汉王杨谅举兵造反的消息。
这杨谅，乃杨坚、独孤伽罗第五子，字德章，一名杨杰，开皇元年，立为汉王。开皇十二年，为雍州牧，加上柱国、右卫大将军。一年后，转任左卫大将军。开皇十七年，杨谅出任并州总管，隋文帝夫妇特意巡幸至温汤为他送行。
继二哥晋王杨广、三哥秦王杨俊之后，二十三岁的汉王杨谅坐镇并州，肩负抵御突厥的众人。其西起华山，东至沧海（东海），南拒黄河，五十二州尽隶属于他。
世人往往宠爱幼子，隋文帝也不能免俗，他甚是宠爱杨谅，虽然称帝后日理万机，有时忙得顾不上吃饭，但仍把杨谅带在身边亲自抚养。文帝夫妇很宠溺杨谅，一直舍不得他就藩，赐京城昌明坊全坊之地给杨谅为宅第，考古实测面积为36.2万平方米。
直到杨谅长到二十三岁，文帝夫妇才放他出任并州总管。杨谅就藩时，文帝还依依不舍地把小儿子送到了骊山温汤。杨坚特许杨谅不必拘于律令限制，可自行行事。杨坚为杨谅盛选僚佐，前后长史、司马皆一时名士；还礼聘关陇勋贵豆卢勣之女为汉王妃。汉王府可谓兵强马壮、人才济济。
开皇十八年，杨谅为行军元帅，发起辽东之役，进攻高句丽，率众至辽水，遇疾疫，不利而还。次年，突厥犯塞，杨谅又为行军元帅，竟不去临阵统兵，致使作战不利，文帝对他宠爱纵容，毫不责怪。
开皇二十年，杨广阴谋夺嫡成功，杨谅自以为据守于天下精兵之处，见大哥杨勇因谗言被废，他常怏怏不乐，私下里有异心，遂上谏父皇称：“突厥方强，太原即为重镇，宜修武备。”杨坚从之。
于是，汉王大发民工劳役，修缮兵器，贮存于并州。又招纳亡命之徒，左右私人门客将近数万人。
突厥人曾进犯边塞，文帝派杨谅抵御，竟为突厥所败，其所领将帅因罪被解职除名者八十余人，都被发配流放至岭表。杨谅因为这些人是其旧部下，奏请文帝留下这些人。文帝发怒说：“你作为藩王，只应恭敬遵从朝廷命令，怎可因私谈论旧交，废弃国家法令呢！嗟乎小子，一旦没了朕，你若是轻举妄动，他抓你如同抓笼内鸡雏一样，要心腹又有何用！”
仁寿二年，四哥蜀王杨秀因罪被废，杨谅内心更加不安。
杨谅的心思，早已被其部下察觉。其中王頍（kuǐ ）、萧摩诃最得杨谅信任，也最为杨谅卖力，这一文一武都是南朝人士。
这王頍，字景文，乃南梁名将王僧辩之子，隋朝齐州刺史颁之弟。王頍洒脱倜傥，有奇略，精力不倦，好读诸子百家，偏记异书，当代称为博物。又通晓兵法，益有纵横之志，每叹生不逢时，自认为有将相之才，常以将相自许，却仅为汉王咨议参军，杨谅待他甚是礼遇。
而萧摩诃，本是陈朝大将，以勇猛称著，入隋后仅授开府仪同三司，而无实职。隋文帝时期掌权的都是关陇贵族和部分山东士族，这两个南方人纵有文韬武略，亦难以施展。这二人都不得志，常常郁闷，胡思乱想。
看到和自己一样非嫡长子的二哥杨广都有机会问鼎皇位，汉王杨谅不禁野心陡生。有道是：士为知己者死。屈居汉王府的王頍与老将萧摩诃，见汉王有不臣之心，就极力撺掇杨谅造反，王頍还阴劝汉王缮治兵甲。
话说杨谅虽时时关注京师动向，奈何自己身在太原，得不到京师消息，就每日观测天象，却对隋文帝驾崩一无所知。一日，杨谅观天文见“荧惑守东井”，即火星正好处在井宿的位置。汉王府仪曹傅奕通晓星历，杨谅问他：“是何征兆？”
“天上东井，黄道所经，荧惑过之，乃其常理，若入地上井的位置，那就怪异了。”傅奕知汉王有异图，为自免于祸，不敢胡乱推测，就称天象正常。杨谅不悦，内心焦躁不已。
当时，隋文帝灵柩和百官尚在仁寿宫，京城守备空虚。杨广知道五弟杨谅有野心，为防手握重兵的杨谅作乱，杨广命郭衍驰还京师，统领兵马据守。同时，又派遣车骑将军屈突通持印有皇帝玉玺的诏书召杨谅进京，假传杨坚圣旨，企图调虎离山，哄骗杨谅入京后加以软禁。
但是，隋炀帝万万没料到，父皇此前为预防变故，曾与杨谅密约：“若玺书召你，敕字旁另加一点，还要与玉麟符相符合，方可应召。”
所谓“符”，乃是兵符，一半做成兽、鱼之形，分成左右两半，一半在将军，另一半在皇帝手中。皇帝调兵时派遣使者将手中半块兵符交与在外镇守的将军，两半兵符相合后将军才可受命，亦防假造诏书发兵叛乱。
史载，开皇七年，文帝颁布青龙符于东方总管、刺史，西方以白虎，南方以朱雀，北方以玄武。隋朝并州、扬州、益州三总管均由藩王出镇，管辖地域极广，又颁发专门的玉麟符，即刻有麒麟的玉质符信。
杨广称帝后，当然轻而易举地拿到半边玉麟符，可他无法知道父皇生前与杨谅之间的密约。待杨谅打开玺书，见敕字旁边无点，心知有变，就盘问屈突通，屈突通闪烁其词，杨谅放他回京，自己不赴京。
杨谅通过假诏书得知父皇离世，二哥对自己起了歹心，他不愿坐以待毙，遂发兵造反。按理说，杨谅的兵力远远超过刚刚登基的二哥杨广，据历史记载。杨广称帝后，能临时动员到的兵力仅有几万人。而杨谅总管山东北齐境内五十二州军事，拥有重兵三十万人，且 图谋不轨已久，准备充分，若调兵遣将得当，鼓行而西，则有可能迅速攻下大兴城，以武力夺取帝位。而胜负之关键就在于杨谅能否驾驭好部下。
起兵伊始，王頍就为杨谅出谋划策道：“大王手下将领士卒的家属，尽在关西（函谷关以西），若用此等人，即宜长驱直入，直捣京都，即所谓迅雷不及掩耳。若仅欲割据旧齐之地，宜任用关东人。”
这个王頍指明两条路，让杨谅挑选：一条路是夺权称帝，另一条路是割据旧齐之地，割据称王，与朝廷分庭抗礼。
然而，杨谅并非优秀的统帅，虽然早有预谋造反，但是直到起兵后仍不清楚该如何打仗。若直接进攻京城，自己心里没有底气；若割据北齐旧地，又与自己起兵的初衷不符。就这样，杨谅踌躇不定。
眼看汉王拿不定主意，大军不知该何去何从。总管府兵曹裴文安劝说杨谅道：“井陉以西，尽在大王掌握之内，山东（太行山以东）士马，亦为大王所有，宜全部动员。分遣弱兵，屯守要路，仍令将领随时攻城略地。然后率领精锐，直入蒲津关（山西永济西黄河渡口）。文安请为前锋，大王率大军继后，风行电击，挺进霸上（今西安东灞河畔），咸阳以东可指麾而定（直意为举旗一指，局势可定。）。彼时，京师被震动惊扰，兵马无暇集结，上下互相猜疑，人心离散。我等立即陈兵以待，发号施令，谁敢不从！十日之内，大事可定矣。”
裴文安的意思是：我方实力非常强，可以两方面兼顾：一方面，可以安排一些老弱病残，非主力部队，在山东地区扼守要害，顺便也攻城略地；另一方面，把主要兵力用在向西突破上，即向京城方向挺进，而且裴文安愿意作为向西挺进的先锋。裴文安的意见非常务实，兼顾夺权和割据，但核心意思还是要夺权，还有具体可行的方案。
杨谅闻言大悦。他缺乏决断力，犹豫不决，无法定夺用何种计策，便考虑兼用两种策略。