，前线部队不战自乱。再说，要跟隋炀帝争夺天下，不争首都争哪？
杨玄感认为就近攻打洛阳为上策，于是率军去攻打洛阳。
洛阳外围战，杨玄感打得很顺利。军民听说杨玄感是为了拯救黎民百姓，纷纷投奔杨玄感或贡献牛羊。杨玄感的军队上升到十万人。
但是杨玄感的军队虽多，“其兵皆执单刀柳楯，无弓矢甲胄”，战斗力不强，打洛阳久攻不下。
西京长安派兵救援洛阳。杨玄感不得不分兵来战，洛阳更加难以攻克。
隋炀帝得知杨玄感造反放弃北伐高丽，连装备、军资都不要了，迅速赶回洛阳。
隋炀帝回来了，杨玄感再无取胜的机会，只能弃城而走。他想去关中，但为时已晚。隋军紧追不舍。杨玄感且战且走，部队越来越少，还没到潼关就已被隋军全歼。杨玄感不愿受辱自杀身亡。
隋炀帝严惩杨玄感的追随者以儆效尤，杀了三万人，流放六千人。杨玄感在攻打洛阳时曾开仓放粮赈济百姓。凡接受杨玄感赈济的百姓都被视为杨玄感的同伙。隋炀帝下令坑杀，也就是活埋了。
杨玄感的亲戚包括姻亲，以及朝中跟杨玄感关系亲密的官员，都被视为杨玄感一党。隋炀帝下令深挖严打