祎又使人告东都越王侗与樊子盖等勒兵为备，修武民相帅守临清关。玄感不得度，乃于汲郡南渡河，从之者如市。使弟积善将兵三千自偃师南缘洛水西入，玄挺自白司马坂逾邙山南入，玄感将三千馀人随其后，相去十里许，自称大军。其兵皆执单刀柳楯，无弓矢甲胄。东都遣河南令达奚善意将精兵五千人拒积善，将作监、河南赞治裴弘策将八千人拒玄挺。善意渡洛南，营于汉王寺；明日，积善兵至，不战自溃，铠仗皆为积善所取。弘策出至白司马坂，一战，败走，弃铠仗者太半，玄挺亦不追。弘策退三四里，收散兵，复结陈以待之；玄挺徐至，坐息良久，忽起击之，弘策又败，如是五战。丙辰，玄挺直抵太阳门，弘策将士馀骑驰入宫城，自馀无一人返者，皆归于玄感。
玄感屯上春门，每誓众曰：“我身为上柱国，家累钜万金，至于富贵，无所求也。今不顾灭族者，但为天下解倒悬之急耳！”众皆悦。父老争献牛酒，子弟诣军门请自效者，日以千数。
内史舍人韦福嗣，洸之兄子也，从军出拒玄感。为玄感所获；玄感厚礼之，使与其党胡师耽共掌文翰。玄感令福嗣为书遗樊子盖，数帝罪恶，云：“今欲废昏立明，愿勿拘小礼，自贻伊戚。”樊子盖新自外籓入为京官，东都旧官多慢之，至于部分军事，未甚承禀。裴弘策与子盖同班，前出讨贼失利，子盖更使出战，不肯行，子盖命引出斩之以徇。国子祭酒河东杨汪，小有不恭，子盖又将斩之；汪顿首流血，乃得免。于是将吏震肃，无敢仰视，令行禁止。玄感尽锐攻城，子盖随方拒守，玄感不能克。然达官子弟应募从军者，闻弘策死，皆不敢入城。韩擒虎子世咢、观王雄子恭道、虞世基子柔、来护儿子渊、裴蕴子爽、大理卿郑善果子俨、周罗睺子仲等四十馀人皆降于玄感，玄感悉以亲要重任委之。善果，译之兄子也。
玄感收兵得五万馀人，发五千守慈磵道，五千守伊阙道，遣韩世咢将三千人围荥阳，顾觉将五千人取虎牢。虎牢降，以觉为郑州刺史，镇虎牢。
代王侑使刑部尚书卫文升帅兵四万救东都，文升至华阴，掘杨素冢，焚其骸骨，示士卒以必死，遂鼓行出崤、渑，直趋东都城北。玄感逆拒之；文升且战且行，屯于金谷。
辽东城久不拔，帝遣造布囊百馀万口，满贮土，欲积为鱼梁大道，阔三十步，高与城齐，使战士登而攻之。又作八轮楼车，高出于城，夹鱼梁道，欲俯射城内，指期将攻，城内危蹙。会杨玄感反书至，帝大惧，引纳言苏威入帐中，谓曰：“此儿聪明，得无为患？”威曰：“夫识是非，审成败，乃谓之聪明，玄感粗疏，必无所虑。但恐因此浸成乱阶耳。”帝又闻达官子弟皆在玄感所，益忧之。兵部侍郎斛斯政素与玄感善，玄感之反，政与之通谋，玄纵兄弟亡归，政潜遣之。帝将穷治玄纵等党与，政内不自安，戊辰，亡奔高丽。庚午，夜二更，帝密召诸将，使引军还，军资、器械、攻具，积如丘山，营垒、帐幕、案堵不动，皆弃之而去。众心忷惧，无复部分，诸道分散。高丽即时觉之，然不敢出，但于城内鼓噪。至来日午时，方渐出外，四远觇侦，犹疑隋军诈之。经二日，乃出数千兵追蹑，畏隋军之众，不敢逼，常相去八九十里，将至辽水，知御营毕渡，乃敢逼后军。时后军犹数万人，高丽随而抄击，最后羸弱数千人为所杀略。
初，帝再征高丽，复问太史令庚质曰：“今段何如？”对曰：“臣实愚迷，犹执前见，陛下若亲动万乘，劳费实多。”帝怒曰：“我自行犹不克，直遣人去，安得有功！”及还，谓质曰：“卿前不欲我行，当为此耳。玄感其有成乎？”质曰：“玄感地势虽隆，素非人望，因百姓之劳，冀幸成功。今天下一家，未易可动。”
帝遣虎贲郎将陈棱攻元务本于黎阳，又遣左翊卫大将军宇文述、左候卫将军屈突通乘传发兵以讨玄感。来护儿至东莱，闻玄感围东都，召诸将议旋军救之。诸将咸以无敕，不宜擅还，固执不从，护儿厉声曰：“洛阳被围，心腹之疾；高丽逆命，犹疥癣耳。公家之事，知无不为，专擅在吾，不关诸人，有沮议者，军法从事！”即日回军。令子弘、整驰驿奏闻。帝时还至涿郡，已敕护儿救东都，见弘、整，甚悦，赐护儿玺书曰：“公旋师之时，是朕敕公之日，君臣意合，远同符契。”
先是，右武候大将军李子雄坐事除名，令从军自效，从来护儿在东莱，帝疑之，诏锁子雄至行在所。子雄杀使者，逃奔玄感。卫文升以步骑二万渡瀍水，与玄感战，玄感屡破之。玄感每战，身先士卒，所向摧陷，又善抚悦其下，皆乐为致死，由是每战多捷，众益盛，至十万人。文升众寡不敌，死伤太半且尽，乃更进屯邙山之阳，与玄感决战，一日十馀合。会杨玄挺中流矢死，玄感军乃稍却。
秋，七月，癸未，馀杭民刘元进起兵以应玄感。元进手长尺馀，臂垂过膝，自以相表非常，阴有异志。会帝再发三吴征高丽，三吴兵皆相谓曰：“往岁天下全盛，吾辈父兄征高丽者犹太半不返；今已罢弊，复为此行，吾属无遗类矣！”由是多亡命。郡县捕之急，闻元进举兵，亡命者云集，旬月间，众至数万。
始，杨玄感至东都，自谓天下响应，功在朝夕。得韦福嗣，委以心膂，不复专任李密。福嗣每画策，皆持两端；密揣知其意，谓玄感曰：“福嗣元非同盟，实怀观望；明公初起大事而奸人在侧，听其是非，必为所误，请斩之！”玄感曰：“何至于此！”密退，谓所亲曰：“楚公好反而不欲胜，吾属今为虏矣！”
李子雄劝玄感速称尊号，玄感以问密，密曰：“昔陈胜自欲称王，张耳谏而被外；魏武将求九锡，荀彧止而见诛。今者密欲正言，还恐追踪二子；阿谀顺意，又非密之本图。何者？兵起以来，虽复频捷，至于郡县，未有从者；东都守御尚强，天下救兵益至，公当挺身力战，早定关中，乃亟欲自尊，何示人不广也！”玄感笑而止。
屈突通引兵屯河阳，宇文述继之，玄感问计于李子雄，子雄曰：“通晓习兵事，若一得渡河，则胜负难决，不如分兵拒之。通不能济，则樊、卫失援。”玄感然之，将拒通；樊子盖知其谋，数击其营，玄感不得往。通济河，军于破陵。玄感分为二军，西抗文升，东拒通。子盖复出兵大战，玄感军屡败，与其党谋之，李子雄曰：“东都援军益至，我军数败，不可久留，不如直入关中，开永丰仓以振贫乏，三辅可指麾而定，据有府库，东面而争天下，亦霸王之业也。”李密曰：“弘化留守元弘嗣握强兵在陇右，可声言其反，遣使迎公，因此入关，可以绐众。”
会华阴诸杨请为向导，壬辰，玄感解东都围，引兵西趣潼关，宣言：“我已破东都，取关西矣！”宇文述等诸军蹑之。至弘农宫，父老遮说玄感曰：“宫城空虚，又多积粟，攻之易下。”玄感以为然。弘农太守蔡王智积谓官属曰：“玄感闻大军将至，欲西图关中，若成其计，则难克也；当以计縻之，使不得进，不出一旬，可以成擒。”及玄感军至城下，智积登陴詈之；玄感怒，留攻之。李密谏曰：“公今诈众西入，军事贵速，况乃追兵将至，安可稽留！若前不得据关，退无所守，大众一散，何以自全！”玄感不从，遂攻之，烧其城门，智积于内益火，玄感兵不得入。三日不拔，乃引而西。至閺乡，宇文述、卫文昇、来护儿、屈突通等军追及于皇天原。玄感上槃豆，布陈亘五十里，且战且行，玄感一日三败。八月，壬寅，玄感陈于董杜原，诸军击之，玄感大败，独与十馀骑奔上洛。追骑至，玄感叱之，皆反走。至葭芦戍，独与弟积善徒步走，自度不免，谓积善曰：“我不能受人戮辱，汝可杀我！”积善抽刀斫杀之，因自刺，不死，为追兵所执，与玄感首俱送行在所。磔玄感尸于东都市，三日，复脔而焚之。玄感弟玄奖为义阳太守，将赴玄感，为郡丞周旋玉所杀；仁行为朝请大夫，伏诛于长安。