第二日，双方正式展开酸枣城攻防战。
杨玄感军从四面进攻，主攻西城门，由于酸枣城小，所以守军没有太过分散，李隐带着亲卫队四处走动，沉着调度。
泼滚水、扔落石、放滚木，守军一开始还有些慌乱，但过了一会后，便慢慢变得熟练了。
由于杨玄感军除了简陋的云梯外，和刚造出来的四辆撞城车外，再没有其他攻城器械，加上他们基本没什么攻城经验，所以酸枣守军，打得还算轻松，一个多时辰后，杨玄感军已死伤八百多人，但登上城墙的却没几个。
“楚公，离开这个酸枣小城，去攻都城洛阳吧！”第一轮进攻无果后，李密再次向杨玄感劝道。
“如果连这个小小的酸枣城我们都攻不，又谈何攻东都洛阳！”杨玄感双眼通红的道。
李密继续劝道：“这怎么能相提并论？一路收民而行，以楚公的威望，到了洛阳附近时定有十万之众，到时再收罗兵甲器械，大事可谓，但是如果在这酸枣城多待一日，我等的希望就会减少一分啊！”
在李密几近哭泣的劝说下，杨玄感继续攻城决心有些动摇了，但最后还是说道：“此时就这么灰溜溜的离开酸枣，只怕会被天下人嗤笑，撤退之事，不要再提了。”
随后，杨玄感一面命人制造大型的攻城器械，一面再次指挥军队对酸枣城发起第二次进攻。
县令崔文轩本已弄好包裹行李，时刻准备着带他的夫人和五个小妾逃命，当这天天色将暗的时候，崔文轩见街道上巡逻的还是自己的人，知道酸枣城算是暂时守住了，不由的大松了一口气，这才出府组织人犒劳军队去了。
经过一天的攻防，杨玄感军在酸枣城下损失了近三千人，而李隐军仅仅伤亡三百余人，战损比为一比十。
虽然损失了不少人，但杨玄感还是打算明日继续攻城，促使他继续攻城的原因有两个，一是经过昼夜不停的赶工制作，他们现在已造出了一台攻城塔和、五台投石车十几架的云梯，二是有一伙五千人的贼寇慕名前来投奔他，使得他的兵力反而比开打前多了两千人，这让他信心倍增。
然而李密却因为大军在这无谓的酸枣城停留了两天之事，对杨玄感有些死心了，产生了“竖子不足以与之谋”的感觉，想要立即离开，但又不甘心就这么放弃一展抱负的机会，使得心情很是郁闷。
“或许，只有我自己取得兵权，才能够真正施展心中的抱负吧！”李密看着广阔无垠的夜空，忽然如此想到。
此时夜已深了，李密正准备会营帐休息，却猛然见到营寨的西侧一阵火光冲天并隐隐有喊杀声传来。
李密愣了一下，“那位置，似乎是攻城器械的地方。”李密随即不悲反喜，“这把火烧得好啊！”
杨玄感这时却气急败坏的向人喊道：“发生了什么事？快派人去救火！”
过了一会，杨玄感才知道，原来是酸枣城中的士兵不知几时出了城，放火烧了他报以重望的攻城器械，火势很大，当扑灭是，那些器械只剩下一点灰烬了，连制作器械的木材等物也一起被烧了个精光。
杨玄感看到这个情形后，气得吐出了一口老血，“敌军抓到没有？”
“我……我们发现的时候，敌军已经往城里跑去了……”看管器械的将领颤颤答道。
“来人，给我拉出去斩了！”
“楚公饶命，楚公饶命啊！”
……
李隐带着人马平安无事的返回酸枣城后，喊了一声：“各自回营休息！”
“谨遵将领！”众将士答了一声，有条不紊的离开了，李隐也随即回到了自己在的住处。
守城之战，一味的防守是不符合兵理的，善守者必然要善于寻找最恰当的时机出城侵扰敌军，因为这既能提升己军士气，又能打击敌军的士气。
李隐今晚的突然出击，一把火烧了敌军的全部攻城器械，只是小试牛刀罢了，他打算明晚再次出击，偷袭杨玄感的中军！
不过李隐这个打算很快就落空了，因为当第二天早上的时候，探子来报，杨玄感军竟在天刚蒙蒙亮的时候，开拔离开酸枣城了。
“李郎将，我们要追击敌军吗？”县尉刘通眼神炙热的向李隐询问道。
杨玄感叛乱，天下震动，酸枣县能成功拖住他们两日，已是大功一件，要是趁胜追击，击败杨玄感，那这功劳可就大得去了，到时他刘通肯定也能沾光升个大官。
但是李隐却摇了摇头，“敌军虽退，但士气仍在，且退而有序，不宜追击。”
刘通听后，感到十分的失望。
李隐拍了拍刘通的肩膀，笑道：“刘县尉放心，我们还会与杨玄感交手的。”
……
杨玄感终究还是灰溜溜的率领军队离开了酸枣地界，他虽然恨不得继续攻下酸枣城，将李隐千刀万剐，但仅存的理智告诉他，不能再继续耗在酸枣城了。
好不容易做好的大型攻城器械被烧，重新制造至少也要一天多的时间，再继续围攻酸枣，又得花费个三四天，到那时候，杨广说不定已得知消息，开始率领大军从辽东返回了，留给他的时间已十分紧迫了。
所以，在李密等人的苦劝之下，杨玄感这才心怀不甘的下达了撤退的命令。
杨玄感军离开酸枣县后，一路向西而行，经过原武、荥泽两个大县时，这两县的县令均是杨素当年的门生故吏，与杨家私交甚厚，故而都为杨玄感打开了城门。
杨玄感不仅从这两县补足了军娘，还得了许多兵器、收纳了五千多流民，使得全军在酸枣城下的阴霾情绪一扫而空。
随后，杨玄感率军绕过防守严密的荥阳郡郡城荥阳城，继续向洛阳进军，最后到达了洛水之北的偃师（河南今县），派他四弟杨积善率兵三千从偃师以南沿着洛水从西面进军；再派三弟杨玄挺率军四千五人，准备从白司马坂越过邙山从南面进，而杨玄感自己则率领剩余的一万多人，跟随其后，相隔约十余里，自称大军十万。