所以，李密若想入关中，必先攻下东都洛阳，不将洛阳攻下，一切都无从谈起。
柴孝和听到李密拒绝了自己的建议后，感到有些失望，只好退而求其次的道：“既然大军不能西进，我请求潜行去窥伺官军的间隙，以便乘机进攻。”李密应允了。
柴孝和于是带着几十名骑兵到了陕县，山中的盗贼归附他的有一万余人。
对于攻打洛阳，李密早有定计，洛阳有民百万，每天所需的粮食都是一个天文数字，若断了洛阳的粮食，洛阳将不攻自破。
洛阳的只要粮食来源，一为洛口仓，现在已被李密占据，二则为回洛仓，现在仍在洛阳的控制之内，为洛阳的最后生命线，李密的下一步作战目标，便是攻占回洛仓，一举将洛阳的这条生命线切断！
四月十九日，李密派遣裴仁基、孟让率领二万余人袭击并攻取了回洛仓的东仓，烧毁了天津桥，纵兵大肆抢劫。
东都派兵出击，裴仁基等人被击败逃走，李密亲自率领部众屯驻于回洛仓。
当时东都还有兵力二十余万，士兵们昼夜不解铠甲，在城上敲击梆子巡逻。李密进攻洛阳附近的偃师、金墉要地，都未能攻克。二十四日，李密返回洛口。
这时的李密军队的兵势甚猛，常常攻入东都西苑与隋兵交战。不过这时为了攻占回洛仓，李密不小心被流箭射中肩膀，所以精神厌厌，躺在营中养伤。
洛阳是无法接受回洛仓丢掉的，没有回洛仓，他们全部都得饿死。
二十八日，越王杨侗派段达和庞玉等人乘夜出兵，在回洛仓西北列阵，因伤精神不足李密与裴仁基率兵出战，报有死志的段达等人人人奋战，大破李密军，杀伤大半人马，又重新夺回了洛口仓。
李密只好放弃回洛，奔往洛口，为李密筹划入关中示意的柴孝和，原本已收有万于部众，但那些部众在听到李密败退的消息后，就各自溃散了，柴孝和只好轻骑回到李密军中，李密入关中之事就这样变得遥遥无期了，也正因为这样，才让太原的李家有了可乘之机。