刘黑闼失望之余，打算拉着这百八十人单干，占据了聊城西部的一座小山，当起了山大王。这时宇文父子兵进山东，所过之处烧杀掠抢，无恶不作，百姓纷纷逃亡，上山入伙者络绎不绝。刘黑闼的喽啰兵迅速扩充至三百人。刘黑闼非常高兴，带着这三百人每天操练兵马，如果山下有过往的客商、达官贵人等，他们自然不会放过，尤其是军队路过时，刘黑闼是非劫不可。

当宇文父子的先锋营路过刘黑闼的地盘时，双方交恶。

刘黑闼连败宇文化及的兵马，五千马的先锋营在此受阻。后来终因寡不敌众被困于一小山丘上，但是面对数十倍于自己的敌人，刘黑闼临危不惧，采用疑兵之计，巧布机关，几千人马攻了数次硬是拿不下来，还损兵折将。

这时宇文父子的数万大军开到，以碾压性优势包围并攻下了小山丘，刘黑闼的三百部众几乎全都战死，刘黑闼大战宇文成都，四十余合不分胜负，后终因寡不敌众被擒。宇文化及看其骁勇，不但没杀他，封他为万人长。

刘黑闼对这个万人长还算满意，但因看不起宇文父子，得知他的同乡好友窦建德称雄河北，自立为夏明王后，刘黑闼便打定了注意。数日后刘黑闼离开宇文父子，逃到河北窦建德的大营，窦建德大喜，知道其骁勇，当即封其为大将。

刘黑闼跪倒谢恩，但从其余众将的眼神里，刘黑闼读出了轻蔑和不屑。

为了证明自己不比别的大将差，刘黑闼自告奋勇仅带五千兵马驻守冀州南部的魏郡小城。魏郡对夏明王来说，是边陲小镇，也是用兵重镇。

刘黑闼急需一场战争来展示自己价值和意义，因此屡次请令对杨勇用兵，攻取黎阳，谋取中原。但窦建德却犹豫不决，用兵的计划一再搁浅。原因是，虽然窦建德早就想逐鹿中原，但他刚刚自立为夏明王，四周割据势力中除宇文化及明确表示支持他外，当然这是有目的的，其余的诸侯全都反对他。

北面的幽燕王罗艺虎视眈眈，在河北和幽燕边境，两军摩擦不断。西面是太原留守李渊，挟天子以令诸侯，给他下旨，要求取消“夏明王”的旗号，归顺朝庭，接受招安，和他一块平灭各路反贼，重振大隋。

窦建德当然知道李渊是在扯虎皮作大旗，借一个已亡国的小皇帝来扩大自己的影响。但窦建德更清楚，李渊言外之意，如果自己不答应，李渊就可以以隋恭帝杨侑的名义号令天下诸侯，讨伐自己，名正言顺。而且当时的李渊击败了实力雄厚的刘武周，将其赶到了雁门关外。李渊野心勃勃，大有挥师东进之势。

另一方面，窦建德最忌讳的莫过于南面的杨勇。虽然他知道，尽管自己与杨勇迟早有一战，但现在的杨勇，在周边的诸侯割据势力中，无疑实力是最强的，因为他不止是地盘大，战据了陕西和河南，短短一年内，将那么厉害的洛阳王王世充和瓦岗寨的李密全都打趴下了，这就是实力展示，天下为之震动。因此，当时的窦建德思前想后，权衡利弊，还不想与杨勇抓破脸。

但很快形势发生了变化，杨勇举大兵四十多万攻伐山东的宇文父子，宇文父子作为窦建德的战略伙伴和天然屏障，却一败再败，宇文成都也阵亡了。这表明，宇文化乃根本不是杨勇的对手，唇亡齿寒，在宇文化及向他割让德州、滨州两郡及所属十几个郡县的条件下，窦建德就与手下谋士范愿、刘雅、高雅贤等商议进兵攻伐杨勇之事。

这时好消息接连传来，李秀宁出奇兵攻下了潼关，向杨勇开战；李渊与西边的李轨和薛家父子又干上了；而北面的幽燕王罗艺与不甘失败的突厥又争斗起来。

窦建德大喜过望，杨勇两面用兵，中原空虚，是本王大干一场的时候了！于是决定，兵分两路，对杨勇用兵！