隋朝末年，天下纷争，四方扰攘。二世祖隋炀帝一系列不得人心的举措以及好大喜功远征高丽的行动，让百姓苦不堪言揭竿而起。其中就有一支被当时人看好并信赖的的反隋力量，不是陇西的李氏政权，而是河北故城窦建德。
窦建德出身于河北农家，稍有资产，在那个乱世中，些许家产也仅够温饱而已。但是窦建德生性淳朴，乐于助人，在当地民间具有很高的威望。有一次，窦建德正在驱牛种地，同乡中一位乡亲去世，死者家属因为没有钱置办棺椁和白事而哭泣。窦建德观看良久心中不忍，将自己的耕牛送给死者家属，让他们变卖后安葬死者。在未发迹之前，窦建德经常接济乡里，维护本乡治安，曾亲手杀死入室强盗五人。百姓们都信任他，爱戴他，在他的父亲去世时，自愿前来参加老爷子葬礼的百姓达一千多人。可见他声望之隆。
隋炀帝第二次征伐棒子国期间，窦建德因为朝廷腐败，昏聩的县令因为窦建德所在的本乡治安较好而怀疑他与盗贼联络，从而屠杀了窦建德一家老小。再加上普遍的百姓饥荒，赤地千里民不聊生，窦建德便与孙安祖一同投身于反隋浪潮中。
