先是在对战中被宋江、吴用等人打败，之后投靠青州知府，怎料御赐的宝马“踢雪乌骓”又被梁山的人设计盗走。他实在无法回去向朝廷交差，所以被逼上了梁山。呼延灼在梁山一百零八好汉中排第八位，武艺十分高强。因为水磨八棱钢鞭是他擅长的武器，所以其也被称为“双鞭呼延灼”。
呼延灼在上梁山之前是朝廷的官员，他在朝廷担任汝宁郡都统制一职。虽然职位不高，但也握有一定的兵权。当时梁山好汉越聚越多，梁山军队气焰越来越高涨，成功攻下了高唐州。朝廷内外很是恐慌，皇上催促满朝文武大臣赶快寻找能前去应战之人。
这时高俅向朝廷推荐了呼延灼。从这一点上来看，高俅其实是呼延灼的伯乐。皇上听从了高俅的建议，召见了呼延灼，打量了一番后发现此人果然相貌不凡，便赐给了他一匹好马，即“踢雪乌骓”。
之后他便带领军队前去与梁山军队交锋。他在陆地上设了“连环马”阵，又安排了“轰天雷”凌振在空中助阵。本以为万无一失，但先后被徐宁、宋江、晁盖等人找到了薄弱之处，因此战败。
之后他逃往青州，投奔青州知府。正当他准备卷土重来之际，宋江等人又设计偷走了他的宝马。要知道这可是皇上赐给他的，丢了宝马，他就算活着逃回去也要掉脑袋。所以在当时那样无奈的形势下，他只好投靠了梁山。后来在归顺朝廷之后，他被封为御营兵马指挥使。