刘曜与石勒交战的时候，呼延谟奉令部率荆州、司州的军队，从崤山、渑池一带向东方行军，与前赵另一将领刘岳遥为呼应。然而刘、呼二人相继败于石虎之手，呼延谟更于阵上被石虎所杀。
《晋书‧列女传》提及一名居于陕县之妇人，性格贞烈，服事叔姑既孝且谨，但却被叔父之女诬告杀害叔姑，受冤而死。其怨气令尸骸不腐、当地多年没有下雨。后来刘曜命呼延谟担任当地太守，呼延谟知道此事后，处决诬告贞妇的女人，为贞妇雪冤，又设祭其墓，追谥“孝烈贞妇”，陕县一带才再次下雨。
