थाने के पास स्थित इस मंदिर की किवदंतियों के अनुसार द्वापर युग में पांडव अज्ञातवास के दौरान कुल गुरु धौम्य ऋषि एवं राजा युधिष्ठिर तथा द्रोपदी के साथ यहां आए थे और मां का पूजन-अर्चन कर आशीर्वाद लिया था।
एक अन्य कथा के अनुसार लगभग चार सौ वर्ष पहले अघोरेश्वर बाबा कीनाराम की विनती और पूजा से प्रसन्न होकर मां भगवती कष्टहरणी ने स्वयं कीनाराम को प्रसाद प्रदान कर पहली सिद्धि से परिपूर्ण किया था। श्री राम- लक्ष्मण तथा विश्वामित्र ने बक्सर जाते समय यहां विश्राम किया था।
