প্ৰবাদ অনুসৰি 'মধু' আৰু 'কৈতৱ' নামৰ দুটা অসুৰে বেদৰ সৃষ্টিৰ সময়ত ব্ৰহ্মাৰ পৰা সেইসমূহ চুৰ কৰি নিয়ে। ব্ৰহ্মাই বিষ্ণুক টোপনিৰপৰা জগাই বেদ উদ্ধাৰৰ বাবে অনুৰোধ কৰে। তেতিয়া বিষ্ণুৱে 'হয়গ্ৰীৱ'ৰ ৰূপ ধাৰণ কৰি ৰসাতললৈ যায় আৰু বেদসমূহ উদ্ধাৰ কৰি আনি ব্ৰহ্মাক দিয়ে। ইয়াৰ পিছত বিষ্ণুৱে উত্তৰ-পূবলৈ আহি হয়গ্ৰীৱ ৰূপতে শুই পৰে। মধু আৰু কৈতৱ ঘূৰি আহি বিষ্ণুক যুদ্ধলৈ মাতে। সেই যুদ্ধত বিষ্ণুৱে অসুৰ দুজনক পৰাস্ত কৰি প্ৰাণনাশ কৰে।

কালিকা পুৰাণ মতে এই তীৰ্থস্থানৰ প্ৰতিষ্ঠাতা ঔৰ্বঋষি। ভগৱান বিষ্ণুৱে ঔৰ্বঋষিৰ তপস্যা ভঙ্গকাৰী জ্ববাসুৰ, হয়াসুৰ আদি পাঁচজন অসুৰক বধ কৰি হয়গ্ৰীৱ মাধৱ নামৰ এই পৰ্বতত অৱস্থান কৰি আছে।

কিংবদন্তি
ইতিহাস
উপাসনা
গঠন