இக்கோயிலானது இயற்கையாக அமைந்த ஒரு குகையில் அமைந்துள்ளது. இதனாலேயே கவி என்ற முனொட்டு இறைவனின் பெயரின் முன்பு உள்ளது (இம்மாவட்ட வட்டாரவழக்கில் குகையை கவி என்பர்).  <MASK>யில் உள்ள சுயம்பு திருமேனிக்கு தற்காலத்தில் பெரிய அளவில் கோயில் அமைக்கப்பட்டுள்ளது. கருவறையைச் சுற்றி மண்டபம் அமைக்கப்பட்டுள்ளது. கருவறைக்கு முன்னதாக விநாயகர் அமைந்துள்ளார். கருவறையில் அருவுருவமான சுயம்பு திருமேனியின் பின்புறம் சென்றாய பெருமாளின் சிலை பிரதிட்டைச் செய்யப்பட்டுள்ளது.
கவிசென்றாய பெருமாள் கோயில்
காவேரிப்பட்டணத்தில் எர்ரஅள்ளி குகை கிருஷ்ணகிரி