Kiyomizu-dera werd gesticht in het begin van de Heian-periode. De tempel werd gesticht in 778 door Sakanoue no Tamuramaro, en de huidige gebouwen werden gebouwd in 1633, op bevel van de Tokugawa Iemitsu. Er is geen enkele spijker gebruikt in de hele structuur. Het ontleent zijn naam aan de waterval binnen het complex, die uit de nabijgelegen heuvels loopt. Kiyomizu betekent helder water, of zuiver water. Het was oorspronkelijk verbonden met de oude en invloedrijke Hossō-sekte uit Nara-tijd.
1965 jaar