De voormalige kapel op de top van de Waldstein werd gebouwd op hetzelfde moment als de Ostburg. Het was versierd met kleine wandschilderijen en gebrandschilderde glazen, en huisvestte een altaar en een heilige kamer ("Heiligster-Kammer"). Na de bouw van de Westburg werd de Ostburg niet verlaten, maar werd nog steeds 200 jaar later onderhouden door de stad Weißenstadt. Er werden er zelfs een aantal kerkelijke feesten van een of andere aard gehouden. De kapel werd waarschijnlijk pas in 1430 tijdens de Hussitische Oorlogen verwoest.
Ik weet het. Tijdens zijn opgravingen in de jaren zestig vond Karl Dietel onder de vele stenen-tijdwerktuigen een zogenaamde votive koe ("Votivrind"). Men gelooft nu dat deze koe aan God werd geofferd om koeien te beschermen. Deze hypothese wordt ondersteund door het feit dat de kerk was gewijd aan de heilige Wolfgang, de beschermheer van het vee. Interessant was ook de ontdekking van vier graven. Een van hen was leeg, maar in de andere vonden ze de skeletten van een man, een vrouw en een kind. Een van hen had de sporen van een scherp voorwerp boven het bekkenbeen en de benen waren weg. Dietel vermoedde dat de skeletten waren ontdekt tijdens de bouw van een uitbreiding van de kapel en de lichamen werden verplaatst en begraven in de buurt.