Rouse Hill és notable en la història australiana com el lloc de la batalla principal durant una rebel·lió de presoners irlandesos, coneguda com la rebel·lió de Castle Hill
o la "Segona Batalla de Vinegar Hill". El 4 de març de 1804, presoners irlandesos, inclosos presoners polítics transportats per participar en la rebel·lió irlandesa de 1798, van sortir de la granja del govern a Castle Hill, amb l'objectiu de prendre el control de la zona i capturar Parramatta. La revolta va ser aplastada per les autoritats militars a Rouse Hill l'endemà amb almenys quinze rebels morts durant la batalla. Nou dels líders rebels van ser executats i centenars van ser castigats. El lloc exacte de la batalla és incert, però es pot veure un monument amb una placa que commemora l'esdeveniment dins del cementiri de Castlebrook Lawn a Windsor Road a Kellyville Ridge.