Pe 4 martie 1804, Corpul din New South Wales a fost chemat în acţiune pentru a pune capăt rebeliunii condamnaţilor de la Castle Hill.
- Da, domnule. Cunoscută și sub numele de "Rebeliunea irlandeză" și uneori a doua "Bătălie de la Vinegar Hill", referindu-se la revolta care a avut loc în Irlanda în timpul Revoltei irlandeze din 1798, a fost o rebeliune împotriva autorității coloniale britanice care a avut loc atunci când condamnații irlandezi, conduși de Phillip Cunningham și William Johnson, împreună cu multe sute de condamnați au luat în arme la Castle Hill și au mers spre Parramatta, așteptând sprijinul a 1100 de condamnați din așezarea de la Green Hills, astăzi Hawkesbury. Ca răspuns, a fost declarată legea marțială, iar un detașament de 56 de oameni din New South Wales Corps, sub comanda maiorului George Johnston, a mărșăluit toată noaptea spre Parramatta și apoi i-a urmărit pe rebeli până în apropierea suburbiei Rouse Hill din Sydney, unde s-au luptat cu forța principală a rebelilor, formată din aproximativ 230 până la 260 de oameni. A urmat un schimb de focuri între soldații bine instruiți și înarmați și deținuții după care rebelii s-au dispersat. În următoarele zile, când fugarii au fost urmăriți, cel puțin 15 rebeli au fost uciși și șase au fost răniți, în timp ce alți 26 au fost capturați, potrivit înregistrărilor oficiale. Nouă rebeli au fost apoi spânzuraţi.