Pada bulan Maret 1804, beberapa ratus pengungsi Irlandia Bersatu di daerah Castle Hill (sekarang pinggiran kota Sydney) berkonspirasi untuk merebut kendali koloni dan untuk menangkap kapal untuk kembali ke Irlandia. Dengan persenjataan yang buruk, dan dengan pemimpin mereka Philip Cunningham ditangkap, tubuh utama pemberontak diserang dalam sebuah pertemuan loyalists - mengingat kekalahan pemberontak yang menentukan di Irlandia pada tahun 1798 - dirayakan sebagai Pertempuran Kedua Vinegar Hill.
Lima belas tewas dan sembilan dieksekusi.