Naujosios Pietų Velso kolonijoje nuo 1801 m. iki 1834 m. valdė gubernatoriaus lengvojo arklio sargyba, kuri buvo laikoma "pirmuoju dieniniu kariniu vienetu Australijoje". Jis buvo įkurtas gubernatoriaus Philipo Gidley Kingo, pritraukdamas vyrus iš Naujosios Pietų Velso korpuso, britų garnizono kolonijoje. Įprastai jos sudarė iš vieno ar dviejų suboficerų ir šešių kareivių, kurie lydėjo gubernatorių ir vežė jo pranešimus į kolonijos postus. Nuo 1802 m. Gvardijos vyrai buvo paimti iš karaliaus atleidimų kalinių. Vyrai iš šio padalinio buvo dislokuoti kalinių maišto metu.
1804 m. ir Gvardijos kareivis padėjo sučiupti du sukilėlių lyderius.