Their name was chosen after they bought a distortion pedal for their guitars and Maggie Dunne stated "We've got a fuzzbox and we're gonna use it!".
Der Name der Band entstand, nachdem deren Mitglieder ein Effektgerät für ihre Gitarren (Fuzzbox) gekauft hatten und Maggie Dunne ausrief "We've Got a Fuzzbox and We're Gonna Use It".