Eftir að fyrri hljómsveit þeirra Mythology brotnaði upp árið 1968 reyndu gítarleikari Tony Iommi og trommuleikari Bill Ward að stofna þunga blús rokkhljómsveit í Aston, Birmingham. Þeir réðu Geezer Butler bassaleikara og Ozzy Osbourne söngvara, sem höfðu spilað saman í hljómsveit sem hét Rare Breed, en Osbourne hafði sett auglýsingu í staðbundinni tónlistarverslun: "Ozzy Needs Zig Gig <unk> has own PA". Nýja hópurinn var upphaflega kallaður Polka Tulk Blues Band, nafnið annaðhvort tekið af vörumerkja af talkum dufti eða indverskum / pakistanískum fatnaðarverslun; nákvæma uppruna er ruglað. The Polka Tulk Blues Band innihélt Jimmy Phillips, barndómsvinur Mythology, og saxafónistinn Alan "Aker" Clarke. Eftir að stytta niður nafn bandsins í Aston, Birmingham, sem spilaði saman í hljómsveit sem hét Rare Breed, skipuðu þeir aftur undir nafninu Geezer Butler
Black Sabbath