Nii õlletehases töötamise  kui ajalooharrastuse juured ulatuvad juba tema vanaisa ja isani, Eduard oli kolmanda põlve õllevabrikant ja teist põlve muinasuurija. 1896. aastal ajaloohuviliste baltisakslaste loodud Pärnu muinasuurijate seltsi - tõsi, mitte just eriti aktiivne - liige oli Eduard Gustavi isa Arthur Bliebernicht, kes on muuhulgas muuseumi kogudesse annetanud mõningaid münte ja ajaloolisi esemeidki. Mineviku uurimise seisukohalt on aga ennekõike oluline see, et noor Bliebernicht võttis asja isast märksa tõsisemalt ja asutas  isikliku arheoloogiliste leidude kollektsiooni, kirjutades nende põhjal paar teadusartiklitki. Abi ja nõu sai ta Tartu ülikooli arheoloogiaprofessorilt Aarne Michaël Tallgrenilt.