פול גרציק נולד בלינדנהוף, ליד לוטזן שבמזרח פרוסיה (פולין המודרנית), השלישי מבין שישה ילדים של פועל חווה. אביו נפל בימים הראשונים של מלחמת העולם השנייה. בתחילת 1945 הוא, אמו ואחיו נמלטו מערבה
בעגלה של שוורים, שהסתיימה בשונברג במקלנבורג, במה שהפך למזרח גרמניה. לאחר סיום החינוך החובה הוא עוסק בתרגל נגרות מ-1952 עד 1954, ולאחר מכן עשה עבודות ידניות ברורה, בברלין, בוואימר, ולאחר מכן במכרה הפחם החום הפתוח ב-Schlabendorf ב-Lausitz. בברלין הוא ניסה להשלים את ה-Abitur שלו בשיעורי ערב.