Rúbial fæddist í Erandio í Biskaíu og var málmverktaki. Hann gekk til liðs við Unión General de Trabajadores (UGT) árið 1920 og Spænska Sósíalíska Verkalýðsflokknum (PSOE) árið 1922. Árið 1934 var hann handtekinn fyrir byltingarstarf á
Ástúrísk námsmannaverkfall árið 1934, sem hann var handtekinn í sjö mánuði á fangabát. Hann var síðan dæmdur til sjö ára fangelsisvistar fyrir uppreisn, en var fyrirgefinn eftir sigur Alþýðufritsins í kosningunum í Spáni árið 1936.