Alexander gekk í Central High School og útskrifaðist 1917. Hann flutti ræðu "Framtíð amerískra negra" á útskriftarathöfninni. Hann skráði sig í háskólann í Pennsylvaníu með verðlaunamenningu og varð fyrsti svarti útskrifaður frá Wharton School of Business árið 1920. Hann skráði sig svo í Harvard-lögskóla. Þar vann Alexander sér til framfærslu með því að vinna sem aðstoðarkennari á skólaárinu. Á sumrin tók hann námskeið til meistaraprófs í stjórnmálafræði við Columbia háskóla, en lauk ekki námi. Í Columbia vann Alexander sem farþegi fyrir Delaware, Lackawanna og Western Railroad. Meðan hann var enn í lögfræðinámi, kærði Alexander fyrsta mismununarmál sitt, Madison Square Garden
fyrir ađ neita honum um inngöngu vegna kynūátta hans, brot á jafnréttislögum New York. Þar sem hann var ekki enn kominn í lögmannsstofu, réði Alexander lögmann til að vernda sig.