Na het seizoen 1960/62 keerde Gustavsson terug naar Zweden en trad hij toe tot de toenmalige tweede divisie-ploeg Åtvidabergs FF. In juni 1963 speelde hij zijn 57e en laatste wedstrijd voor Zweden in een kwalificatiewedstrijd voor de Europese Natiesbeker van 1964.
in Belgrado tegen Joegoslavië, die eindigde met een 0-0. Op clubniveau was hij vanaf 1964 speler-manager. Hij beëindigde zijn carrière als speler in 1965, maar bleef aan het roer van de Zuid-Zweedse club.