Kui Alfons Rebaseni jõudis uudis temale Rüütliristi annetamisest, ütles Rebane: "Aasta tagasi ei olnud meiesugustele lubatud anda isegi II klassi Raudristi, anti mingi Idarist, nüüd aga võib isegi rüütliks saada."    Peale raskeid lahinguid Venemaal, toodi pataljon Eestisse ja liideti vastu isikkoosseisu tahtmist formeeritava 20. Eesti SS-vabatahtlike diviisiga. Märtsi algul osales Rebane veel oma pataljoniga võitlustes Krivasoos, kust murdis välja piiramisrõngast. Ta ise komandeeriti märtsis piirikaitserügementide taktikaliseks nõuandjaks, mais aga  määrati õppebrigaadi "Nord" Eesti ohvitseride kooli juurde.    Juunikuus 1944 sai Rebasest 47. SS-vabatahtlike rügemendi 2. pataljoni ülem. Pataljoniga taandus ta üsna edukalt Narva jõelt Tannenbergi liinile Sinimägedes. Suve lõpul suunati Rebane koos pataljoni ja formeeritud omanimelise võitlusgrupiga Lõuna-Eestisse. Punaarmee rünnaku tulemusena septembris jäi Rebane koos oma võitlusgrupiga Emajõe ääres piiramisrõngasse, kuid suutis sellest välja murda. 24. septembril ületas ta oma järele jäänud  meestega Eesti-Läti piiri. Edasi koondati alles jäänud Eesti ükused Ülem-Sileesiasse Neuhammer´isse, kus Rebane määrati 46. relvagrenaderide SS-rügemendi ülemaks. Vahepeal ülendati ta ka SS-Obersturmbannführeriks. Jaanuaris suunati Eesti diviis rindele Oppelni alla. Märtsiks oli kogu kohapealne Saksa korpus jäänud piiramisrõngasse. Diviisil õnnestus piiramisrõngast välja murda. Väljamurdmise käigus sai surma aga diviisiülem brigf Augsberger, keda Rebane lühiajaliselt asendas. Peale piiramisrõngast väljatulekut  pidi ta aga uuesti piiramisrõnga sisse tagasi minema, et tuua välja sinna sisse jäänud korpuse juhtkond, mis ka õnnestus. Selle eest esitas korpuse ülem kindral Koch-Erlach ostuf Rebase tammelehtedega Rüütliristi saamiseks. Märtsis ülendati ta SS-Standartenführeriks. Peale lahinguid koondati diviis Balkenheim´i täiendamisele. Aprillis oldi jälle rindel - Schönau rajoonis. 9. mail autasustati Rebast Raudristi Rüütlirisrtiga tammelehtedega. Peale sõja lõppu õnnestus staf Rebasel jõuda lääneliitlasteni ja end vangi anda. Läände oli õnnestunud jõuda ka tema perekonnal.