2004 m. "Olympiacos" vėl pasamdė Dušaną Bajević ir pasirašė sutartį su 1999 m. metų pasaulio futbolo žaidėju ir 2002 m. pasaulio čempionu, Brazilijos superžvaigždė Rivaldo ir 2004 m. Europos čempionu
Antonis Nikopolidis. Sezono pabaigoje "Olympiacos" laimėjo vidaus dvigubą ir turėjo gerą Čempionų lygos pasirodymą, surinko dešimt taškų sunkioje grupėje kartu su "Liverpool", "Monaco" ir "Deportivo de La Coruña" ir pralaimėjo kvalifikaciją į nokauto etapą per paskutines keturias paskutinio žaidimo minutes prieš galutinį Europos čempioną "Liverpool" "Anfield". Bajevičius paliko klubą, o jo vietoje buvo įdarbintas norvegas Trondas Solliedas. Jie pasirašė Kipro užpuoliką Michalis Konstantinou iš Panathinaikos, 2004 m. Europos čempiono gynėją Michalis Kapsis iš Bordo ir įvairiapusį Dramblio Kaulo Krante žaidžiantį vidurinį žaidėją Yaya Touré. 2005-2006 m. Sezono metu "Olympiacos" laimėjo visus keturis derby'us prieš savo pagrindinius varžovus "Panathinaikos" ir "AEK Athens". Tai buvo pasiekta tik vieną kartą, 1972-1973 m. Sezono metu. Šių keturių rungtynių bendras taškų skaičius buvo 11 prieš 3 "Olympiacos" naudai. Jie taip pat įveikė AEK Atėnus 3<unk>0 Graikijos taurės finalėje, užsitikrinę antrą iš eilės duoblį ir sugebėjo laimėti visų laikų rekordą - 16 iš eilės rungtynių čempionate, pažeisdami savo praeities rekordą.