Hij eindigde zijn carrière als speler bij de Oostenrijkse club Red Bull Salzburg, waar hij vervolgens de niet-spelende rol van reserve-teamcoach nam en uiteindelijk assistent-manager werd onder teammanager Ricardo Moniz. In januari 2013 nam Kovač de leiding over het Kroatische nationale team onder de 21 jaar en in oktober 2013 nam hij de leiding over het Kroatische seniorenteam na het ontslag van Igor Štimac. Kovač leidde Kroatië bij het WK 2014, werd vervolgens hoofdcoach van Eintracht Frankfurt in 2016, en won de 2018 DFB-Pokal Finale.
met de club. Bij Bayern won Kovač het binnenlandse dubbel in 2019 na een sterk einde van het seizoen, maar verloor zijn baan later in hetzelfde najaar. In de zomer van 2020 werd Kovač benoemd tot manager van Monaco.