Jeho hráčská kariéra skončila v rakouském klubu Red Bull Salzburg, kde se pak stal trenérem rezervního týmu a nakonec asistentem manažera pod vedením manažera týmu Ricarda Monize. V lednu 2013 převzal Kovač reprezentaci Chorvatska do 21 let a v říjnu 2013 převzal reprezentaci Chorvatska po propuštění Igora Štimaca. Kovač vedl Chorvatsko na mistrovství světa 2014 FIFA, poté se stal hlavním trenérem Eintracht Frankfurtu v roce 2016, vyhrál finále DFB-Pokal 2018
s klubem. V Bayernu Kovač vyhrál domácí double v roce 2019 po silném závěru sezóny, ale později na podzim ztratil svou práci. V létě 2020 byl Kovač jmenován manažerem Monaka.