年2月23日にヨハニスは国民自由党の第一副議長に選出された。当時、同党は社会民主党(PNL)と連立し、政権与党であった。2014年2月始め、PNLはヨハニスに内務大臣と副首相のポストを打診したが、ヴィクトル・ポンタ首相は2014年2月7日にこれを拒否した。連立与党内で紛糾し、その2週間後、2014年2月25日には国民自由党の大臣が辞任し、こうして連立政権が崩壊した[15]。2014年の欧州選挙の後、当初ヨハニスは暫定的にPNLを率いたが[16]、2014年6月28日の臨時党大会で議長に選出された[17]。ヴァシレ・ブラガ(ドイツ語版)民主自由党(PDL)議長とヨハニスは会合を持ち、二党の迅速な合併と両党議員が欧州議会内のキリスト教民主主義の欧州人民党グループに参加することを取り決めた。