この年、私塾立命館を京都御所の邸内に開設。明治3年(1870年)12月3日、官費によりフランス留学のため、横浜より出航。ソルボンヌ大学で学ぶ。明治11年(1878年)12月19日、正三位の位階に復す。明治13年(1880年)10月21日、横浜へ帰航。明治14年(1881年)1月、明治法律学校の講師に招聘される。らと東洋自由新聞を創刊、社長に就任4月8日、明治天皇の内勅により東洋自由新聞社長を辞任11月24日、参事院議官補となり政府官僚として復帰。明治16年(1883年)12月24日、参事院議官に転任。明治17年(1884年)7月7日、華族令の施行により侯爵を受爵。明治18年(1885年)2月14日、駐オーストリア=ハンガリー帝国公使として赴任。明治19年(1886年)8月6日、法律取調委員を兼任。明治20年(1887年)6月4日、駐ドイツ帝国公使に異動。6月28日、駐ベルギー公使を兼任。明治24年(1891年)9月4日、帰国し、賞勲局総裁に就任。(総裁は伊藤博文)に就任。11月13日、貴族院副議長に就任。12月11日、従二位に昇叙。明治27年(1894年)5月10日、枢密顧問官及び賞勲局総裁を兼任。5月12日、貴族院副議長を辞す。10月3日、第2次伊藤内閣の文部大臣として入閣。6月21日、勲一等瑞宝章を受章。5月30日、外務大臣を兼任。(主筆・竹越三叉)を発行。9月22日、外務大臣を辞す。9月28日、文部大臣を辞す。明治31年(1898年)1月12日、第3次伊藤内閣の文部大臣として入閣。(総裁は伊藤博文)を兼任。4月30日、文部大臣を辞す。12月20日、正二位に昇叙。明治32年(1899年)、大磯に別荘(隣荘)を構える。