事前学習したチェックポイント:論文中のBERT-BaseとBERT-Largeそれぞれにつき、小文字化バージョンと大文字小文字混在バージョンの両方。BERTをインストールし、学習済みモデルをセットアップし、とりあえず動かすところまで到達するための手順をおさらいするメモである。後々、同様の作業が必要になった時に参照するためのものである。实现ERNIE的逻辑。methods:CBOWandSkip-gram。给出实践Bert最低成本路径。