
# mbert_trim_ende_wwm
<!-- Provide a quick summary of what the model is/does. -->

该模型基于bert-base-multilingual-cased，使用[TextPruner](https://github.com/airaria/TextPruner)对词表进行裁剪，保留iwslt14德英数据集，用于测试bert-fused的翻译效果。
并且在iwslt14德英数据集上使用全词掩码wwm微调，数据的拼接方式是： de, en, de[sep]en, en[sep]de。


## Model Details

lang：德英

vocab_size: 119547 -> 21443

model_size: 682M -> 392M

iwslt14 de_en BLEU: ?
{}
transformers pytorch tensorboard bert fill-mask autotrain_compatible endpoints_compatible region:us
TAGS
#transformers #pytorch #tensorboard #bert #fill-mask #autotrain_compatible #endpoints_compatible #region-us 


# mbert_trim_ende_wwm


该模型基于bert-base-multilingual-cased，使用TextPruner对词表进行裁剪，保留iwslt14德英数据集，用于测试bert-fused的翻译效果。
并且在iwslt14德英数据集上使用全词掩码wwm微调，数据的拼接方式是： de, en, de[sep]en, en[sep]de。


## Model Details

lang：德英

vocab_size: 119547 -> 21443

model_size: 682M -> 392M

iwslt14 de_en BLEU: ?
# mbert_trim_ende_wwm


该模型基于bert-base-multilingual-cased，使用TextPruner对词表进行裁剪，保留iwslt14德英数据集，用于测试bert-fused的翻译效果。
并且在iwslt14德英数据集上使用全词掩码wwm微调，数据的拼接方式是： de, en, de[sep]en, en[sep]de。 ## Model Details

lang：德英

vocab_size: 119547 -> 21443

model_size: 682M -> 392M

iwslt14 de_en BLEU: ?
TAGS
#transformers #pytorch #tensorboard #bert #fill-mask #autotrain_compatible #endpoints_compatible #region-us 
 # mbert_trim_ende_wwm


该模型基于bert-base-multilingual-cased，使用TextPruner对词表进行裁剪，保留iwslt14德英数据集，用于测试bert-fused的翻译效果。
并且在iwslt14德英数据集上使用全词掩码wwm微调，数据的拼接方式是： de, en, de[sep]en, en[sep]de。 ## Model Details

lang：德英

vocab_size: 119547 -> 21443

model_size: 682M -> 392M

iwslt14 de_en BLEU: ?
TAGS
#transformers #pytorch #tensorboard #bert #fill-mask #autotrain_compatible #endpoints_compatible #region-us 
# mbert_trim_ende_wwm


该模型基于bert-base-multilingual-cased，使用TextPruner对词表进行裁剪，保留iwslt14德英数据集，用于测试bert-fused的翻译效果。
并且在iwslt14德英数据集上使用全词掩码wwm微调，数据的拼接方式是： de, en, de[sep]en, en[sep]de。## Model Details

lang：德英

vocab_size: 119547 -> 21443

model_size: 682M -> 392M

iwslt14 de_en BLEU: ?