使用Hugging Face提供的pytorch接口来使用bert,这篇主要记录下BertTokenizer中英文分词情况。
1、准备pip install pytorch-pretrained-bert
2、分词思路BertToken
2019-11-28