Python word2vec训练词向量，电子病历训练词向量，超简单训练电子病历的词向量，医学电子病历词向量预训练模型

1.词向量预训练模型的优势：

（1）训练和保存含有语义信息的词向量，在用于模型训练之前，enbedding的过程同样带有语义信息，使模型训练的效果更好；

（2）可以用预训练好的词向量模型直接计算两个词和文本的相似度，常推荐用余弦相似度计算；

2.词向量预训练模型的限制因素：

（1）对训练语料的要求非常高，要求训练语料大而全，所以训练起来比较费时间，并且训练语料的来源也是个问题；

（2）公开的预训练模型一般都是用大量的公共数据训练的，如百科、文献、报纸等公开数据集，所以只能适用于一些通用型的机器学习任务，像医学、生物等领域就不太实用。

3.自己训练词向量的全流程：

（1）准备数据：我这边是训练的电子病历数据，将来也是用于电子病历的enbedding过程，所以我这边只准备了电子病历数据，大概是1000w+的数据。

（2）清洗数据：电子病历数据的清洗比较麻烦，首先，二次脱敏，保证将姓名、医院名、地市名称以及一些相关的电话和编号等信息脱敏干净，一是防止隐私泄露，二是防止这些噪声的影响训练效果。

（3）选用模型：word2vec中的CBOW：

（4）代码如下：

from gensim.models import Word2Vec
import pandas as pd
import numpy as np
import re
import jieba

数据读取：数据量太大，不建议用excel，无内存限制当我没说

pd_data = pd.read_excel('data/emr_500w.xlsx')

清洗一下数据：