到底是什么样的课程让业内的呼声这么的大，

如果你还不知道《NLP自然语言处理训练营》

那么你可能错过了太多~ 离最近一期开课仅剩2天！

训练营既包含大量的案例教学，也包含学员需要完成的项目作业，还有每周的作业以及论文解读。

课程大纲

阶段一 算法与优化基础

【核心知识点】.Dynamic Time Warping. Earth Mover's Distance. 维特比算法. LR, SVM, KKT. Kernel Tick, Mercer's Theorem. 梯度下降法，收敛性分析. L0, L1, L2, L-Infinity Norm. Grid Search, Bayesian Optimization. 随机森林、GBDT, XGBoost回顾. 凸函数、凸集、Lagrange Duality. Projected Gradient Descent. Linear/Quadratic Programming. Integer/Semi-definite Programming. NP-completess. Constraint Relaxation
【实战案例】:. [作业] 基于Sparse Quadratic Programming的股票投资组合优化策略编写. [讲解] 基于Earth Mover's Distance的短文本相似度计算. [讲解] 基于Projected Gradient Descent和非负矩阵分解的词向量学习. [讲解] 基于Linear Programming的机票定价系统

阶段二 语言模型与序列标注

【核心知识点】. 文本预处理技术（tf-idf，Stemming等）. 文本领域的特征工程. 倒排表、信息检索技术. Noisy Channel Model. N-gram模型，词向量介绍. 不同的Smoothing Techniques. Learning to Rank. Latent Variable Model. EM算法与Local Optimality. 有向图模型与无向图模型. HMM模型、Viterbi、Baum Welch. Log-Linear Model与参数估计. CRF模型与Linear-CRF. CRF的Viterbi Decoding与参数估计【实战案例】：. [作业] 基于无监督学习方法的问答系统搭建. [作业] 基于监督学习的Aspect-Based 情感分析系统搭建. [讲解] 基于CRF的命名实体识别. [讲解] 基于语言模型和Noisy Channel Model的拼写纠错

阶段三  信息抽取、词向量与知识图谱

【核心知识点】

. 命名实体识别技术. 信息抽取技术. Snowball, KnowitAll, RunnerText. Distant Supervision, 无监督学习方法. 实体统一、实体消歧义、指代消解. 知识图谱、实体与关系. 词向量、Skip-Gram、Negative Sampling. 矩阵分解、CBOW与Glove向量. Contexualized Embedding与ELMo. KL Divergence与Gaussian Embedding. 非欧式空间与Pointcare Embedding. 黎曼空间中的梯度下降法. 知识图谱嵌入技术. TransE, NTN 的详解. Node2Vec详解. Adversial Learning与KBGAN【实战案例】：. [作业] 利用非结构化数据和信息抽取技术构建知识图谱. [作业] 任务导向型聊天机器人的搭建. [讲解] 包含Intent与Entity Extraction的NLU模块实现. [讲解] 基于SkipGram的推荐系统实现（参考Airbnb论文）

阶段四 深度学习与NLP

【核心知识点】

.Pytorch与Tensorflow详解. 表示学习，分布式表示技术. 文本领域中的Disentangling. 深度神经网络与BP算法详解. RNN与Vanishing/Exploding Gradient. LSTM与GRU. Seq2Seq与注意力机制. Greedy Decoding与Beam Search. BI-LSTM-CRF模型. Neural Turing Machine. Memory Network. Self Attention，Transformer以及Transformer-XL.. Bert的详解. BERT-BiLSTM-CRF. GPT，MASS,  XLNet. Low-resource learning. 深度学习的可视化. Laywer-wise Relevance Propagation【实战案例】：. [作业]利用纯Python实现BP算法. [作业] 基于Seq2Seq+注意力机制、基于Transformer的机器翻译系统. [讲解] 基于Transformer的闲聊型聊天机器人. [讲解] 基于BI-LSTM-CRF和BERT-BiLSTM-CRF在命名实体中的比较. [讲解] 利用Laywer-wise RP可视化端到端的机器翻译系统

阶段五 贝叶斯模型与NLP

【核心知识点】

.概率图模型与条件独立. Markov Blanket. Dirichlet分布、Multinomial分布. Beta分布、Conjugate Prior回顾. Detail Balance. 主题模型详解. MCMC与吉布斯采样. 主题模型与Collapsed Gibbs Sampling. Metropolis Hasting, Rejection Sampling. Langevin Dyamics与SGLD. 分布式SGLD与主题模型. Dynamic Topic Model. Supervised Topic Model. KL Divergence与ELBO. Variantional Inference, Stochastic VI. 主题模型与变分法. Nonparametric Models. Dirichlet Process. Chinese Restarant Process. Bayesian Deep Neural Network. VAE与Reparametrization trick. Bayesian RNN/LSTM. Bayesian Word2Vec. MMSB【实战案例】:. [作业]利用Collapsed Gibbs Sampler和SGLD对主题模型做Inference. [讲解] 基于Bayesian-LSTM的命名实体识别

阶段六 开放式项目 （Optional）

【项目介绍】

可以根据自己的兴趣来设计一个NLP领域的课题，课题需要具备一定的挑战，并且有一定的深度。 在项目期间教学团队会提供技术支持

【结果输出】：完整PPT、代码和Conference-Style Technical Report【评估流程】：教学团队Review + 学员Peer-Review
课程设计紧密围绕学术界最新进展以及工业界的需求，涵盖了所有核心知识点，并且结合了大量实战项目，培养学员的动手能力，解决问题能来以及对知识的深入理解。