Speech and Language Processing Unit 1&2 笔记整理

正则表达式，Speech and Language Processing (3rd ed. draft) Chapter 2 前言 从 DLHLP 2020 那边了解到了这本书，开源免费，关于 Speech 和 NLP 的一本非常优秀的书，cs224n 的官网推荐的 ref 里面也有这本书。

《Speech and Language Processing》读书笔记——语法规则及其解析 1.摘要 本章主要介绍了： 上下文无关语法（CFG） 语法解析算法（CKY、Earley） 2.上下文无关语法（CFG） 句法分析是NLP中的关键底层技术之一，其基本任务是确定句子的句法结构或者句子中词汇之间的依存关系。 那么就引出了两个问题： 在计算机中如何表示句子语法结构 如何编程实现对句子语法...

文章目录2.1 Regular Expressions3 N-gram4 Naive Bayes Classification5 Logistic Regression6 Vector Semantics and Embeddings7 NNLM8 Part-of-Speech Tagging总结 2--89 Seq with RNNDeep Networks: Stacked and Bidirectional RNNsManaging Context in RNNs: LSTMs and GRUs ht

词性标注与HMM算法原理 1.摘要 本章主要介绍了： 英语中的词性分类、标注集 词性标注的意义及方法（基于规则、基于HMM、基于规则转换） 词性标注的评估和误差分析 关于词性标注的一些前沿话题（多标注词性和合成词的分割问题，未登录词的识别与标注，不同语言的词性标注，多算法合成的词性标注） 2.词性分类 在英语中，从另一个角度可将词性分为两大类：封闭类、开放类 封闭类：即该类词中不会再有新的词...

    摘抄： The process we just went through was based on fixing two kinds of errors: false positives, strings that we incorrectly matched like other or there, and false negatives, strings that we inco...

0. 本书的官网主页 https://web.stanford.edu/~jurafsky/slp3/ ##第1章 留白   ##第2章 正则表达式、文本正则话、编辑距离   regular expression 正则表达式，从文档里抽取指定的字符串。比如，抽取“你是XXX”的姓名，或者 字符串里的价格信息。     text normalization 文本标准化。把文本转化成...

偶然间从斯坦福大学官网收获Daniel Jurafsky和James H. Martin大神编写的这本书《语音与语言处理》，如获至宝。于是拿过来仔细研读，希望能有所收获。今天立下一个flag，会不定时更新对这本书读书笔记，也希望能与志同道合的朋友交流。

Speech Processing 学习笔记一 Articulatory Phonetics： 发音语音学: 这个分科研究的是发音器官(如唇、齿、舌、声门等)如何彼此协调动作,以发出语音。 声学语音学(acoustic phonetics): 这个分. Acoustic Phonetics： 声学语音学: 这个分科研究的是语音的物理现象,如声波的频率、时长、振幅等。 Auditory Phonet...

Noun mimic 临摹 mimicry 模仿、模仿的技巧 genre 类型、体裁、样式 diversion 消遣、分散注意力 Text Normalizing means converting it to a more convenient, standard form. tokenization 标记化、词语切分 hashtag 标签 lemmatization determ...

Information Extraction 信息抽取 一、概述 1.1 IE 信息抽取就是从文本中抽取有限的几种语义内容，是将非结构化的文本转换为结构化数据的过程，有限的几种语义内容主要包括：实体抽取、关系抽取、事件抽取、时序表达、模板填充等。 1.2命名实体识别（named entity recognition， NER） IE任务大都以NER开始，也就是识别文本中的命名实体

机器学习到底在学什么？ 监督学习、无监督学习、强化学习有什么区别？ 为什么要划分训练集、验证集、测试集？ 什么是过拟合、欠拟合、泛化能力？ 回归、分类、聚类分别解决什么问题？ 怎么选择常见算法？ 为什么不能只看准确率？ 这篇文章会尽量用图、例子和实战代码，把机器学习的基础框架讲清楚。

简要介绍ML的分类方法以及神经网络

本周复现上周提到的论文3DGA的实验，并且阅读了论文SplattingAvatar。通过SplattingAvatar，补充了对之前的改进的不足，法线插值和重心插值可以得到一个非线性连续场，解决3dga只有重心插值，在三角面片内只有线形关系的问题。在之前也尝试过建立一个非线性连续人体场，缺乏理论指导，SplattingAvatar提供了思路。

神经网络（简称：ANN）是一种受人脑神经元连接方式启发而设计的机器学习模型，它通过大量相互连接的“神经元”来处理数据、提取特征并完成预测或判断。简单来说，神经网络会接收输入数据，例如图片、文字、声音或数字信息，然后经过一层或多层隐藏层的计算，把原始数据逐步转换成更有意义的特征，最后在输出层给出结果。它并不是依靠人手动编写固定规则来解决问题，而是通过大量样本数据进行训练，在不断比较预测结果和真实答案的差距后，自动调整内部的权重和偏置，使模型的预测越来越准确。

数据准备（ation数据处理（Mergings——特征工程（Featureengineering:lagfeaturestatic feature——建模（Modeling:Bin-class, regression,multi-class）——训练、仿真（Training,Simulation——决策（Decision++Binaryc。

摘要：本文讨论了机器学习模型误差计算与参数调整的关键概念。通过概率分析（如0.91正确率对应0.0943误差）指出需关注预测置信度而不仅是准确率。重点阐释了总误差计算方法（6万张图片误差累加）及梯度下降原理，包括如何通过ln函数优化误差计算、15万字符的多语言输出场景处理，以及1.8万亿参数模型的超大规模梯度下降实现。同时解释了非线性变换（如将像素值二值化）对模型拟合能力的提升作用，强调每个训练步骤都需全局调整所有参数，体现现代大模型训练的核心机制。（149字）