一、一般处理流程
语料获取 -> 文本预处理 -> 特征工程 -> 特征选择
1、语料获取
即需要处理的数据及用于模型训练的语料。
数据源可能来自网上爬取、资料积累、语料转换、OCR转换等,格式可能比较混乱。需要将url、时间、符号等无意义内容去除,留下质量相对较高的非结构化数据。
2、文本预处理
将含杂质、无序、不标准的自然语言文本转化为规则、易处理、标准的结构化文本。
①处理标点符号
可通过正则判定、现有工具(zhon包)等方式筛选清理标点符号。
②分词
将连续的自然语言文本,切分成具有语义合理性和完整性的词汇序列的过程。
一般看来英文较容易可通过空格符号分词,中文相对复杂,参考结巴分词、盘古分词、Ansj等工具。
常见的分词算法有:基于字符串匹配的分词方法、基于理解的分词方法、基于统计的分词方法和基于规则的分词方法,每种方法下面对应许多具体的算法。
③词性标注
为自然语言文本中的每个词汇赋予一个词性的过程,如名词、动词、副词等。可以把每个单词(和它周围的一些额外的单词用于上下文)输入预先训练的词性分类模型。
常用隐马尔科夫模型、N 元模型、决策树
④stop word
英文中含大量 a、the、and,中文含大量 的、是、了、啊,这些语气词、助词没有明显的实际意义,反而容易造成识别偏差,可适当进行过滤。
⑤词形还原
偏向于英文中,单数/复数,主动/被动,现在进行时/过去时/将来时等,还原为原型。
⑥统计词频
因为一些频率过高/过低的词是无效的,对模型帮助很小,还会被当做噪声,做个词频统计用于停用词表。
⑦给单词赋予id
给每一个单词一个id,用于构建词典,并将原来的句子替换成id的表现形式
⑧依存句法分析
通过分析句子中词与词之间的依存关系,从而捕捉到词语的句法结构信息(如主谓、动宾、定中等结构关系),并使用树状结构来表示句子的句法结构信息(如主谓宾、定状补等)。
3、特征工程
做完语料预处理之后,接下来需要考虑如何把分词之后的字和词语表示成计算机能够计算的类型。
如果要计算我们至少需要把中文分词的字符串转换成数字,确切的说应该是数学中的向量。有两种常用的表示模型分别是词袋模型和词向量。
①词向量
词向量是将字、词语转换成向量矩阵的计算模型。目前为止最常用的词表示方法是 One-hot,这种方法把每个词表示为一个很长的向量。
②词袋模型
即不考虑词语原本在句子中的顺序,直接将每一个词语或者符号统一放置在一个集合(如 list),然后按照计数的方式对出现的次数进行统计。统计词频这只是最基本的方式,TF-IDF 是词袋模型的一个经典用法。
常用的表示模型有:词袋模型(Bag of Word, BOW),比如:TF-IDF 算法;词向量,比如 one-hot 算法、word2vec 算法等。
4、特征选择
在文本挖掘相关问题中,特征工程也是必不可少的。在一个实际问题中,构造好的特征向量,是要选择合适的、表达能力强的特征。
举个自然语言处理中的例子来说,我们想衡量like这个词的极性(正向情感还是负向情感)。我们可以预先挑选一些正向情感的词,比如good。然后我们算like跟good的PMI,用到点互信息PMI这个指标来衡量两个事物之间的相关性。
特征选择是一个很有挑战的过程,更多的依赖于经验和专业知识,并且有很多现成的算法来进行特征的选择。目前,常见的特征选择方法主要有 DF、 MI、 IG、 CHI、WLLR、WFO 六种。
5、模型训练
在特征向量选择好了以后,接下来要做的事情是根据应用需求来训练模型,我们使用不同的模型,传统的有监督和无监督等机器学习模型,如 KNN、SVM、Naive Bayes、决策树、GBDT、K-means 等模型;深度学习模型比如 CNN、RNN、LSTM、 Seq2Seq、FastText、TextCNN 等。这些模型在分类、聚类、神经序列、情感分析等应用中都会用到。
当选择好模型后,则进行模型训练,其中包括了模型微调等。在模型训练的过程中要注意由于在训练集上表现很好,但在测试集上表现很差的过拟合问题以及模型不能很好地拟合数据的欠拟合问题。同时,也要防止出现梯度消失和梯度爆炸问题。
6、模型评估
在机器学习、数据挖掘、推荐系统完成建模之后,需要对模型的效果做评价。模型的评价指标主要有:错误率、精准度、准确率、召回率、F1 值、ROC 曲线、AUC 曲线等。
7、投产上线
模型的投产上线方式主要有两种:一种是线下训练模型,然后将模型进行线上部署提供服务;另一种是在线训练模型,在线训练完成后将模型 pickle 持久化,提供对外服务。
三、NLP应用方向
1、命名实体识别
指识别自然语言文本中具有特定意义的实体,主要包括人名、地名、机构名、时间日期等。
传统机器学习算法主要有HMM和CRF,深度学习常用QRNN、LSTM,当前主流的是基于bert的NER。
2、情感分析
文本情感分析和观点挖掘(Sentiment Analysis),又称意见挖掘(Opinion Mining)是自然语言处理领域的一个重要研究方向。简单而言,是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。
情感分析技术可以分为两类,一类是基于机器学习的方法,通过大量有标注、无标注的主观语料,使用统计机器学习算法,通过提取特征,进行文本情感分析。另一类是基于情感词典的方法,根据情感词典所提供的词的情感极性(正向、负向),从而进行不同粒度的(词语、短语、属性、句子、篇章)下的文本情感分析。
3、文章标签
文章标签是利用机器学习算法,对文章进行文字和语义的分析后,提取出若干个重要的词或者短语(关键短语)。关键短语是NLP基础的算法模块,有了关键短语,能为后续的搜索、推荐等更高级的应用提供有力的抓手。
适用场景:1、个性化推荐:通过对文章的标签计算,结合用户画像,精准的对用户进行个性化推荐;2、话题聚合:根据文章计算的标签,聚合相同标签的文章,便于用户对同一话题的文章进行全方位的信息阅读;3、搜索:使用中心词可以对query进行相似度计算、聚类、改写等,可以用于搜索相关性计算。
4、案件串并
①信息抽取
运用实体抽取、关系抽取,从案情中抽取关键信息,如从警情中可以抽取报警人项目、报警人电话、案发地址等信息
②实体对齐
相同的实体在不同的案情中会有不同的表述,会给串并带来困难。可针对地址、人名、组织名进行对齐处理。
③文本聚类
对于关键片段类信息,无法像实体那样对齐,需要借助文本聚类技术进行关联。
④构建图谱
将信息抽取结果存入图谱。每个警情id对应一个节点,实体、属性、关键片段作为节点,对齐的实体、同一类的文本存为同一个节点。
除了来自于从警情中抽取的信息,还可以将其他警务系统中存在的结构化数据导入(如来自户籍信息的人物关系),从而丰富图谱。
⑤图谱检索
完成以上工作,即完成了案件串并的必要基础建设,接下来通过图谱的查询功能自动完成案件的串并。首先需要设定串并的条件,案件串并的条件在警务实战中已有很多的积累,如“具有相似的作案手段”,又如“相似作案手段,嫌疑人有共同联系人”,只需要将这些条件用图谱查询语言表达出来。
好感的国语词典是:对人对事有满意或喜欢的感觉。如:「他的翩翩风采,赢得在场人士的好感。」词语翻译英语goodopinion,favorableimpression法语sympathie。
好感的国语词典是:对人对事有满意或喜欢的感觉。如:「他的翩翩风采,赢得在场人士的好感。」词语翻译英语goodopinion,favorableimpression法语sympathie。拼音是:hǎogǎn。结构是:好(左右结构)感(上下结构)。注音是:ㄏㄠˇㄍㄢˇ。词性是:名词。
好感的具体解释是什么呢,我们通过以下几个方面为您介绍:
一、词语解释点此查看计划详细内容
好感hǎogǎn。(1)对人对事满意或喜欢的情绪。(2)喜欢;宠爱,宠信。
二、引证解释
⒈对人对事满意或喜欢的情绪。引鲁迅《朝花夕拾·<狗·猫·鼠>》:“只是我在童年,总觉得它有点妖气,没有什么好感。”洪深《青龙潭》第二幕:“县长对你们有好感,你们在乡下可以占多少光!”何其芳《韩同志和监狱》:“我们是对他有好感的。”
三、网络解释
好感好感汉语词汇。拼音:hǎogǎn词性:名词释义:(1)[Goodopinion(Impression)]对人对事满意或喜欢的情绪。他对我有好感。(2)[Graces]喜欢;宠爱,宠信。你总是千方百计骗取我的好感。它表示对人对事满意或喜欢的情绪,它表示的是对人或事的初级好的印象,也就是比较浅层面的印象,这种印象会通过深入交流而可能转变为喜欢甚至爱,也有可能转变成信任,当然有也可能会被磨灭掉。它同样也是人与人之间所有情感的开始阶段,好感是喜欢的基础,不同种类的好感对应着不同种类的喜欢,而在所有感情中唯有男女之情的好感特殊,不要因混淆而产生错觉。
关于好感的近义词
宠爱喜欢爱戴宠信
关于好感的反义词
反感恶感
关于好感的诗句
为博得人们的好感和亲近要有好感
关于好感的成语
感慨万千感深肺腑多情多感好心好意霜露之感感遇忘身哀感天地隔世之感感今怀昔感激不尽
关于好感的词语
哀感天地霜露之感感激不尽隔世之感感深肺腑感遇忘身感慨万千感今怀昔
关于好感的造句
1、很多时候很多瞬间,我都想要问你,你究竟是因为什么才爱上我的,如果一开始你就做好了要离开的准备,那就不该来爱我,不要你因为心动,不要你因为好感,不要你因为想试试,不要你因为我对你太好,不要你因为亏欠,更不要在不能确定要给我未来的时候,就冲上来爱我,因为我承受不起你突然的离开。
2、女生有时候喜欢说反话,也喜欢说一些话来试探这个男生对他的感觉,她这样问是在问你,你到底是对她有好感和她说话还是因为其他人才和她说话的
3、男人对女人说这话出于两点,第一,是他真的觉得她聪明能干,对她有好感,发自内心的赞美;第二,是觉得她在他面前太强,让他感觉有压力,不想与她有过多牵扯,只好用一个这样的词来形容。
4、对这个地方,大家一点儿好感也没有。
5、彼此有好感的话,男生再自动些,这样的成功机会很高!不要顾虑,不要担心失败。
点此查看更多关于好感的详细信息
欢迎分享,转载请注明来源:浪漫分享网
评论列表(0条)