什么是知网

知网即中国知网，或常被称为“中国期刊网”，是中国最大的学术论文数据库和学术电子资源集成商，收录了95%以上正式出版的中文学术资源，没有其它数据库能出其右。

知网汇聚了数量庞大的学术期刊、专利、优秀博硕士学位论文等资源，是目前中国文献数据最全面的网上数字资源库，拥有超过2亿篇的文献总量，对任何论文写作者来说，是无法回避的信息检索和查重工具，被称为“中国知识基础设施工程”。

扩展资料

知网“垄断学术资源”“定价过高”成为关注和讨论的焦点

因为雄厚的实力，让知网有着强势的议价权。早在2016年，北京大学图书馆曾发出通知，说“由于数据库商涨价过高”，与知网的续订谈判还在进行中，服务有可能中断。连北京大学都遇到“价格危机”，可想其它高校的情况。

中国知网是为响应世界银行提出的“国家知识基础设施”概念而设立，是“中国知识基础设施工程”的组成部分，其根本的目的在于为知识生产和理论创新提供数据资源和工具，具有很强的普惠性和公益性。但如今看来，基础设施却似乎过度强调了其盈利一面。

财报显示，2017年知网的毛利率为6123%，2018年上半年为5883%。而一般企业的毛利率能超过30%就已经很了不起。一边是对稿费、版权费用并不敏感的论文作者、编辑部，一边是为了完成论文而嗷嗷待哺的学生、学校，由此形成的剪刀差，让知网获得了不少利润。

一、理论基础　首先，二者都以一种“模式假设”（patterning hypothesis）为前提和理论基础。其次，“理解性假设”（comprehensiveness hypothesis）也是二者的理论基础。但二者的理论基础不同之处也很多。Wordnet的一个较主要的理论基础是“可分离性假设”（separability hypothesis）即语言的词汇成分可以被离析出来并专门针对它加以研究。　Hownet的最重要的理论基础是它的哲学。其根本点是：世界上一切事物（物质的和精神的）都在特定的时间和空间内不停地运动和变化。部件和属性这两个单位在Hownet的哲学体系中占有着重要的地位，一个事物被视为是整体还是部件，可以因系统的不同而不同对待；而关于对属性的认识是：任何一个事物都一定包含着多种属性，事物之间的异同是由属性决定的，没有了属性就没有了事物。二、设计原理与方法　二者的建设方法最明显的相同之处就是自上而下的方法。具体来说，Wordnet是以同义词集合作为基本构建单位进行组织的。Hownet则是先提取义原，以它为基本构建单位进行组织的。虽然细节不同，但总的指导性建设方法还是相同的。具体的设计原理与建设方法上，两者的不同点就凸现出来了。　1、Wordnet 的基本设计原理是它的“词汇矩阵模型”　一个词汇矩阵从理论上可以用单词与其同义词集合之间的映射来表示。当某个词有多个同义词时，通常同义词集合足以满足差异性的要求。当然，同义词是词形之间的一种词汇关系，但由于这种关系在Wordnet中被赋予了中心角色。因此，同义关系的词被放在中，与其他被放进[]中的词汇关系的词区别开来。Wordnet是按语义关系组织，由于语义关系是多个词义之间的关系，而词义用同义词集合来表示，因此很自然地把语义关系看作为同义词集合之间的一些指针。　2、Hownet的基本设计原理是把概念与概念之间的关系以及概念的属性与属性之间的关系形成一个网状的知识系统。这是它与Wordnet的本质不同。Hownet的建设方法的一个重要特点是自上而下的归纳的方法。通过对全部的基本义原进行观察分析并形成义原的标注集，然后再用更多的概念对标注集进行考核，据此建立完善的标注集。无论是义原的提取还是义原的考核与确定，在Hownet的建设中都是至关重要的并具有决定意义。三、描述关系的比较　1、上下位关系　这是二者都有的。Wordnet是词义之间的语义关系。Hownet的上下位关系由概念的主要特征体现，也具有继承关系。　2、同义关系　同义关系是二者都有的。Wordnet最重要的关系是同义关系。Hownet对于同义的定义与Wordnet相似，都采取了较宽泛的定义，只是Wordnet的同义关系是显性的，而Hownet的同义关系是隐性的。　3、反义关系　Wordnet对于反义关系采取了直接反义和间接反义两种关系都包括的方法。Hownet中的反义关系比Wordnet定义的还要宽泛，只要属性值一样就可以形成反义关系。四、目的与应用　1、目的　Wordnet一开始要建立一个词典浏览器，后来又发展成自足的词汇数据库和语义或义类的机读词典。而Hownet是要建立一个面向计算机的知识库，揭示多重语义关系网络，为自然语言处理系统的建立提供最终需要的知识库。　2、应用　由于二者都是为自然语言信息处理服务的系统，那么二者的应用有交叉。例如，二者都在进行意义排歧，语义分析，语料库语义标注，信息过滤和分类，机器翻译等方面有着十分广泛的应用。　两者又有自己独特的应用领域。例如，Wordnet由于许多国家都在它的基础上建立了词汇数据库，那么Wordnet就可以进行多国语处理的词汇转换。由于它的内部结构是以层次为主，所以可进行信息语义层次检索，还可以进行主题名义识别和图像检索等；而Hownet也有它自己的应用领域，如：基于Hownet的内部语义关系建立，语料库句法关系标注，信息检索系统自然语言接口。还有它关于汉语方面研究与应用的独特之处，如：它的信息过滤和分析系统都是双语的，可以进行事件角色语义特征的提取。把Wordnet和Hownet结合起来的典型应用要算基于两者建设的双语语义词典。五、小结　经过对Wordnet和Hownet的一番比较，可以看出二者虽然是两种系统，但把二者结合起来研究，找出各自的不足之处，对自然语言处理研究还是有一点帮助作用的。Wordnet的词语概念是够用，但关系方面不足以支持推理。Hownet恰恰就是这样一种推理的知识库。Wordnet可向Hownet吸取这一点。Wordnet几乎没有关于句法方法方面的标注。而Hownet作为一个面向计算机并借助于计算机建立的常识知识库，它在语义知识构建方面明显优于Wordnet，而且许多现在Wordnet正致力解决的问题,在Hownet中都不是问题。所以在面向自然语言的信息处理方面，Hownet要优于Wordnet。当然Wordnet的研究人员也从来觉得这是一个“完工”的项目，Wordnet仍在继续发展中。

一、一般处理流程

语料获取 -> 文本预处理 -> 特征工程 -> 特征选择

1、语料获取

即需要处理的数据及用于模型训练的语料。

数据源可能来自网上爬取、资料积累、语料转换、OCR转换等，格式可能比较混乱。需要将url、时间、符号等无意义内容去除，留下质量相对较高的非结构化数据。

2、文本预处理

将含杂质、无序、不标准的自然语言文本转化为规则、易处理、标准的结构化文本。

①处理标点符号

可通过正则判定、现有工具(zhon包)等方式筛选清理标点符号。

②分词

将连续的自然语言文本，切分成具有语义合理性和完整性的词汇序列的过程。

一般看来英文较容易可通过空格符号分词，中文相对复杂，参考结巴分词、盘古分词、Ansj等工具。

常见的分词算法有：基于字符串匹配的分词方法、基于理解的分词方法、基于统计的分词方法和基于规则的分词方法，每种方法下面对应许多具体的算法。

③词性标注

为自然语言文本中的每个词汇赋予一个词性的过程，如名词、动词、副词等。可以把每个单词（和它周围的一些额外的单词用于上下文）输入预先训练的词性分类模型。

常用隐马尔科夫模型、N 元模型、决策树

④stop word

英文中含大量 a、the、and，中文含大量 的、是、了、啊，这些语气词、助词没有明显的实际意义，反而容易造成识别偏差，可适当进行过滤。

⑤词形还原

偏向于英文中，单数/复数，主动/被动，现在进行时/过去时/将来时等，还原为原型。

⑥统计词频

因为一些频率过高/过低的词是无效的，对模型帮助很小，还会被当做噪声，做个词频统计用于停用词表。

⑦给单词赋予id

给每一个单词一个id，用于构建词典，并将原来的句子替换成id的表现形式

⑧依存句法分析

通过分析句子中词与词之间的依存关系，从而捕捉到词语的句法结构信息(如主谓、动宾、定中等结构关系)，并使用树状结构来表示句子的句法结构信息(如主谓宾、定状补等)。

3、特征工程

做完语料预处理之后，接下来需要考虑如何把分词之后的字和词语表示成计算机能够计算的类型。

如果要计算我们至少需要把中文分词的字符串转换成数字，确切的说应该是数学中的向量。有两种常用的表示模型分别是词袋模型和词向量。

①词向量

词向量是将字、词语转换成向量矩阵的计算模型。目前为止最常用的词表示方法是 One-hot，这种方法把每个词表示为一个很长的向量。

②词袋模型

即不考虑词语原本在句子中的顺序，直接将每一个词语或者符号统一放置在一个集合（如 list），然后按照计数的方式对出现的次数进行统计。统计词频这只是最基本的方式，TF-IDF 是词袋模型的一个经典用法。

常用的表示模型有：词袋模型（Bag of Word, BOW），比如：TF-IDF 算法；词向量，比如 one-hot 算法、word2vec 算法等。

4、特征选择

在文本挖掘相关问题中，特征工程也是必不可少的。在一个实际问题中，构造好的特征向量，是要选择合适的、表达能力强的特征。

举个自然语言处理中的例子来说，我们想衡量like这个词的极性（正向情感还是负向情感）。我们可以预先挑选一些正向情感的词，比如good。然后我们算like跟good的PMI，用到点互信息PMI这个指标来衡量两个事物之间的相关性。

特征选择是一个很有挑战的过程，更多的依赖于经验和专业知识，并且有很多现成的算法来进行特征的选择。目前，常见的特征选择方法主要有 DF、 MI、 IG、 CHI、WLLR、WFO 六种。

5、模型训练

在特征向量选择好了以后，接下来要做的事情是根据应用需求来训练模型，我们使用不同的模型，传统的有监督和无监督等机器学习模型，如 KNN、SVM、Naive Bayes、决策树、GBDT、K-means 等模型；深度学习模型比如 CNN、RNN、LSTM、 Seq2Seq、FastText、TextCNN 等。这些模型在分类、聚类、神经序列、情感分析等应用中都会用到。

当选择好模型后，则进行模型训练，其中包括了模型微调等。在模型训练的过程中要注意由于在训练集上表现很好，但在测试集上表现很差的过拟合问题以及模型不能很好地拟合数据的欠拟合问题。同时，也要防止出现梯度消失和梯度爆炸问题。

6、模型评估

在机器学习、数据挖掘、推荐系统完成建模之后，需要对模型的效果做评价。模型的评价指标主要有：错误率、精准度、准确率、召回率、F1 值、ROC 曲线、AUC 曲线等。

7、投产上线

模型的投产上线方式主要有两种：一种是线下训练模型，然后将模型进行线上部署提供服务；另一种是在线训练模型，在线训练完成后将模型 pickle 持久化，提供对外服务。

三、NLP应用方向

1、命名实体识别

指识别自然语言文本中具有特定意义的实体，主要包括人名、地名、机构名、时间日期等。

传统机器学习算法主要有HMM和CRF，深度学习常用QRNN、LSTM，当前主流的是基于bert的NER。

2、情感分析

文本情感分析和观点挖掘（Sentiment Analysis)，又称意见挖掘(Opinion Mining)是自然语言处理领域的一个重要研究方向。简单而言，是对带有情感色彩的主观性文本进行分析、处理、归纳和推理的过程。

情感分析技术可以分为两类，一类是基于机器学习的方法，通过大量有标注、无标注的主观语料，使用统计机器学习算法，通过提取特征，进行文本情感分析。另一类是基于情感词典的方法，根据情感词典所提供的词的情感极性（正向、负向），从而进行不同粒度的（词语、短语、属性、句子、篇章）下的文本情感分析。

3、文章标签

文章标签是利用机器学习算法，对文章进行文字和语义的分析后，提取出若干个重要的词或者短语(关键短语)。关键短语是NLP基础的算法模块，有了关键短语，能为后续的搜索、推荐等更高级的应用提供有力的抓手。

适用场景：1、个性化推荐：通过对文章的标签计算，结合用户画像，精准的对用户进行个性化推荐；2、话题聚合：根据文章计算的标签，聚合相同标签的文章，便于用户对同一话题的文章进行全方位的信息阅读；3、搜索：使用中心词可以对query进行相似度计算、聚类、改写等，可以用于搜索相关性计算。

4、案件串并

①信息抽取

运用实体抽取、关系抽取，从案情中抽取关键信息，如从警情中可以抽取报警人项目、报警人电话、案发地址等信息

②实体对齐

相同的实体在不同的案情中会有不同的表述，会给串并带来困难。可针对地址、人名、组织名进行对齐处理。

③文本聚类

对于关键片段类信息，无法像实体那样对齐，需要借助文本聚类技术进行关联。

④构建图谱

将信息抽取结果存入图谱。每个警情id对应一个节点，实体、属性、关键片段作为节点，对齐的实体、同一类的文本存为同一个节点。

除了来自于从警情中抽取的信息，还可以将其他警务系统中存在的结构化数据导入（如来自户籍信息的人物关系），从而丰富图谱。

⑤图谱检索

完成以上工作，即完成了案件串并的必要基础建设，接下来通过图谱的查询功能自动完成案件的串并。首先需要设定串并的条件，案件串并的条件在警务实战中已有很多的积累，如“具有相似的作案手段”，又如“相似作案手段，嫌疑人有共同联系人”，只需要将这些条件用图谱查询语言表达出来。

面试前搜集往年面试常考题目属于使用信息检索和分析技术来解决问题。

信息检索和分析技术已经成为许多领域中不可或缺的工具，在面试前搜集往年面试常考题目时，我们需要了解这些技术的基本概念和应用。同时，人工智能技术的发展也为信息检索和分析带来了新的机遇和挑战。

1、什么是信息检索技术？

信息检索技术是指在大规模数据集合中自动地查找、筛选、排序相关信息的过程。它通常包括了关键字查询、文本预处理、索引构建、查询优化和结果排序等环节。

2、信息检索技术在哪些领域有应用？

信息检索技术已经应用到了广泛的领域中，比如搜索引擎、文本挖掘、情感分析、舆情监测、知识图谱构建等。

3、如何构建一个高效的搜索引擎？

构建高效的搜索引擎需要先进行数据抓取、清洗和存储，然后利用信息检索技术对数据进行索引构建和查询优化，最后利用机器学习算法对用户偏好进行分析和个性化推荐。

4、什么是文本挖掘？

文本挖掘是一种从非结构化或半结构化数据中发现有用信息的过程。它通常包括了文本分类、命名实体识别、主题识别、情感分析等任务。

5、如何进行文本分类？

文本分类可以使用传统的基于规则或机器学习的方法，比如朴素贝叶斯、决策树、支持向量机等算法，也可以使用深度学习模型，如卷积神经网络、循环神经网络等。

6、什么是情感分析？

情感分析是指对文本中的情感倾向进行自动化识别和分类的过程。它通常涉及到情感词典构建、特征提取、分类器训练等步骤。

7、如何应用情感分析？

情感分析可以应用到广泛的领域中，比如商品评论分析、社交媒体分析、政治舆情分析等。在这些场景中，情感分析可以帮助人们更好地理解消费者需求、维护品牌形象、精准预测选举结果等。