大数据是什么？大数据和Hadoop之间有什么联系？

大数据在近些年来越来越火热，人们在提到大数据遇到了很多相关概念上的问题，比如云计算、 Hadoop等等。那么，大数据是什么、Hadoop是什么，大数据和Hadoop有什么关系呢？

大数据概念早在1980年，著名未来学家阿尔文·托夫勒提出的概念。2009年美国互联网数据中心证实大数据时代的来临。随着谷歌MapReduce和 GoogleFile System （GFS）的发布，大数据不再仅用来描述大量的数据，还涵盖了处理数据的速度。目前定义：大数据(big data)，或称巨量资料，指的是所涉及的资料量规模巨大到无法透过目前主流软件工具在合理时间内获取、管理、处理、并整理为帮助企业经营决策。

大数据目前分为四大块：大数据技术、大数据工程、大数据科学和大数据应用。其中云计算是属于大数据技术的范畴，是一种通过Internet以服务 的方式提供动态可伸缩的虚拟化的资源的计算模式。那么这种计算模式如何实现呢，Hadoop的来临解决了这个问题，Hadoop是Apache（阿帕切） 的一个开源项目，它是一个对大量数据进行分布式处理的软件架构，在这个架构下组织的成员HDFS（Hadoop分布式文件系统），MapReduce、 Hbase 、Zookeeper（一个针对大型分布式系统的可靠协调系统），hive（基于Hadoop的一个数据仓库工具）等。

1云计算属于大数据中的大数据技术范畴。

2云计算包含大数据。

3云和大数据是两个领域。

云计算是指利用由大量计算节点构成的可动态调整的虚拟化计算资源，通过并行化和分布式计算技术，实现业务质量的可控的大数据处理的计算技术。而作为云计算技术中的佼佼者，Hadoop以其低成本和高效率的特性赢得了市场的认可。Hadoop项目名称来源于创立者Doung Cutting儿子的一个玩具，一头**的大象。

Hadoop项目的目标是建立一个可扩展开源软件框架，能够对大数据进行可靠的分布式处理。

Hadoop的框架最核心的设计就是：HDFS和MapReduce。HDFS为海量的数据提供了存储，则MapReduce为海量的数据提供了计算。HDFS是一个分布式文件系统，具有低成本、高可靠性性、高吞吐量的特点。MapReduce是一个变成模型和软件框架。

简单理解，Hadoop是一个开源的大数据分析软件，或者说编程模式。它是通过分布式的方式处理大数据的，因为开元的原因现在很多的企业或多或少的在运用hadoop的技术来解决一些大数据的问题，在数据仓库方面hadoop是非常强大的。但在数据集市以及实时的分析展现层面，hadoop也有着明显的不足，现在一个比较好的解决方案是架设hadoop的数据仓库而数据集市以及实时分析展现层面使用永洪科技的大数据产品，能够很好地解决hadoop的分时间长以及其他的问题。

Hadoop大数据技术案例

让Hadoop和其他大数据技术如此引人注目的部分原因是，他们让企业找到问题的答案，而在此之前他们甚至不知道问题是什么。这可能会产生引出新产品的想法，或者帮助确定改善运营效率的方法。不过，也有一些已经明确的大数据用例，无论是互联网巨头如谷歌，Facebook和LinkedIn还是更多的传统企业。它们包括：

情感分析： Hadoop与先进的文本分析工具结合，分析社会化媒体和社交网络发布的非结构化的文本，包括Tweets和Facebook，以确定用户对特定公司，品牌或产品的情绪。分析既可以专注于宏观层面的情绪，也可以细分到个人用户的情绪。

风险建模： 财务公司、银行等公司使用Hadoop和下一代数据仓库分析大量交易数据，以确定金融资产的风险，模拟市场行为为潜在的“假设”方案做准备，并根据风险为潜在客户打分。

欺诈检测： 金融公司、零售商等使用大数据技术将客户行为与历史交易数据结合来检测欺诈行为。例如，信用卡公司使用大数据技术识别可能的被盗卡的交易行为。

客户流失分析： 企业使用Hadoop和大数据技术分析客户行为数据并确定分析模型，该模型指出哪些客户最有可能流向存在竞争关系的供应商或服务商。企业就能采取最有效的措施挽留欲流失客户。

用户体验分析： 面向消费者的企业使用Hadoop和其他大数据技术将之前单一 客户互动渠道（如呼叫中心，网上聊天，微博等）数据整合在一起， 以获得对客户体验的完整视图。这使企业能够了解客户交互渠道之间的相互影响，从而优化整个客户生命周期的用户体验。

当然，上述这些都只是大数据用例的举例。事实上，在所有企业中大数据最引人注目的用例可能尚未被发现。这就是大数据的希望。

渡者之言翻译如下：

渡者之言是一款由中国团队开发的开源中文自然语言处理工具。该工具涵盖了分词、词性标注、命名实体识别、依存句法分析等常见自然语言处理任务，并支持多种中文文本编码格式，可以被广泛应用于各种文本分析和挖掘场景。

此外，渡者之言还提供了可视化的分析界面和用户友好的API接口，方便用户进行快速文本处理和定制化应用开发。可见，渡者之言在中文自然语言处理领域具有较高的应用价值和技术竞争力。渡者之言是一款对于中文自然语言处理具有重要意义的开源工具，拥有丰富的功能和易用的接口，是中文语言处理领域中不可或缺的研究和应用工具之一。

渡者之言的发展历程可追溯到2010年，当时由华南理工大学自然语言处理实验室推出了第一个版本。

经过多年的不断迭代和优化，渡者之言逐渐成为中文文本处理领域内的重要工具之一，广泛应用于社交网络、搜索引擎、智能客服、舆情分析等方面，成为了许多企业和研究机构进行中文语言处理的首选。

未来，随着人工智能技术的不断发展，渡者之言将更加完善和智能化，为中文自然语言处理领域的发展做出更多贡献。

渡者之言是一个包含多种自然语言处理功能的开源平台，支持中文文本的分词、词性标注、命名实体识别、句法分析、情感分析、关键词提取等常用功能。

作为一个自然语言处理平台，渡者之言在处理中文文本方面具有许多优势：

1中文特殊性：相较于英文等其他语言，中文存在大量复合词、歧义词汇、省略结构等独特的语言现象，需要针对性地处理。

2深度学习技术：渡者之言采用深度学习模型，在信息获取、语义理解等方面有较高的准确度。

3预训练模型：渡者之言基于大规模的中文语料库进行预训练，将可用性和鲁棒性提升至一个新的层次。

除此之外，渡者之言支持多种编程语言接口，如Python、Java、Go、PHP等，方便开发者快速集成到自己的应用中。同时也减轻了开发者在项目中处理中文文本的工作量，提高了生产效率。

大数据研究常用软件工具与应用场景

如今，大数据日益成为研究行业的重要研究目标。面对其高数据量、多维度与异构化的特点，以及分析方法思路的扩展，传统统计工具已经难以应对。

工欲善其事，必先利其器。众多新的软件分析工具作为深入大数据洞察研究的重要助力， 也成为数据科学家所必须掌握的知识技能。

然而，现实情况的复杂性决定了并不存在解决一切问题的终极工具。实际研究过程中，需要根据实际情况灵活选择最合适的工具（甚至多种工具组合使用），才能更好的完成研究探索。

为此，本文针对研究人员（非技术人员）的实际情况，介绍当前大数据研究涉及的一些主要工具软件（因为相关软件众多，只介绍常用的），并进一步阐述其应用特点和适合的场景，以便于研究人员能有的放矢的学习和使用。

传统分析/商业统计

Excel、SPSS、SAS 这三者对于研究人员而言并不陌生。

Excel 作为电子表格软件，适合简单统计（分组/求和等）需求，由于其方便好用，功能也能满足很多场景需要，所以实际成为研究人员最常用的软件工具。其缺点在于功能单一，且可处理数据规模小（这一点让很多研究人员尤为头疼）。这两年Excel在大数据方面（如地理可视化和网络关系分析）上也作出了一些增强，但应用能力有限。

SPSS（SPSS Statistics)和SAS作为商业统计软件，提供研究常用的经典统计分析（如回归、方差、因子、多变量分析等）处理。

SPSS 轻量、易于使用，但功能相对较少，适合常规基本统计分析

SAS 功能丰富而强大（包括绘图能力），且支持编程扩展其分析能力，适合复杂与高要求的统计性分析。

上述三个软件在面对大数据环境出现了各种不适，具体不再赘述。但这并不代表其没有使用价值。如果使用传统研究方法论分析大数据时，海量原始数据资源经过前期处理（如降维和统计汇总等）得到的中间研究结果，就很适合使用它们进行进一步研究。

数据挖掘

数据挖掘作为大数据应用的重要领域，在传统统计分析基础上，更强调提供机器学习的方法，关注高维空间下复杂数据关联关系和推演能力。代表是SPSS Modeler（注意不是SPSS Statistics，其前身为Clementine）

SPSS Modeler 的统计功能相对有限, 主要是提供面向商业挖掘的机器学习算法（决策树、神经元网络、分类、聚类和预测等）的实现。同时，其数据预处理和结果辅助分析方面也相当方便，这一点尤其适合商业环境下的快速挖掘。不过就处理能力而言，实际感觉难以应对亿级以上的数据规模。

另一个商业软件 Matlab 也能提供大量数据挖掘的算法，但其特性更关注科学与工程计算领域。而著名的开源数据挖掘软件Weka，功能较少，且数据预处理和结果分析也比较麻烦，更适合学术界或有数据预处理能力的使用者。

1、通用大数据可视化分析

近两年来出现了许多面向大数据、具备可视化能力的分析工具，在商业研究领域，TableAU无疑是卓越代表。

TableAU 的优势主要在于支持多种大数据源/格式，众多的可视化图表类型，加上拖拽式的使用方式，上手快，非常适合研究员使用，能够涵盖大部分分析研究的场景。不过要注意，其并不能提供经典统计和机器学习算法支持， 因此其可以替代Excel, 但不能代替统计和数据挖掘软件。另外，就实际处理速度而言，感觉面对较大数据（实例超过3000万记录）时，并没有官方介绍的那么迅速。

2 、关系分析

关系分析是大数据环境下的一个新的分析热点（比如信息传播图、社交关系网等），其本质计算的是点之间的关联关系。相关工具中，适合数据研究人员的是一些可视化的轻量桌面型工具，最常用的是Gephi。

Gephi 是免费软件，擅长解决图网络分析的很多需求，其插件众多，功能强且易用。我们经常看到的各种社交关系/传播谱图, 很多都是基于其力导向图（Force directed graph）功能生成。但由于其由java编写，限制了处理性能（感觉处理超过10万节点/边时常陷入假死），如分析百万级节点（如微博热点传播路径）关系时，需先做平滑和剪枝处理。 而要处理更大规模（如亿级以上）的关系网络（如社交网络关系）数据，则需要专门的图关系数据库（如GraphLab/GraphX）来支撑了，其技术要求较高，此处不再介绍。

3、时空数据分析

当前很多软件（包括TableAU）都提供了时空数据的可视化分析功能。但就使用感受来看，其大都只适合较小规模（万级）的可视化展示分析，很少支持不同粒度的快速聚合探索。

如果要分析千万级以上的时空数据，比如新浪微博上亿用户发文的时间与地理分布（从省到街道多级粒度的探索）时，推荐使用 NanoCubes（http://wwwnanocubesnet/）。该开源软件可在日常的办公电脑上提供对亿级时空数据的快速展示和多级实时钻取探索分析。下图是对芝加哥犯罪时间地点的分析，网站有更多的实时分析的演示例子

4、文本/非结构化分析

基于自然语言处理（NLP）的文本分析，在非结构化内容（如互联网/社交媒体/电商评论）大数据的分析方面（甚至调研开放题结果分析）有重要用途。其应用处理涉及分词、特征抽取、情感分析、多主题模型等众多内容。

由于实现难度与领域差异，当前市面上只有一些开源函数包或者云API（如BosonNLP）提供一些基础处理功能，尚未看到适合商业研究分析中文文本的集成化工具软件（如果有谁知道烦请通知我）。在这种情况下，各商业公司（如HCR）主要依靠内部技术实力自主研发适合业务所需的分析功能。

前面介绍的各种大数据分析工具，可应对的数据都在亿级以下，也以结构化数据为主。当实际面临以下要求： 亿级以上/半实时性处理/非标准化复杂需求 ，通常就需要借助编程（甚至借助于Hadoop/Spark等分布式计算框架）来完成相关的分析。 如果能掌握相关的编程语言能力，那研究员的分析能力将如虎添翼。

当前适合大数据处理的编程语言，包括：

R语言——最适合统计研究背景的人员学习，具有丰富的统计分析功能库以及可视化绘图函数可以直接调用。通过Hadoop-R更可支持处理百亿级别的数据。 相比SAS，其计算能力更强，可解决更复杂更大数据规模的问题。

Python语言——最大的优势是在文本处理以及大数据量处理场景，且易于开发。在相关分析领域，Python代替R的势头越来越明显。

Java语言——通用性编程语言，能力最全面，拥有最多的开源大数据处理资源（统计、机器学习、NLP等等）直接使用。也得到所有分布式计算框架（Hadoop/Spark）的支持。

前面的内容介绍了面向大数据研究的不同工具软件/语言的特点和适用场景。 这些工具能够极大增强研究员在大数据环境下的分析能力，但更重要的是研究员要发挥自身对业务的深入理解，从数据结果中洞察发现有深度的结果，这才是最有价值的。

以上是小编为大家分享的关于大数据研究常用软件工具与应用场景的相关内容，更多信息可以关注环球青藤分享更多干货

按照我的经验来说，我比较推荐蜜度旗下的新浪舆情通⌄首先毋庸置疑的就是除了覆盖全网数据，同时还拥有新浪微博官方数据，对于信息的覆盖性会做得比较好，另外它可以照顾到方方面面，无论是信息挖掘、跟踪溯源、情感分析还是自定义检索，都可以帮助我们在海量的信息里面精准定位有效信息，智能过滤垃圾信息。对于企业来说就可以更早一步了解事件发展动态，调整策略，挖掘背后潜在的商业价值；而对于政府来说，更是一个了解社情民意，正确引导舆论的好机会。而且操作也很便捷，只要按照步骤指示，点击需要的功能即可，多类维度详细的报告也可一键生成。

1RapidMiner

只要是从事开源数据挖掘相关的业内人士都知道，RapidMiner在数据挖掘工具榜上虎踞榜首，叫好叫座。是什么让RapidMiner得到如此厚誉呢首先，RapidMiner功能强大，它除了提供优秀的数据挖掘功能，还提供如数据预处理和可视化、预测分析和统计建模、评估和部署等功能。更厉害的是，它还提供来自WEKA(一种智能分析环境)和R脚本的学习方案、模型和算法，让它成为业界的一棵常春藤。

用Java语言编写的RapidMiner，是通过基于模板的框架为用户提供先进的分析技术的。它最大的好处就是，作为一个服务提供给用户，而不是一款本地软件，用户无需编写任何代码，为用户尤其是精于数据分析但不太懂编程的用户带来了极大的方便。

2R-Programming

R语言被广泛应用于数据挖掘、开发统计软件以及数据分析中。你以为大名鼎鼎的R只有数据相关功能吗其实，它还提供统计和制图技术，包括线性和非线性建模，经典的统计测试，时间序列分析、分类、收集等等。

R，R-programming的简称，统称R。作为一款针对编程语言和软件环境进行统计计算和制图的免费软件，它主要是由C语言和FORTRAN语言编写的，并且很多模块都是由R编写的，这是R一个很大的特性。而且，由于出色的易用性和可扩展性，也让R的知名度在近年来大大提高了，它也逐渐成为数据人常用的工具之一。

3WEKA

WEKA支持多种标准数据挖掘任务，包括数据预处理、收集、分类、回归分析、可视化和特征选取，由于功能多样，让它能够被广泛使用于很多不同的应用——包括数据分析以及预测建模的可视化和算法当中。它在GNU通用公共许可证下是免费的，这也是它与RapidMiner相比的优势所在，因此，用户可以按照自己的喜好选择自定义，让工具更为个性化，更贴合用户的使用习惯与独特需求。

很多人都不知道，WEKA诞生于农业领域数据分析，它的原生的非Java版本也因此被开发了出来。现在的WEKA是基于Java版本的，比较复杂。令人欣喜的是，当它日后添加了序列建模之后，将会变得更加强大，虽然目前并不包括在内。但相信随着时间的推移，WEKA一定会交出一张很好看的成绩单。

4Orange

对很多数据人来说，Orange并不是一个陌生的名字，它不仅有机器学习的组件，还附加有生物信息和文本挖掘，可以说是充满了数据分析的各种功能。而且，Orange的可视化编程和Python脚本如行云流水，定能让你拥有畅快的使用感。

Orange是一个基于Python语言的功能强大的开源工具，如果你碰巧是一个Python开发者，当需要找一个开源数据挖掘工具时，Orange必定是你的首选，当之无愧。无论是对于初学者还是专家级大神来说，这款与Python一样简单易学又功能强大的工具，都十分容易上手。

5NLTK

著名的开源数据挖掘工具——NLTK，提供了一个语言处理工具，包括数据挖掘、机器学习、数据抓取、情感分析等各种语言处理任务，因此，在语言处理任务领域中，它一直处于不败之地。

想要感受这款深受数据人喜爱的工具的用户，只需要安装NLTK，然后将一个包拖拽到最喜爱的任务中，就可以继续葛优瘫N日游了，高智能性也是这款工具受人喜爱的最大原因之一。另外，它是用Python语言编写的，用户可以直接在上面建立应用，还可以自定义小任务，十分便捷。

6KNIME

KNIME是一个开源的数据分析、报告和综合平台，同时还通过其模块化数据的流水型概念，集成了各种机器学习的组件和数据挖掘。我们都知道，提取、转换和加载是数据处理最主要的三个部分，而这三个部分，KNIME均能出色地完成。同时，KNIME还为用户提供了一个图形化的界面，以便用户对数据节点进行进一步的处理，十分贴心。

基于Eclipse，用Java编写的KNIME拥有易于扩展和补充插件特性，还有可随时添加的附加功能。值得一提的是，它的大量的数据集成模块已包含在核心版本中。良好的性能，更让KNIME引起了商业智能和财务数据分析的注意。

1、WEKA

WEKA原生的非Java版本主要是为了分析农业领域数据而开发的。该工具基于Java版本，是非常复杂的，并且应用在许多不同的应用中，包括数据分析以及预测建模的可视化和算法。与RapidMiner相比优势在于，它在GNU通用公共许可证下是免费的，因为用户可以按照自己的喜好选择自定义。

WEKA支持多种标准数据挖掘任务，包括数据预处理、收集、分类、回归分析、可视化和特征选取。添加序列建模后，WEKA将会变得更强大，但目前不包括在内。

2、RapidMiner

该工具是用Java语言编写的，通过基于模板的框架提供先进的分析技术。该款工具最大的好处就是，用户无需写任何代码。它是作为一个服务提供，而不是一款本地软件。值得一提的是，该工具在数据挖掘工具榜上位列榜首。另外，除了数据挖掘，RapidMiner还提供如数据预处理和可视化、预测分析和统计建模、评估和部署等功能。更厉害的是它还提供来自WEKA(一种智能分析环境)和R脚本的学习方案、模型和算法。

RapidMiner分布在AGPL开源许可下，可以从SourceForge上下载。SourceForge是一个开发者进行开发管理的集中式场所，大量开源项目在此落户，其中就包括维基百科使用的MediaWiki。

3、NLTK

当涉及到语言处理任务，没有什么可以打败NLTK。NLTK提供了一个语言处理工具，包括数据挖掘、机器学习、数据抓取、情感分析等各种语言处理任务。

而您需要做的只是安装NLTK，然后将一个包拖拽到您最喜爱的任务中，您就可以去做其他事了。因为它是用Python语言编写的，你可以在上面建立应用，还可以自定义它的小任务。

4、Orange

Python之所以受欢迎，是因为它简单易学并且功能强大。如果你是一个Python开发者，当涉及到需要找一个工作用的工具时，那么没有比Orange更合适的了。它是一个基于Python语言，功能强大的开源工具，并且对初学者和专家级的大神均适用。

此外，你肯定会爱上这个工具的可视化编程和Python脚本。它不仅有机器学习的组件，还附加有生物信息和文本挖掘，可以说是充满了数据分析的各种功能。

5、KNIME

数据处理主要有三个部分：提取、转换和加载。而这三者KNIME都可以做到。KNIME为您提供了一个图形化的用户界面，以便对数据节点进行处理。它是一个开源的数据分析、报告和综合平台，同时还通过其模块化数据的流水型概念，集成了各种机器学习的组件和数据挖掘，并引起了商业智能和财务数据分析的注意。

KNIME是基于Eclipse，用Java编写的，并且易于扩展和补充插件。其附加功能可随时添加，并且其大量的数据集成模块已包含在核心版本中。

6、R-Programming

如果我告诉你R项目，一个GNU项目，是由R(R-programming简称，以下统称R)自身编写的，你会怎么想它主要是由C语言和FORTRAN语言编写的，并且很多模块都是由R编写的，这是一款针对编程语言和软件环境进行统计计算和制图的免费软件。

R语言被广泛应用于数据挖掘，以及开发统计软件和数据分析中。近年来，易用性和可扩展性也大大提高了R的知名度。除了数据，它还提供统计和制图技术，包括线性和非线性建模，经典的统计测试，时间序列分析、分类、收集等等。

呱呱软件库是一个开源的自然语言处理工具库，其中包含了众多基于深度学习的算法和技术。它可以用来处理各种文本相关的任务，如文本分类、情感分析、命名实体识别、机器翻译等。由于它是开源的，因此可以在众多开发者之间进行共享和协作，不断完善和提高呱呱软件库的性能和效果。同时，由于是基于深度学习的技术，呱呱软件库对于处理自然语言的能力也十分强大和智能化。

　　大数据分析是一个含义广泛的术语，是指数据集，如此庞大而复杂的，他们需要专门设计的硬件和软件工具进行处理。该数据集通常是万亿或EB的大小。这些数据集收集自各种各样的来源：传感器，气候信息，公开的信息，如杂志，报纸，文章。大数据分析产生的其他例子包括购买交易记录，网络日志，病历，军事监控，视频和图像档案，及大型电子商务。

　　大数据分析，他们对企业的影响有一个兴趣高涨。大数据分析是研究大量的数据的过程中寻找模式，相关性和其他有用的信息，可以帮助企业更好地适应变化，并做出更明智的决策。

　　一、Hadoop

　　Hadoop是一个开源框架，它允许在整个集群使用简单编程模型计算机的分布式环境存储并处理大数据。它的目的是从单一的服务器到上千台机器的扩展，每一个台机都可以提供本地计算和存储。

　　Hadoop 是一个能够对大量数据进行分布式处理的软件框架。但是 Hadoop 是以一种可靠、高效、可伸缩的方式进行处理的。Hadoop

是可靠的，即使计算元素和存储会失败，它维护多个工作数据副本，确保能够针对失败的节点重新分布处理。Hadoop是高效的，它采用并行的方式工作，通过并行处理加快处理速度。Hadoop

还是可伸缩的，能够处理 PB 级数据。此外，Hadoop 依赖于社区服务器，因此它的成本比较低，任何人都可以使用。

　　Hadoop是轻松架构和使用的分布式计算平台。用户可以轻松地在Hadoop上开发和运行处理海量数据的应用程序。它主要有以下几个优点：

　　1、高可靠性。Hadoop按位存储和处理数据的能力值得人们信赖。

　　2、高扩展性。Hadoop是在可用的计算机集簇间分配数据并完成计算任务的，这些集簇可以方便地扩展到数以千计的节点中。

　　3、高效性。Hadoop能够在节点之间动态地移动数据，并保证各个节点的动态平衡，因此处理速度非常快。

　　4、高容错性。Hadoop能够自动保存数据的多个副本，并且能够自动将失败的任务重新分配。

　　Hadoop带有用 Java 语言编写的框架，因此运行在 Linux 生产平台上是非常理想的。Hadoop 上的应用程序也可以使用其他语言编写，比如

C++。

　　二、HPCC

　　HPCC，High Performance Computing and

Communications(高性能计算与通信)的缩写。1993年，由美国科学、工程、技术联邦协调理事会向国会提交了"重大挑战项目：高性能计算与通信"的报告，也就是被称为HPCC计划的报告，即美国总统科学战略项目，其目的是通过加强研究与开发解决一批重要的科学与技术挑战问题。HPCC是美国实施信息高速公路而上实施的计划，该计划的实施将耗资百亿美元，其主要目标要达到：开发可扩展的计算系统及相关软件，以支持太位级网络传输性能，开发千兆比特网络技术，扩展研究和教育机构及网络连接能力。

　　该项目主要由五部分组成：

　　1、高性能计算机系统(HPCS)，内容包括今后几代计算机系统的研究、系统设计工具、先进的典型系统及原有系统的评价等;

　　2、先进软件技术与算法(ASTA)，内容有巨大挑战问题的软件支撑、新算法设计、软件分支与工具、计算计算及高性能计算研究中心等;

　　3、国家科研与教育网格(NREN)，内容有中接站及10亿位级传输的研究与开发;

　　4、基本研究与人类资源(BRHR)，内容有基础研究、培训、教育及课程教材，被设计通过奖励调查者-开始的，长期的调查在可升级的高性能计算中来增加创新意识流，通过提高教育和高性能的计算训练和通信来加大熟练的和训练有素的人员的联营，和来提供必需的基础架构来支持这些调查和研究活动;

　　5、信息基础结构技术和应用(IITA )，目的在于保证美国在先进信息技术开发方面的领先地位。

　　三、Storm

　　Storm是一个免费开源、分布式、高容错的实时计算系统。Storm令持续不断的流计算变得容易，弥补了Hadoop批处理所不能满足的实时要求。Storm经常用于在实时分析、在线机器学习、持续计算、分布式远程调用和ETL等领域。Storm的部署管理非常简单，而且，在同类的流式计算工具，Storm的性能也是非常出众的。

　　Storm是自由的开源软件，一个分布式的、容错的实时计算系统。Storm可以非常可靠的处理庞大的数据流，用于处理Hadoop的批量数据。Storm很简单，支持许多种编程语言，使用起来非常有趣。Storm由Twitter开源而来，其它知名的应用企业包括Groupon、淘宝、支付宝、阿里巴巴、乐元素、Admaster等等。

　　Storm有许多应用领域：实时分析、在线机器学习、不停顿的计算、分布式RPC(远过程调用协议，一种通过网络从远程计算机程序上请求服务)、

ETL(Extraction-Transformation-Loading的缩写，即数据抽取、转换和加载)等等。Storm的处理速度惊人：经测试，每个节点每秒钟可以处理100万个数据元组。Storm是可扩展、容错，很容易设置和操作。

　　四、Apache Drill

　　为了帮助企业用户寻找更为有效、加快Hadoop数据查询的方法，Apache软件基金会近日发起了一项名为"Drill"的开源项目。Apache

Drill 实现了Google’s Dremel。"Drill"已经作为Apache孵化器项目来运作，将面向全球软件工程师持续推广。

　　该项目将会创建出开源版本的谷歌Dremel

Hadoop工具(谷歌使用该工具来为Hadoop数据分析工具的互联网应用提速)。而"Drill"将有助于Hadoop用户实现更快查询海量数据集的目的。

　　"Drill"项目其实也是从谷歌的Dremel项目中获得灵感：该项目帮助谷歌实现海量数据集的分析处理，包括分析抓取Web文档、跟踪安装在Android

Market上的应用程序数据、分析垃圾邮件、分析谷歌分布式构建系统上的测试结果等等。

　　通过开发"Drill"Apache开源项目，组织机构将有望建立Drill所属的API接口和灵活强大的体系架构，从而帮助支持广泛的数据源、数据格式和查询语言。

　　五、RapidMiner

　　RapidMiner提供机器学习程序。而数据挖掘，包括数据可视化，处理，统计建模和预测分析。

　　RapidMiner是世界领先的数据挖掘解决方案，在一个非常大的程度上有着先进技术。它数据挖掘任务涉及范围广泛，包括各种数据艺术，能简化数据挖掘过程的设计和评价。

　　功能和特点

　　免费提供数据挖掘技术和库;100%用Java代码(可运行在操作系统);数据挖掘过程简单，强大和直观;内部XML保证了标准化的格式来表示交换数据挖掘过程;可以用简单脚本语言自动进行大规模进程;多层次的数据视图，确保有效和透明的数据;图形用户界面的互动原型;命令行(批处理模式)自动大规模应用;Java

API(应用编程接口);简单的插件和推广机制;强大的可视化引擎，许多尖端的高维数据的可视化建模;400多个数据挖掘运营商支持;耶鲁大学已成功地应用在许多不同的应用领域，包括文本挖掘，多媒体挖掘，功能设计，数据流挖掘，集成开发的方法和分布式数据挖掘。

　　RapidMiner的局限性;RapidMiner 在行数方面存在大小限制;对于RapidMiner，您需要比ODM和SAS更多的硬件资源。

　　六、Pentaho BI

　　Pentaho BI 平台不同于传统的BI

产品，它是一个以流程为中心的，面向解决方案(Solution)的框架。其目的在于将一系列企业级BI产品、开源软件、API等等组件集成起来，方便商务智能应用的开发。它的出现，使得一系列的面向商务智能的独立产品如Jfree、Quartz等等，能够集成在一起，构成一项项复杂的、完整的商务智能解决方案。

　　Pentaho BI 平台，Pentaho Open BI

套件的核心架构和基础，是以流程为中心的，因为其中枢控制器是一个工作流引擎。工作流引擎使用流程定义来定义在BI

平台上执行的商业智能流程。流程可以很容易的被定制，也可以添加新的流程。BI

平台包含组件和报表，用以分析这些流程的性能。目前，Pentaho的主要组成元素包括报表生成、分析、数据挖掘和工作流管理等等。这些组件通过

J2EE、WebService、SOAP、HTTP、Java、JavaScript、Portals等技术集成到Pentaho平台中来。

Pentaho的发行，主要以Pentaho SDK的形式进行。

　　Pentaho

SDK共包含五个部分：Pentaho平台、Pentaho示例数据库、可独立运行的Pentaho平台、Pentaho解决方案示例和一个预先配制好的

Pentaho网络服务器。其中Pentaho平台是Pentaho平台最主要的部分，囊括了Pentaho平台源代码的主体;Pentaho数据库为

Pentaho平台的正常运行提供的数据服务，包括配置信息、Solution相关的信息等等，对于Pentaho平台来说它不是必须的，通过配置是可以用其它数据库服务取代的;可独立运行的Pentaho平台是Pentaho平台的独立运行模式的示例，它演示了如何使Pentaho平台在没有应用服务器支持的情况下独立运行;

　　Pentaho解决方案示例是一个Eclipse工程，用来演示如何为Pentaho平台开发相关的商业智能解决方案。

　　Pentaho BI 平台构建于服务器，引擎和组件的基础之上。这些提供了系统的J2EE

服务器，安全，portal，工作流，规则引擎，图表，协作，内容管理，数据集成，分析和建模功能。这些组件的大部分是基于标准的，可使用其他产品替换之。

　　七、Druid

　　Druid是实时数据分析存储系统，Java语言中最好的数据库连接池。Druid能够提供强大的监控和扩展功能。

　　八、Ambari

　　大数据平台搭建、监控利器;类似的还有CDH

　　1、提供Hadoop集群

　　Ambari为在任意数量的主机上安装Hadoop服务提供了一个逐步向导。

　　Ambari处理集群Hadoop服务的配置。

　　2、管理Hadoop集群

　　Ambari为整个集群提供启动、停止和重新配置Hadoop服务的中央管理。

　　3、监视Hadoop集群

　　Ambari为监视Hadoop集群的健康状况和状态提供了一个仪表板。

　　九、Spark

　　大规模数据处理框架(可以应付企业中常见的三种数据处理场景：复杂的批量数据处理(batch data

processing);基于历史数据的交互式查询;基于实时数据流的数据处理，Ceph:Linux分布式文件系统。

　　十、Tableau Public

　　1、什么是Tableau Public - 大数据分析工具

　　这是一个简单直观的工具。因为它通过数据可视化提供了有趣的见解。Tableau

Public的百万行限制。因为它比数据分析市场中的大多数其他玩家更容易使用票价。使用Tableau的视觉效果，您可以调查一个假设。此外，浏览数据，并交叉核对您的见解。

　　2、Tableau Public的使用

　　您可以免费将交互式数据可视化发布到Web;无需编程技能;发布到Tableau

Public的可视化可以嵌入到博客中。此外，还可以通过电子邮件或社交媒体分享网页。共享的内容可以进行有效硫的下载。这使其成为最佳的大数据分析工具。

　　3、Tableau Public的限制

　　所有数据都是公开的，并且限制访问的范围很小;数据大小限制;无法连接到[R ;读取的唯一方法是通过OData源，是Excel或txt。

　　十一、OpenRefine

　　1、什么是OpenRefine - 数据分析工具

　　以前称为GoogleRefine的数据清理软件。因为它可以帮助您清理数据以进行分析。它对一行数据进行操作。此外，将列放在列下，与关系数据库表非常相似。

　　2、OpenRefine的使用

　　清理凌乱的数据;数据转换;从网站解析数据;通过从Web服务获取数据将数据添加到数据集。例如，OpenRefine可用于将地址地理编码到地理坐标。

　　3、OpenRefine的局限性

　　Open Refine不适用于大型数据集;精炼对大数据不起作用

　　十二、KNIME

　　1、什么是KNIME - 数据分析工具

　　KNIME通过可视化编程帮助您操作，分析和建模数据。它用于集成各种组件，用于数据挖掘和机器学习。

　　2、KNIME的用途

　　不要写代码块。相反，您必须在活动之间删除和拖动连接点;该数据分析工具支持编程语言;事实上，分析工具，例如可扩展运行化学数据，文本挖掘，蟒蛇，和[R

。

　　3、KNIME的限制

　　数据可视化不佳

　　十三、Google Fusion Tables

　　1、什么是Google Fusion Tables

　　对于数据工具，我们有更酷，更大版本的Google Spreadsheets。一个令人难以置信的数据分析，映射和大型数据集可视化工具。此外，Google

Fusion Tables可以添加到业务分析工具列表中。这也是最好的大数据分析工具之一。

　　2、使用Google Fusion Tables

　　在线可视化更大的表格数据;跨越数十万行进行过滤和总结;将表与Web上的其他数据组合在一起;您可以合并两个或三个表以生成包含数据集的单个可视化;

　　3、Google Fusion Tables的限制

　　表中只有前100,000行数据包含在查询结果中或已映射;在一次API调用中发送的数据总大小不能超过1MB。

　　十四、NodeXL

　　1、什么是NodeXL

　　它是关系和网络的可视化和分析软件。NodeXL提供精确的计算。它是一个免费的(不是专业的)和开源网络分析和可视化软件。NodeXL是用于数据分析的最佳统计工具之一。其中包括高级网络指标。此外，访问社交媒体网络数据导入程序和自动化。

　　2、NodeXL的用途

　　这是Excel中的一种数据分析工具，可帮助实现以下方面：

　　数据导入;图形可视化;图形分析;数据表示;该软件集成到Microsoft Excel

2007,2010,2013和2016中。它作为工作簿打开，包含各种包含图形结构元素的工作表。这就像节点和边缘;该软件可以导入各种图形格式。这种邻接矩阵，Pajek

net，UCINet dl，GraphML和边缘列表。

　　3、NodeXL的局限性

　　您需要为特定问题使用多个种子术语;在稍微不同的时间运行数据提取。

　　十五、Wolfram Alpha

　　1、什么是Wolfram Alpha

　　它是Stephen Wolfram创建的计算知识引擎或应答引擎。

　　2、Wolfram Alpha的使用

　　是Apple的Siri的附加组件;提供技术搜索的详细响应并解决微积分问题;帮助业务用户获取信息图表和图形。并有助于创建主题概述，商品信息和高级定价历史记录。

　　3、Wolfram Alpha的局限性

　　Wolfram Alpha只能处理公开数字和事实，而不能处理观点;它限制了每个查询的计算时间;这些数据分析统计工具有何疑问

　　十六、Google搜索运营商

　　1、什么是Google搜索运营商

　　它是一种强大的资源，可帮助您过滤Google结果。这立即得到最相关和有用的信息。

　　2、Google搜索运算符的使用

　　更快速地过滤Google搜索结果;Google强大的数据分析工具可以帮助发现新信息。

　　十七、Excel解算器

　　1、什么是Excel解算器

　　Solver加载项是Microsoft Office Excel加载项程序。此外，它在您安装Microsoft

Excel或Office时可用。它是excel中的线性编程和优化工具。这允许您设置约束。它是一种先进的优化工具，有助于快速解决问题。

　　2、求解器的使用

　　Solver找到的最终值是相互关系和决策的解决方案;它采用了多种方法，来自非线性优化。还有线性规划到进化算法和遗传算法，以找到解决方案。

　　3、求解器的局限性

　　不良扩展是Excel Solver缺乏的领域之一;它会影响解决方案的时间和质量;求解器会影响模型的内在可解性;

　　十八、Dataiku DSS

　　1、什么是Dataiku DSS

　　这是一个协作数据科学软件平台。此外，它还有助于团队构建，原型和探索。虽然，它可以更有效地提供自己的数据产品。

　　2、Dataiku DSS的使用

　　Dataiku DSS - 数据分析工具提供交互式可视化界面。因此，他们可以构建，单击，指向或使用SQL等语言。

　　3、Dataiku DSS的局限性

　　有限的可视化功能;UI障碍：重新加载代码/数据集;无法轻松地将整个代码编译到单个文档/笔记本中;仍然需要与SPARK集成

　　以上的工具只是大数据分析所用的部分工具，小编就不一一列举了，下面把部分工具的用途进行分类：

　　1、前端展现

　　用于展现分析的前端开源工具有JasperSoft，Pentaho, Spagobi, Openi, Birt等等。

　　用于展现分析商用分析工具有Style Intelligence、RapidMiner Radoop、Cognos, BO, Microsoft

Power BI, Oracle,Microstrategy,QlikView、 Tableau 。

　　国内的有BDP，国云数据(大数据分析魔镜)，思迈特，FineBI等等。

　　2、数据仓库

　　有Teradata AsterData, EMC GreenPlum, HP Vertica 等等。

　　3、数据集市

　　有QlikView、 Tableau 、Style Intelligence等等。