很多小伙伴都关心大数据平台是干嘛的(大数据平台指的是什么)相关问题，本文通过数据整理出大数据平台是干嘛的(大数据平台指的是什么)，一起来看看吧！

首先，第一个问题是什么是大数据平台。大数据平台开发大数据平台工程师主要专注于提供大数据基础设施和工具。数据库，大数据平台类，星环，还有一家做Hadoop生态系列的大数据平台公司。大数据平台开发大数据分析师(BI)大数据运维大数据处理(ETL)大数据组件开发(大数据组件底层)。

大数据平台是什么？什么时候需要大数据平台？

谢邀！最近我和我的团队一直在做一些大数据相关的工作，我来回答一下这个问题。首先是第一个问题，大数据平台是什么？当我们说到一个平台的时候，我们的意识里面往往就知道，这里面肯定不止一样东西，它是很多东西的一个集合，大数据平台也是一样，首先如果用几个字来描述它的话就是它是一个数据解决方案，进一步解析就是大数据平台它是一个以分布式存储为基础，集成了数据获取，数据清洗，数据流转，数据分析，数据输出等工具集的一个数据解决方案。

它的核心使命是提供数据存储和数据分析服务给目标客户。那么它的核心组成部分是什么呢？实现的方法有多种，我就举一个最典型的大数据平台结构作为说明。目前无论是国内或者国外，应用最广泛也是最典型的大数据平台是以Hadoop为核心进行功能延伸的生态系统，业内把它叫做Hadoop生态，它开源并且免费使用，它长什么样子？它的面目基本上是这样从上图我们得知，它就是一套以Hadoop分布式文件系统为核心的数据处理工具集，目的是为了向用户提供数据分析服务的一个集成解决方案。

什么时候需要大数据平台？简单的说就是当数据总量大到传统单机数据解决方面没办法存储，分析，计算时就要用到大数据平台。举例说，家用电脑目前一般是配置2TB大小的硬盘(存储容量约等于于18个128G的iPhone)，一般几万块钱的商用服务器容量大约在32TB容量，高端的单机存储器可以达到100TB以上，但是数据量如果再大比如上跳一个数量级1000TB,也就是1PB左右，单机系统就无能为力了，不单是存储容量无能为力，计算能力也无法应对了，因为我们知道，单台计算机的性能是有极限的，数据太多磁盘检索读取的速度就会变慢，CPU和内存压力也会变大，这个时候需要完成一个数据分析任务就要耗时很长，那么这个时候大数据平台就派上用场了，大数据平台的一个特性就是多台计算机组成一个集群集体并行作战，并且理论上可以无限拓展。

大数据采集平台有哪些？

谢邀，据我所知，大数据采集平台根据数据来源大致有这几种1系统日志采集平台。大部分企业都是有系统日志采集平台的，在企业的业务平台下，每天都会产生大量的日志数据。企业通过采集这些日志数据并对它清洗整理后进行数据分析，从而挖掘出这些日志数据中的潜在价值。2网络数据采集平台。这种数据采集平台一般都是通过爬虫去采集的，在服务器上搭建一个对目标网站集进行爬取的爬虫，然后将每天爬取到的数据进行清洗整理，最终得到企业所需的数据。

大数据平台的软件有哪些？

这个要分好几块来讲，首先我要说明的是大数据项目也是要有很多依赖的模块的。每个模块的软件不一样，下面分别聊一下。一大数据处理这个是所谓大数据项目中最先想到的模块。主要有spark，hadoop，es，kafka，hbase，hive等。当然像是flume，sqoop也都很常用。这些软件主要是为了解决海量数据处理的问题。

软件很多，我只列几个经典的，具体可以自行百度。二机器学习相关大部分大数据项目都和机器学习相关。因此会考虑到机器学习的一些软件，比如说sklearn，spark的ml，当然还有自己实现的代码。三web相关技术大部分项目也都跑不了一个web的展示，因此web就很重要的，java的ssh，python的django都可以，这个看具体的项目组习惯了。

第四，还有一些其他常用的东西。个人认为不完全算是大数据的具体使用范围。反正我在做大数据项目的时候用过。比如数据存储redis，mysql。数据可视化echart。图二级数据库。先说大数据平台的软件或者工具。1数据库，大数据平台类，星环，还有就是Hadoop生态系列的大数据平台公司。

更多大数据平台是干嘛的(大数据平台指的是什么)相关问题请持续关注本站。