• linkedu视频
  • 平面设计
  • 电脑入门
  • 操作系统
  • 办公应用
  • 电脑硬件
  • 动画设计
  • 3D设计
  • 网页设计
  • CAD设计
  • 影音处理
  • 数据库
  • 程序设计
  • 认证考试
  • 信息管理
  • 信息安全
菜单
linkedu.com
导航菜单
  • 网页制作
  • 数据库
  • 程序设计
  • 操作系统
  • CMS教程
  • 游戏攻略
  • 脚本语言
  • 平面设计
  • 软件教程
  • 网络安全
  • 电脑知识
  • 服务器
  • 视频教程
  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx
您的位置:首页 > 服务器 >云计算 > 分析MapReduce与Storm的异同,mapreducestorm

分析MapReduce与Storm的异同,mapreducestorm

作者:网友 字体:[增加 减小] 来源:互联网

本文主要包含mapreduce源码分析,mapreduce,mapreduce是什么,mapreduce原理,mapreduce编程实例等服务器相关知识,网友希望可以进行参考

分析MapReduce与Storm的异同,mapreducestorm


[Author]: kwu 

分析MapReduce与Storm的异同

1、MapReduce与Storm处理数据的不同:
MapReduce  处理大数据、批处理,数据是相对不变的。

Storm:流数据、实时处理,流数据在实时变化。
对流数据进行并进处理
1) 对于单机来说,使用多进程,多线程。
2) 多机同时多进程、多线程的数据处理(分布式)

2、MapReduce 与storm都是分阶段
1)map、reduce
2)storm处理的阶段 :  spout、bolt 
3)MR运行是会结束的,storm是永不停的相当于tomcat的服务。
4)单位时间内处理的数据量,MR大于Storm
5) stream 流时计算。需要实时处理的数据,地震的数据,电商网站的实时数据,推荐,航班。
6)需要看每个月的结果,用MR来处理


3、tuple是storm数据处理的基本单位
实现上相当于MR的KV键值对

4、spout是storm对外的接口
spout是storm数据输入的来源进入了storm处理范围之内
之后的数据交给,bolt阶段处理。

spout --> bolt (处理的单元为 tuple)

通过 oo 封装成 topology
类型MR中的JOB的概念。



5、相关配置文件 
MapReduce: mapred-site.xml
storm: Storm.yaml
配置项对大小写及空格敏感

分享到:QQ空间新浪微博腾讯微博微信百度贴吧QQ好友复制网址打印

您可能想查找下面的文章:

  • 分析MapReduce与Storm的异同,mapreducestorm

相关文章

  • 大数据分析与应用的8个场景
  • RedHadoop创始人童小军在北京开讲“Hadoop2.0集群优化与管理”啦!,redhadoophadoop2.0
  • LinkedIn Cubert安装指南,linkedincubert
  • hadoop基础知识
  • Hadoop启动时报错:Incorrect configuration: namenode address dfs.namenode.servicerpc-address or...,hadoopnamenode
  • 《转》openstack中删除虚拟主机,状态一直deleting,《转》openstack
  • UCB CS162: Get sarted, create a docker container for UCB CS162 online course,ucbcs162
  • MemStore刷写线程—MemStoreFlusher源代码分析,hbasememstore
  • Azure云平台学习之路(三)——Cloud Services,azurecloud
  • Cloud Foundry安装部署指南(下),cloudfoundry

文章分类

  • windows
  • 服务器硬件
  • 服务器运维
  • 云计算
  • 虚拟化
  • IIS教程
  • Linux
  • Apache
  • Ftp
  • DNS
  • Nginx

最近更新的内容

    • MapReduce处理表的自连接,mapreduce处理表
    • 一篇博文简单了解weka,博文简单weka
    • Docker 中文文档目录,docker文档目录
    • 机器学习-组合算法总结,机器组合算法总结
    • Hadoop平台安装前准备,hadoop平台准备
    • The method getContextPath() from the type HttpServletRequest refers to the miss,getcontextpath
    • 基于 ssh + Xpra 构建 Docker 桌面系统,xpradocker
    • Hadoop学习---第一篇搭建Hadoop集群,---hadoop
    • 推荐引擎mahout安装与配置,引擎mahout配置
    • spark on yarn的cpu使用,sparkonyarncpu

关于我们 - 联系我们 - 免责声明 - 网站地图

©2020-2025 All Rights Reserved. linkedu.com 版权所有