mapreduce 相关问题

MapReduce是一种使用大量节点处理某些类型的可分发问题的大型数据集的算法

每个Mapper执行的任务

我有一个有多个连接的SQL。 2017-12-28 05:15:53,140地图1:15/15地图6:9/9地图7:29/29地图8:198(+2)/ 200地图9:1/1减速机2:1/1减速机3:0(+1)/ 1减速机4:0(+3)/ 3 ......

回答 1 投票 0

MapReduce基础知识

我有一个300mb的文本文件,块大小为128mb。因此将创建总共3个块128 + 128 + 44 mb。纠正我 - 对于map reduce,默认输入分割与128mb的块大小相同,可以......

回答 1 投票 0

通过s3在Amazon EMR上的TezTask顶点失败

我在EMR上创建了Hive表,看起来像创建外部表tests3(transaction_id String,order_id String,user_id String,amount String,subscriber_number String,product_type String,...

回答 2 投票 0

MapReduce和HDFS块大小

在关于Java for Hadoop的教科书中我读到:MapReduce中的Map任务通常一次只能在一个块上运行,所以如果你的任务太少(比集群中的节点少),你的作业会运行得更慢......

回答 1 投票 0

为hadoop设置的类路径在哪里

hadoop集的类路径在哪里?当我运行下面的命令时,它给了我类路径。类路径设置在哪里? bin / hadoop classpath我正在使用hadoop 2.6.0

回答 4 投票 6

dotnet mongodb驱动2.3和mapreduce无法正常工作

我正在尝试用c#2.3驱动程序执行一个非常简单的mongodb mapreduce,但我得到一个例外:代码是:`string StringDeConexao =“mongodb://10.0.0.211:27017”; ...

回答 1 投票 1

如何在python中为Hadoop Map Reduce作业编写组合器和分区器?我如何在Hadoop Job中调用它

如何在python中编写组合器和分区器作业并使用Hadoop Streaming调用它。

回答 2 投票 0

Spark(pyspark)如何仅在3元素元组的2个元素上reduceByKey

我有地图的结果,看起来像这样[('成功','',1),('成功','',1),('错误','something_random',1),('错误', 'something_random',1),('error','something_random',1)]是......

回答 1 投票 0

借助自动缩放功能在Cloud Foundry上进行分布式计算

我有一些计算密集和长期运行的任务。它可以很容易地分成子任务,也可以很容易地在以后聚合结果。例如Map / Reduce可以工作......

回答 1 投票 0

减少功能不会影响最终输出

我从Mapreduce代码得到了奇怪的输出:输入:aa bb aa cc bb aa cc dd db bb xx aa ss rr输出:aa org.mapreduce.userscore.UserScore$ScoreWritable@1 aa org ....

回答 2 投票 2

AWS EMR性能HDFS与S3

在大数据中,代码被推向数据以供执行。这是有道理的,因为数据很大并且执行代码相对较小。来到AWS EMR,数据可以是HDFS或......

回答 3 投票 5

基于Hadoop MapReduce的Web Java Crawler

我想使用MapReduce架构实现基于Hadoop Framework的Java爬虫,并在HBase中插入内容。我尝试结合这两个教程:基本网络爬虫示例MapReduce ...

回答 1 投票 0

JavaScript的Reduce如何分配其价值?

问题:我不明白reduce如何从数组中分配/减少客户名称。我需要有人来解释这里发生的事情。详细说明在......

回答 1 投票 3

在hadoop中序列化数组

我想序列化一个stringarray“textData”并将其从mapper发送到reducer public void map(LongWritable key,Text value,OutputCollector <IntWritable,Text> output,...

回答 1 投票 0

Hadoop:JPS找不到安装的Java

我的配置是hduser @ worker1:/ usr / local / hadoop / conf $ jps程序'jps'可以在以下包中找到:* openjdk-6-jdk * openjdk-7-jdk请管理员安装其中一个。 ..

回答 11 投票 2

在javascript中使用Object.keys()和map()方法访问对象数组

如何访问如下结构的对象数组?我想构建一个树来输出数据,如数组中的语言对象,以及它的嵌套对象,以及...

回答 2 投票 -2

地图减少如何工作..我说得对吗?

我试图理解map-reduce实际上是如何工作的。请阅读我在下面写的内容,并告诉我这里是否有任何遗漏的部分或不正确的东西。谢谢。数据首先被拆分......

回答 2 投票 0

同时处理大量数据

我有一个包含大量数据的表:id |标题|服务器1 |服务器2 | server 3 -------------------------------------------- 1 | item1 | 110.0.0.1 | 110.0.0.2 | 110.0.0.3 ......

回答 2 投票 0

线程“main”中的异常org.apache.hadoop.mapred.InvalidInputException:输入路径不存在:

我已经创建了一个输入目录并将示例文件放入其中。我也创建了一个输出目录。但是在mapreduce程序执行时我得到了以下错误。这是我执行的命令...

回答 1 投票 0

结束作业= job_local644049657_0014有错误作业期间出错,获取调试信息

如何查找日志文件请指导我已经检查了Resouce经理的网址。但我没有找到任何日志文件这是完整的错误查询ID = hadoop_20170325120040_d54d136a-1904-4af9 -...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.