mapreduce 相关问题

MapReduce是一种使用大量节点处理某些类型的可分发问题的大型数据集的算法

如何将前两个配置单元表中的数据加载到下面的第三个配置表中?

下面是我面临的问题的简化版本,假设我在Hive中有一个员工和一个部门表。我的目标是将这两个表中的数据加载到下面的第三个表中。但是,...

回答 1 投票 0

无法创建数据库路径文件:/ user / hive /仓库错误

我有一个3节点的群集,运行某些HIVE查询时失败,失败:元数据错误:MetaException(message:无法创建数据库路径文件:/ user / hive / warehouse / ...

回答 2 投票 3

MapReduce作业配置-无法设置超级模式

我正在尝试将MapReduce作业设置为在uber模式下运行,但控制台仍注销uber模式:无论我做什么,每次都为false。 2010年4月19日17:07:13 INFO mapreduce。职位:工作job_1554301089905_0055 ...

回答 1 投票 0

如何在Spring Data MongoDB中投影地图并在ProjectionOperation中进行缩减?

我无法在ProjectionOperation的java mongodb中进行映射和减少操作。我在本机mongo查询中有这样的项目操作:{$ project:{data:{$ map:{...

回答 1 投票 1

在mongodb中与first或last进行聚合时,如何仅选择非null值?

我的数据表示一个字典,该字典接收大量更新和可能的新字段(将元数据添加到帖子中)。就像这样:> db.collection.find(){_id:...,'A':'apple','B'...

回答 3 投票 2

根据pyspark中的图邻接表表示生成2跳投影

我已从以下边缘的输入文件中在pyspark rdd中将邻接列表作为[键,值]对生成:7 10 7 8 7 4 8 9 8 5 9 5 9 10 10 6 4 5 5 6 4 6 1 4 1 3 2 3 2 ...

回答 1 投票 1

如何从通过python转换为字符串的冻结集中提取值?

我正在多部分地研究python map / reduce。我的第一个地图打印到标准输入,以便第一个reduce可以将其拾取。映射的结果如下所示:Frozenset([4])14 ...

回答 1 投票 0

在特定情况下避免在Apache Spark sql数据框中使用具有相同域的多个列的多个联接

我被要求通过数据帧在apache spark sql(java api)中做一些事情,我认为如果按照幼稚的方法执行,我的确会花费很多(我仍在以幼稚的方法工作...

回答 1 投票 0

批量处理中加入Vs减少

[Join和Reduce在批处理方面有什么主要区别?

回答 1 投票 1

如何打印出现的单词?

我在使用Mapreduce函数时遇到问题,现在我知道如何从mrjob.job导入MRJob类MRWordCounter(MRJob):def mapper(self,key,line):for word in ...

回答 1 投票 -3

Hadoop如何处理没有键值结构的文件

我是Hadoop的新手,正在学习Map Reduce范例。在本教程中,我遵循的观点是,映射缩减方法倾向于基于Key -...

回答 1 投票 0

将MapReduce参数提供给配置单元查询

有什么方法可以将map reduce参数提供给配置单元查询?例如我正在这样做,并且它不会在MR作业中设置该参数。蜂巢(默认)>设置mapreduce.map.output.value.class = org.apache ....

回答 1 投票 0

使用Java在Spark中进行映射

我具有以下格式的文件名myFile:1,A,2,B 1,A,3,C 2,B,4,DI想要将每行的第二个索引值映射到该行本身:A -> 1,A,2,BA-> 1,A,3,CB-> 2,B,4,D ...

回答 1 投票 -3

MongoDB-具有时间序列存储的MapReduce

我有一个基于时间序列存储模型的架构。我现在正在尝试将一些聚合管道转换为MapReduce模型,但是在...

回答 1 投票 0

MapReduce代码到Spark代码的转换

我有一个Mapper类,如下:公共静态类MyMapper扩展了Mapper {字符串行; String [] strList;字符串outputKey; @Override ...

回答 1 投票 -3

MapReduce找不到符号[重复项]

我再次寻求您的技术支持。我的代码中收到多个“找不到符号错误”。我该如何解决该错误?我也有转换变量类型的问题。对于某些...

回答 2 投票 -1

整理列表的字典(深度为2级)

我正在尽全力解决这个问题,但这还不够灵活。在我的Python脚本中,我有一个字典列表字典。 (实际上,它会更深一些,但该水平不是...

回答 3 投票 5

获取唯一元素数

我是编程的新手,所以对获得独特的数据组合感到困惑。这是我的数据集:客户,交易,日期,产品,成本X,1,02 / 02,A,10.99 X,1,02 / 02,B,4.99 X,2、04 / 02,A,9。 ..

回答 1 投票 1

MongoDB Map-Reduce:一个文档是否需要合并到所有其他符合条件的文档中?

甚至不确定是否可以使用正确的术语来问这个问题,但是我们开始吧。我有一个集合,正在使用MapReduce对其执行聚合任务。我无法使用聚合...

回答 2 投票 1

CouchDB视图每个键减少一个文档

我正在尝试使用SofaDb视图解决似乎很简单的问题,但我的结果集甚至还没有接近目标。而不是更新文档,而是创建一个新的...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.