hadoop将int数组从map传递到reducer并作为输出

问题描述 投票:3回答:1

我正在学习使用hadoop,并遇到以下问题:我需要将一个int数组从map函数传递给reducer,然后作为输出。

所以看起来像这样:

public void map(LongWritable key,Text value,OutputCollector<Text, IntWritable> output,Reporter reporter) throws IOException{
..snip..
int[] output={0,0,1,1}; //or something like it
output.collect(word,output);
}

and 

public static class reduce exteds mapReduceBase implements reducer<Text,IntWritable,Text, Intwriteable>{
  int[] sum={0,0,0,0}
  while(values.hasNext()){
   int[] numbers=values.next().get
    for(int i=0;i<numbers.length;i++)
       sum[i]=sum[i]+numbers[i]; 
  }
}

如果您知道如何解决此问题,请发布。谢谢。

java arrays hadoop int cloudera
1个回答
1
投票

考虑编写自己的custom Writable(扩展Writable应该很容易-实际上,此类的JavaDoc拥有ArrayWritable数组的示例)。

© www.soinside.com 2019 - 2024. All rights reserved.