在线精品99_中国九九盗摄偷拍偷看_91免费版在线观看_91.app_91高清视频在线_99热最新网站

MapReduce Map Join怎么使用

150次阅读
没有评论

共计 3115 个字符,预计需要花费 8 分钟才能阅读完成。

这篇文章主要介绍“MapReduce Map Join 怎么使用”,在日常操作中,相信很多人在 MapReduce Map Join 怎么使用问题上存在疑惑,丸趣 TV 小编查阅了各式资料,整理出简单好用的操作方法,希望对大家解答”MapReduce Map Join 怎么使用”的疑惑有所帮助!接下来,请跟着丸趣 TV 小编一起来学习吧!

1. 样例数据  
 

011990-99999 SIHCCAJAVRI
012650-99999 TYNSET-HANSMOEN

012650-99999 194903241200 111
012650-99999 194903241800 78
011990-99999 195005150700 0
011990-99999 195005151200 22
011990-99999 195005151800 -11

2. 需求  
 

3. 思路、代码  
将足够小的关联文件(即气象台信息)添加到分布式缓存,然后在每个 Mapper 端读取被缓存到本地的全量气象台信息,再与天气信息相关联。

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.LongWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.GenericOptionsParser;
import java.io.BufferedReader;
import java.io.FileReader;
import java.io.IOException;
import java.util.HashMap;
import java.util.Map;

 static class RecordMapper extends Mapper LongWritable, Text, Text, Text  {  private Map String, String  stationMap = new HashMap String, String  @Override  protected void setup(Context context) throws IOException, InterruptedException {  // 预处理,把要关联的文件加载到缓存中  Path[] paths = context.getLocalCacheFiles();  // 新的检索缓存文件的 API 是  context.getCacheFiles() ,而  context.getLocalCacheFiles()  被弃用  // 然而  context.getCacheFiles()  返回的是  HDFS  路径; context.getLocalCacheFiles()  返回的才是本地路径  // 这里只缓存了一个文件,所以取第一个即可  BufferedReader reader = new BufferedReader(new FileReader(paths[0].toString()));  String line = null;  try { while ((line = reader.readLine()) != null) { String[] vals = line.split( \\t  if (vals.length == 2) { stationMap.put(vals[0], vals[1]);  }  }  } catch (Exception e) { e.printStackTrace();  } finally { reader.close();  }  super.setup(context);  }  @Override  protected void map(LongWritable key, Text value, Context context) throws IOException, InterruptedException { String[] vals = value.toString().split( \\t  if (vals.length == 3) { String stationName = stationMap.get(vals[0]); //Join  stationName = stationName == null ?   : stationName;  context.write(new Text(vals[0]),  new Text(stationName +  \t  + vals[1] +  \t  + vals[2]));  }  }  }  public static void main(String[] args) throws Exception { Configuration conf = new Configuration();  String[] otherArgs = new GenericOptionsParser(conf, args).getRemainingArgs();  if (otherArgs.length != 3) {  System.err.println( Parameter number is wrong, please enter three parameters:ncdc input   station input   output  System.exit(-1);  }  Path inputPath = new Path(otherArgs[0]);  Path stationPath = new Path(otherArgs[1]);  Path outputPath = new Path(otherArgs[2]);  Job job = Job.getInstance(conf,  MapJoin  job.setJarByClass(MapJoin.class);  FileInputFormat.addInputPath(job, inputPath);  FileOutputFormat.setOutputPath(job, outputPath);  job.addCacheFile(stationPath.toUri()); // 添加缓存文件,可添加多个  job.setMapperClass(RecordMapper.class);  job.setMapOutputKeyClass(Text.class);  System.exit(job.waitForCompletion(true) ? 0 : 1);  } }

4. 运行结果

到此,关于“MapReduce Map Join 怎么使用”的学习就结束了,希望能够解决大家的疑惑。理论与实践的搭配能更好的帮助大家学习,快去试试吧!若想继续学习更多相关知识,请继续关注丸趣 TV 网站,丸趣 TV 小编会继续努力为大家带来更多实用的文章!

正文完
 
丸趣
版权声明:本站原创文章,由 丸趣 2023-08-16发表,共计3115字。
转载说明:除特殊说明外本站除技术相关以外文章皆由网络搜集发布,转载请注明出处。
评论(没有评论)
主站蜘蛛池模板: 国产不卡视频在线观看 | 91香蕉国产线观看免 | 日韩欧美亚洲乱码中文字幕 | 少妇放荡的呻吟干柴烈火免费视频 | 国产精品视频白浆免费视频 | 欧美日韩综合一区二区三区 | 国产成人a一区二区 | 色五月婷婷成人网 | 黑人巨大精品欧美一区二区 | a一级毛片免费播放 | 91白虎| 国内外成人免费视频 | 国产hs免费高清在线观看 | 国产成人无码一区二区三区 | 五月婷婷开心中文字幕 | 亚洲线精品一区二区三区影音先锋 | 国产综合久久 | 四虎影库在线永久影院免费观看 | 国产成人精品免费视频大全办公室 | 男女做爰猛烈叫床视频真实 | 国产剧情精品在线 | 午夜性色吃奶添下面69影院 | 伊人亚洲| 久久精品免视看国产明星 | 亚洲 欧美 小说 国产 图片 | 99pao在线视频成精品 | 国产精品久久久久久久伊一 | 亚洲欧美日韩综合一区二区 | 国产美女一级做a视频免费 国产美女一级做视频爱 | 欧美日本高清一本二本三本 | 国产在线视频一区二区三区 | 色综合视频一区中文字幕 | 人人人妻人人澡人人爽欧美一区 | 国产中日韩一区二区三区 | 久久午夜无码鲁丝片直播午夜精品 | 性色欧美| a级毛片免费高清毛片视频 a级毛片免费高清视频 | 91精品91久久久 | 亚洲av无码国产永久播放蜜芽 | 国内精品久久久久久99 | 色综合欧美亚洲另类久久 |