等效于 mongo 的 out:reduce 选项在 hadoop [英] Equivalent of mongo's out:reduce option in hadoop

查看:30
本文介绍了等效于 mongo 的 out:reduce 选项在 hadoop的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

我正在重写一个 MongoDB map reduce 作业以使用 Hadoop(使用 mongo-hadoop 连接器),但是当我将两个数据集映射到同一个集合时,它会覆盖值而不是使用它们

I'm rewriting a MongoDB map reduce job to use Hadoop instead (using the mongo-hadoop connector), but when I map two datasets to the same collection, it overwrites the values instead of using them

{ reduce : "collectionName" } - 如果结果集中和旧集合中的给定键存在文档,则将对这两个值执行归约操作(使用指定的归约函数),并且结果将被写入输出集合.如果提供了 finalize 函数,这也将在 reduce 之后运行.

如何使用 mongo-hadoop?

How is done using mongo-hadoop?

推荐答案

对于正在寻找此功能的其他人,即将支持多输入.

To anyone else looking for this, support for multiple input is coming soon.

更改的分支位于这里.它做得很好,我们正在生产中使用它.

The branch with the change is located here. It's pretty well done, we're using it in production.

这篇关于等效于 mongo 的 out:reduce 选项在 hadoop的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持IT屋!

查看全文
登录 关闭
扫码关注1秒登录
发送“验证码”获取 | 15天全站免登陆