MapReduce引擎如何实现

146次阅读

没有评论

共计 1001 个字符，预计需要花费 3 分钟才能阅读完成。

自动写代码机器人，免费开通

今天就跟大家聊聊有关 MapReduce 引擎如何实现，可能很多人都不太了解，为了让大家更加了解，丸趣 TV 小编给大家总结了以下内容，希望大家根据这篇文章可以有所收获。

MapReduce 引擎怎么实现

使用例子见下，只需要 import 一个名即可。

#!/usr/bin/env python

import mincemeat

data = [Humpty Dumpty sat on a wall ,

Humpty Dumpty had a great fall ,

All the King s horses and all the King s men ,

Couldn t put Humpty together again ,

]

def mapfn(k, v):

for w in v.split():

yield w, 1

def reducefn(k, vs):

MapReduce 引擎怎么实现

result = 0

for v in vs:

result += v

return result

s = mincemeat.Server()

# The data source can be any dictionary-like object

s.datasource = dict(enumerate(data))

s.mapfn = mapfn

s.reducefn = reducefn

results = s.run_server(password= changeme)

print results

然后将 mincemeat.py 和 example.py 放在同一个目录下，执行 example.py

python example.py

这时程序会挂起一个 daemon

然后另开一终端运行：

python mincemeat.py -p changeme localhost

就会看到刚才的 daemon 打印出了 MapReduce 结果并退出了。

{‘a’: 2,‘on’: 1,‘great’: 1,‘Humpty’: 3,‘again’: 1,‘wall’: 1,‘Dumpty’: 2,‘men’: 1,‘had’: 1,‘all’: 1,‘together’: 1,“King’s”: 2,‘horses’: 1,‘All’: 1,“Couldn’t”: 1,‘fall’: 1,‘and’: 1,‘the’: 2,‘put’: 1,’sat’: 1}

看完上述内容，你们对 MapReduce 引擎如何实现有进一步的了解吗？如果还想了解更多知识或者相关内容，请关注丸趣 TV 行业资讯频道，感谢大家的支持。

向 AI 问一下细节

正文完