当前位置: Oracle DBA培训网-优技培训 >> Hadoop大数据 > Hadoop培训教程 >

Hadoop大数据教程:基于Streaming实现的编译

Hadoop大数据教程:基于Streaming实现的编译

Hadoop大数据教程:基于Streaming实现的编译,在Streaming接口实现的程序中,用户的Map和Reduce都是单独的可执行程序,在上节实现中是使用C++实现的,包括Map程序WordcountMap.cpp,Reduce程序WordcountReduce.cpp。由于写Streaming程序不依赖于Hadoop的类库,因此可以像一般的C++程序一样进行编译,例如这里使用make进行编译,Makefile内容如下:

CXX = g++

CXXFLAGS = -g -Wall -O2

sMap = WordcountMap.cpp

sReduce = WordcountReduce.cpp

tMap = $(basename $(sMap))

tReduce = $(basename $(sReduce))

.PHONY : all

all : $(tMap) $(tReduce)

WordcountMap : WordcountMap.o

$(CXX) $< -o $@

WordcountReduce : WordcountReduce.o

$(CXX) $< -o $@

%.o : %.cpp

$(CXX) -c $< -o $@ $(CXXFLAGS)

PHONY : clean

clean :

-rm -rf $(tMap) $(tReduce) *.o

编写完Makef?ile之后直接使用make就可以进行编译了,这和一般的C++程序的编译没有任何区别。

技术沙龙MORE+

Oracle技术沙龙:【数据保护顶尖技术-MAA】首次全国首播12c MAA技术 云数据库加上MAA技术组成最豪华的技...
Oracle技术沙龙第49期:【Oracle 数据库云技术分享】Oracle技术沙龙第49期:【Oracle 数据库云技术分享】本次技术沙...
Oracle技术沙龙第48期:【Oracle 12c RAC安装】小编:今天讲什么内容呢?以后有什么用呢? 大师:今天讲的是12c...
我要参加技术沙龙

关闭