我是把hadoop 0.20.2安装到/opt/hadoop目录下,故 HADOOP_HOME=/opt/hadoop
而我系统安装的是openjdk-1.6.0,主目录 JAVA_HOME= /usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64
一、编译
$cd /opt/hadoop
$ant compile-c++-libhdfs -Dislibhdfs=true
二、安装、配置
1)环境变量设置(CLASSPATH必须通过这个来设置,其它项可以通过Makefile完成)
HADOOP_HOME=
/opt/hadoop
JAVA_HOME=
/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64
# 此项可以通过Makefile设置
C_INCLUDE_PATH=
$HADOOP_HOME/src/c++/libhdfs:$JAVA_HOME/include:$JAVA_HOME/include/linux
CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
a)export设置立即生效,但只当次有效。重启机器需要重新设置环境变量。
$export HADOOP_HOME=/opt/hadoop
其它环境变量设置参照上面命令。
b)修改/etc/profile设置环境变量。修改完并非立即生效,而是重启机器后有效,而且以后都有效。
$gedit /etc/profile
在这个文件中找到一行
export PATH MAIL USER ...
在这行的前面添加
JAVA_HOME=
你的JAVA主目录
HADOOP_HOME
=
你的HADOOP主目录
# 此项可以通过Makefile设置
C_INCLUDE_PATH
=
那些头文件所在目录,用冒号:隔开
# 添加 $HADOOP_HOME
/*.jar 到 CLASSPATH变量中
for i in $HADOOP_HOME/*.jar ; do
CLASSPATH=$CLASSPATH:$i
done
# 添加 $HADOOP_HOME/lib/*.jar 到 CLASSPATH变量中
for i in $HADOOP_HOME/lib/*.jar ; do
CLASSPATH=$CLASSPATH:$i
done
在这行的后面添加
export PATH MAIL USER ... JAVA_HOME HADOOP_HOME C_INCLUDE_PATH
注:其中...表示省略的变量,还有很多变量,各个系统不一样,没必须全面写在这里,而且不是重点。
2)动态链接库(可通过Makefile设置)
$gedit /etc/ld.so.conf.d/hdfs.conf
在此文件中填入目录
/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64/jre/lib/amd64
/opt/hadoop/build/c++/Linux-amd64-64/lib
保存,退出,然后执行命令使配置文件生效
$ldconfig
3)通过Makefile设置相关项
Makefile写法
#指定hadoop安装目录
HADOOP_INSTALL=/opt/hadoop
#使用的平台类型,32位的是Linux-i386-32,64位的是Linux-amd64-64
PLATFORM
=Linux-i386-
32
#JAVA安装目录
JAVA_HOME
=
/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64
#寻找头文件的目录
CPPFLAGS
= -I$(HADOOP_INSTALL)/src/c++/
libhdfs -I
$(JAVA_HOME)/include -I$(JAVA_HOME)/include/linux
#寻找动态链接库的目录
LIB
= -L$(HADOOP_INSTALL)/c++/Linux-i386-
32
/lib/
libjvm
=/usr/lib/jvm/java-
6
-openjdk/jre/lib/i386/client/
libjvm.so
LDFLAGS
+= -
lhdfs
testHdfs: testHdfs.c
gcc testHdfs.c $(CPPFLAGS) $(LIB) $(LDFLAGS) $(libjvm)
-
o testHdfs
clean:
rm testHdfs
Makefile.am的写法
SUBDIRS=
HADOOP_INSTALL
=/opt/hadoop
PLATFORM
=Linux-amd64-
64
JAVA_HOME
=
/usr/lib/jvm/java-1.6.0-openjdk-1.6.0.0.x86_64
INCLUDES
=-I$(HADOOP_INSTALL)/src/c++/libhdfs -I$(JAVA_HOME)/include -I$(JAVA_HOME)/include/
linux
LDADD
=-L$(HADOOP_INSTALL)/c++/$(PLATFORM)/
lib -lhdfs
export INCLUDES LDADD
三、使用
测试代码
/* testLibhdfs.c */
#include "hdfs.h"
int main(int argc, char **argv) {
hdfsFS fs = hdfsConnect("default", 0);
const char* writePath = "/tmp/testfile.txt";
hdfsFile writeFile = hdfsOpenFile(fs, writePath, O_WRONLY|O_CREAT, 0, 0, 0);
if(!writeFile) {
fprintf(stderr, "Failed to open %s for writing!\n", writePath);
exit(-1);
}
char* buffer = "Hello, World!";
tSize num_written_bytes = hdfsWrite(fs, writeFile, (void*)buffer, strlen(buffer)+1);
if (hdfsFlush(fs, writeFile)) {
fprintf(stderr, "Failed to 'flush' %s\n", writePath);
exit(-1);
}
hdfsCloseFile(fs, writeFile);
}
编译、运行:
$gcc -o testLibhdfs testLibhdfs.c -lhdfs
$./testLibhdfs

