Hadoop 编译,
Hadoop概念:
狭义: 软件(HDFS、MapReduce、Yarn)
褒义: 以hadoop为主的生态圈
Hadoop1.x
HDFS : 分布式文件系统,存储
MapReduce: 分布式计算+资源调度和作业调度
Hadoop2.x
HDFS : 存储
MapReduce : 计算
Yarn : YetAnother Resource Negotiator 资源调度和作业调度平台
JAVA JDK安装:
1.目录必须在/usr/java/下
2. 查看权限对不对,不对的话需要执行以下脚本
chown -R root:root jdk1.8.0_45 文件夹和文件夹里面的文件夹和文件
chown -R root:root jdk1.8.0_45/*
MAVEN安装/配置:
unzip ************8
配环境变量
下载的库文件夹: .m2文件夹 window/linux:
1.setting.xml
<localRepository>D:\software\apache-maven-3.3.9\repository</localRepository>
2.创建D:\software\apache-maven-3.3.9\repository
du -sh .m2 查看m2文件
tar -czf .m2.tar.gz .m2/*
PROTOBUF安装:
下载jar包并解压,官网已经不能访问
yum install -y gcc gcc-c++ make cmake
./configure --prefix=/usr/local/protobuf --prefix我要安装的路径在哪里
make && make install --- &&可以连续按顺序执行命令
配环境变量
FINDBUGS安装:
unzip findbugs-1.3.9.zip
配环境变量
* CMake 2.6 or newer (if compiling native code), must be 3.0 or newer on Mac
* Zlib devel (if compiling native code)
* openssl devel (if compiling native hadoop-pipes and to get the best HDFS encryption performance)
* Linux FUSE (Filesystem in Userspace) version 2.6 or above (if compiling fuse_dfs)
* Internet connection for first build (to fetch all Maven and Hadoop dependencies)
※yum install -y openssl openssl-devel svn ncures-devel zlib-devel libtool※
多人合作,可以离线下载:yum install -y screen
screen -S hadoop
ctrl A+D 退出
screen -list 查看会话
screen -r 10777 进入ID会话
Building distributions:
2.6.0 要用JDK1.7编译 mvn clean package -Pdist,native -DskipTests -Dtar
1.clean:每次先clean
2.package:打包
3.-Pdist:传入参数
4.-DskipTests:跳过测试编译模块
5.-Dtar:打成tar包