欢迎投稿

今日深度:

Hadoop 编译,

Hadoop 编译,


Hadoop概念:

    狭义: 软件(HDFS、MapReduce、Yarn)

    褒义: 以hadoop为主的生态圈

    Hadoop1.x
        HDFS  : 分布式文件系统,存储

        MapReduce: 分布式计算+资源调度和作业调度

    Hadoop2.x
        HDFS :  存储
        MapReduce : 计算

        Yarn : YetAnother Resource Negotiator  资源调度和作业调度平台

JAVA JDK安装:

    1.目录必须在/usr/java/下

    2. 查看权限对不对,不对的话需要执行以下脚本

        chown -R root:root jdk1.8.0_45     文件夹和文件夹里面的文件夹和文件

        chown -R root:root jdk1.8.0_45/*


MAVEN安装/配置:

    unzip ************8

    配环境变量

    下载的库文件夹:  .m2文件夹 window/linux:
        1.setting.xml
    <localRepository>D:\software\apache-maven-3.3.9\repository</localRepository>
        2.创建D:\software\apache-maven-3.3.9\repository

    du -sh .m2 查看m2文件

    tar -czf .m2.tar.gz .m2/*


PROTOBUF安装:

    下载jar包并解压,官网已经不能访问

    yum install -y gcc gcc-c++ make cmake

    ./configure --prefix=/usr/local/protobuf    --prefix我要安装的路径在哪里

    make && make install  --- &&可以连续按顺序执行命令

    配环境变量


FINDBUGS安装:

    unzip findbugs-1.3.9.zip

    配环境变量


* CMake 2.6 or newer (if compiling native code), must be 3.0 or newer on Mac
* Zlib devel (if compiling native code)
* openssl devel (if compiling native hadoop-pipes and to get the best HDFS encryption performance)
* Linux FUSE (Filesystem in Userspace) version 2.6 or above (if compiling fuse_dfs)

* Internet connection for first build (to fetch all Maven and Hadoop dependencies)

※yum install -y openssl openssl-devel svn ncures-devel zlib-devel libtool※


多人合作,可以离线下载:yum install -y screen 
screen -S hadoop
ctrl A+D 退出
screen -list 查看会话
screen -r 10777 进入ID会话


Building distributions:
2.6.0 要用JDK1.7编译  mvn clean package -Pdist,native -DskipTests -Dtar
1.clean:每次先clean
2.package:打包
3.-Pdist:传入参数
4.-DskipTests:跳过测试编译模块
5.-Dtar:打成tar包

www.htsjk.Com true http://www.htsjk.com/Hadoop/40959.html NewsArticle Hadoop 编译, Hadoop概念:     狭义: 软件(HDFS、MapReduce、Yarn)     褒义: 以hadoop为主的生态圈     Hadoop1.x         HDFS  : 分布式文件系统,存储         MapReduce: 分布式计算+资...
相关文章
    暂无相关文章
评论暂时关闭