mac hadoop 2.6编译native library
connygpt 2024-09-29 11:04 14 浏览
本文中的所有路径请根据个人情况修改。
编译好的native library见个人资源:http://download.csdn.net/detail/tterminator/956559
一、为什么要编译native librarymac
安装Hadoop后启动报错:WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform... using builtin-java classes where applicable。
二、问题原因
在官网上有说明:The native hadoop library is supported on *nix platforms only. The library does not to work with Cygwin or the Mac OS X platform.
详见官网:http://hadoop.apache.org/docs/r2.6.0/hadoop-project-dist/hadoop-common/NativeLibraries.html
三、编译环境说明
1. mac os x:10.10.4
2. jdk:java version "1.7.0_80"
3. hadoop:2.6.0-src
四、编译前期准备
编译开始前需要在mac下安装以下软件:
1.安装brew
类似Ubuntu中的apt软件包管理工具,用于安装缺少的软件包,这里用于安装cmake工具:brew install cmake。
2.安装cmake
没有版本要求。
3.安装protoc
版本必须是2.5.0,否则编译失败,不能用brew install protobuf的方式安装,因为该方式安装的版本不一定是2.5.0。
protocbuf 2.5.0的源码详见个人资源:http://download.csdn.net/detail/tterminator/9562400】。
protocbuf源码需要自己手动编译,比较简单,网上搜索一下即可。
4.安装maven
本人使用的版本:Apache Maven 3.3.3。
五、最后准备
在编译过程中会出现以下报错:
Exception in thread "main" java.lang.AssertionError: Missing tools.jar at: /Library/Java/JavaVirtualMachines/jdk1.7.0_80.jdk/Contents/Home/Classes/classes.jar. Expression: file.exists
解决办法:
在JAVA_HOME,也即/Library/Java/JavaVirtualMachines/jdk1.7.0_80.jdk/Contents/Home路径下新建目录Class,并执行创建软符号链接命令(推荐使用绝对路径):sudo ln -s $JAVA_HOME/lib/tools.jar $JAVA_HOME/Classes/classes.jar
六、开始编译
1. 进入下载的2.6.0源码根目录下,执行以下命令:
mvn package -Pdist,native -DskipTests -Dtar
2. 等待之后会出现以下编译结果,这里只列出部分内容:
[INFO] Reactor Summary:
[INFO] Apache Hadoop Main ................................. SUCCESS [ 1.206 s]
[INFO] Apache Hadoop Project POM .......................... SUCCESS [06:57 min]
[INFO] Apache Hadoop Annotations .......................... SUCCESS [03:22 min]
[INFO] Apache Hadoop Assemblies ........................... SUCCESS [ 0.272 s]
[INFO] Apache Hadoop Project Dist POM ..................... SUCCESS [02:02 min]
[INFO] Apache Hadoop Maven Plugins ........................ SUCCESS [02:46 min]
[INFO] Apache Hadoop MiniKDC .............................. SUCCESS [19:36 min]
[INFO] Apache Hadoop Auth ................................. SUCCESS [07:47 min]
[INFO] Apache Hadoop Auth Examples ........................ SUCCESS [01:21 min]
[INFO] Apache Hadoop Common ............................... SUCCESS [12:20 min]
最终会出现如下提示,说明编译成功:
[INFO] -------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] -------------------------------------------------
[INFO] Total time: 01:28 h
[INFO] Finished at: 2016-06-28T01:40:35+08:00
[INFO] Final Memory: 193M/874M
[INFO] -------------------------------------------------
七、将编译出的native library复制到下载的二进制版本的Hadoop 2.6.0相应目录中
1. 编译出的native library库的位置为hadoop-2.6.0-src/hadoop-dist/target/hadoop-2.6.0/lib/native
2. 拷贝到二进制版本的Hadoop 2.6.0的目录hadoop-2.6.0/lib/native
八、修改/etc/hadoop/hadoop-env.sh配置
export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true -Djava.library.path=/hadoop-2.6.0/lib/native"
九、重新启动Hadoop此时就不会出现本文开头处的那个警告了。
相关推荐
- 3分钟让你的项目支持AI问答模块,完全开源!
-
hello,大家好,我是徐小夕。之前和大家分享了很多可视化,零代码和前端工程化的最佳实践,今天继续分享一下最近开源的Next-Admin的最新更新。最近对这个项目做了一些优化,并集成了大家比较关注...
- 干货|程序员的副业挂,12个平台分享
-
1、D2adminD2Admin是一个完全开源免费的企业中后台产品前端集成方案,使用最新的前端技术栈,小于60kb的本地首屏js加载,已经做好大部分项目前期准备工作,并且带有大量示例代码,助...
- Github标星超200K,这10个可视化面板你知道几个
-
在Github上有很多开源免费的后台控制面板可以选择,但是哪些才是最好、最受欢迎的可视化控制面板呢?今天就和大家推荐Github上10个好看又流行的可视化面板:1.AdminLTEAdminLTE是...
- 开箱即用的炫酷中后台前端开源框架第二篇
-
#头条创作挑战赛#1、SoybeanAdmin(1)介绍:SoybeanAdmin是一个基于Vue3、Vite3、TypeScript、NaiveUI、Pinia和UnoCSS的清新优...
- 搭建React+AntDeign的开发环境和框架
-
搭建React+AntDeign的开发环境和框架随着前端技术的不断发展,React和AntDesign已经成为越来越多Web应用程序的首选开发框架。React是一个用于构建用户界面的JavaScrip...
- 基于.NET 5实现的开源通用权限管理平台
-
??大家好,我是为广大程序员兄弟操碎了心的小编,每天推荐一个小工具/源码,装满你的收藏夹,每天分享一个小技巧,让你轻松节省开发效率,实现不加班不熬夜不掉头发,是我的目标!??今天小编推荐一款基于.NE...
- StreamPark - 大数据流计算引擎
-
使用Docker完成StreamPark的部署??1.基于h2和docker-compose进行StreamPark部署wgethttps://raw.githubusercontent.com/a...
- 教你使用UmiJS框架开发React
-
1、什么是Umi.js?umi,中文可发音为乌米,是一个可插拔的企业级react应用框架。你可以将它简单地理解为一个专注性能的类next.js前端框架,并通过约定、自动生成和解析代码等方式来辅助...
- 简单在线流程图工具在用例设计中的运用
-
敏捷模式下,测试团队的用例逐渐简化以适应快速的发版节奏,大家很早就开始运用思维导图工具比如xmind来编写测试方法、测试点。如今不少已经不少利用开源的思维导图组件(如百度脑图...)来构建测试测试...
- 【开源分享】神奇的大数据实时平台框架,让Flink&Spark开发更简单
-
这是一个神奇的框架,让Flink|Spark开发更简单,一站式大数据实时平台!他就是StreamX!什么是StreamX大数据技术如今发展的如火如荼,已经呈现百花齐放欣欣向荣的景象,实时处理流域...
- 聊聊规则引擎的调研及实现全过程
-
摘要本期主要以规则引擎业务实现为例,陈述在陌生业务前如何进行业务深入、调研、技术选型、设计及实现全过程分析,如果你对规则引擎不感冒、也可以从中了解一些抽象实现过程。诉求从硬件采集到的数据提供的形式多种...
- 【开源推荐】Diboot 2.0.5 发布,自动化开发助理
-
一、前言Diboot2.0.5版本已于近日发布,在此次发布中,我们新增了file-starter组件,完善了iam-starter组件,对core核心进行了相关优化,让devtools也支持对IAM...
- 微软推出Copilot Actions,使用人工智能自动执行重复性任务
-
IT之家11月19日消息,微软在今天举办的Ignite大会上宣布了一系列新功能,旨在进一步提升Microsoft365Copilot的智能化水平。其中最引人注目的是Copilot...
- Electron 使用Selenium和WebDriver
-
本节我们来学习如何在Electron下使用Selenium和WebDriver。SeleniumSelenium是ThoughtWorks提供的一个强大的基于浏览器的开源自动化测试工具...
- Quick 'n Easy Web Builder 11.1.0设计和构建功能齐全的网页的工具
-
一个实用而有效的应用程序,能够让您轻松构建、创建和设计个人的HTML网站。Quick'nEasyWebBuilder是一款全面且轻巧的软件,为用户提供了一种简单的方式来创建、编辑...
- 一周热门
- 最近发表
- 标签列表
-
- kubectlsetimage (56)
- mysqlinsertoverwrite (53)
- addcolumn (54)
- helmpackage (54)
- varchar最长多少 (61)
- 类型断言 (53)
- protoc安装 (56)
- jdk20安装教程 (60)
- rpm2cpio (52)
- 控制台打印 (63)
- 401unauthorized (51)
- vuexstore (68)
- druiddatasource (60)
- 企业微信开发文档 (51)
- rendertexture (51)
- speedphp (52)
- gitcommit-am (68)
- bashecho (64)
- str_to_date函数 (58)
- yum下载包及依赖到本地 (72)
- jstree中文api文档 (59)
- mvnw文件 (58)
- rancher安装 (63)
- nginx开机自启 (53)
- .netcore教程 (53)