Hadoop 生态对接:其他辅助文档
本文是手动安装路线的补充:在 CentOS 上安装 Python3.8、以及安装 Hadoop / Hive 的参考链接。
一、CentOS 下安装 Python3.8
若用到的 Hadoop 集群基于 CentOS7 搭建,默认 python 版本是 2.7,与镜像中的 Python3.8 不一致,会导致 Yarn 作业运行失败。因此补充安装 Python3.8 的步骤:
# 安装基础依赖
yum install -y zlib-devel bzip2-devel openssl-devel ncurses-devel sqlite-devel readline-devel tk-devel gcc make libffi-devel
# 下载 Python 安装包
wget https://www.python.org/ftp/python/3.8.12/Python-3.8.12.tgz
tar -zxvf Python-3.8.12.tgz
cd Python-3.8.12
./configure prefix=/usr/local/python3
# 安装
make && make install
# 最终在 /usr/local/ 目录下会有 python3 目录
# 添加 python3 的软链接
ln -s /usr/local/python3/bin/python3.8 /usr/bin/python3
# 添加 pip3 的软链接
ln -s /usr/local/python3/bin/pip3.8 /usr/bin/pip3
然后把默认 python 软链接到 python3 上:
rm -rf /bin/python
ln -s /usr/local/python3/bin/python3.8 /bin/python
二、安装 Hadoop
参考官网:https://hadoop.apache.org/docs/stable/hadoop-project-dist/hadoop-common/SingleCluster.html
三、安装 Hive
参考官网:https://cwiki.apache.org/confluence/display/Hive/AdminManual+Installation