Centos7原生hadoop环境，搭建Impala集群和负载均衡配置

阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6

Centos7原生hadoop环境搭建Impala集群和负载均衡配置

集群规划

节点名称impala-catalogdimpala-statestoredimpala-server
node01√√√
node02××√
node03××√

配置本地yum源

1. 在node01节点上安装httpd服务器

#yum方式安装httpds服务器
[root@node01 ~]# yum install -y httpd
#启动httpd服务器
[root@node01 ~]# systemctl start httpd
#查看httpd转态是否启动
[root@node01 ~]# systemctl status httpd

2. 配置yum源

  • 上传下载好的impala的压缩包cdh5.14.0-centos7.tar.gz到/var/www/html/目录
  • 解压 tar -zxvf cdh5.14.0-centos7.tar.gz
  • 配置yum源cd /etc/yum.repo/
  • vim local.repo
#需要与文件名保持一致
[local]
name=local_yum
#访问当前源的地址信息
baseurl=http://node01/cdh/5.14.0/
#为0不做gpg校验
gpgcheck=0
#当前源是否可用,为1则可用,为0则禁用
enabled=1

在这里插入图片描述

  1. 导入秘钥认证

  • 防止后边安装失败(这里有个小坑)每个节点都执行

    • rpm --import /var/www/html/cdh/RPM-GPG-KEY-cloudera

安装impala

  1. node01节点安装 impala-catalogd、impala-statestored、 impala-serverimpala-Deamon
[root@node01 ~]# yum install -y impala impala-server impala-state-store impala-catalog impala-shell

在这里插入图片描述

  1. node02节点安装impala-serverimpala-Deamon
yum install -y impala-server impala-shell

3.node03节点安装impala-serverimpala-Deamon

yum install -y impala-server impala-shell

在这里插入图片描述

修改hive的配置

1.修改hive-site.xml配置

  • cd /opt/yjx/apache-hive-3.1.2-bin/

  • vim hive-site.xml

<!--指定metastore地址之前添加过可以不用添加 -->
<property>
    <name>hive.metastore.uris</name>
    <value>thrift://node01:9083</value>
</property>
<property>
    <name>hive.metastore.client.socket.timeout</name>
    <value>3600</value>
</property>

2.分发hive安装目录到集群中其它节点

  • scp hdfs-site.xml node02:$PWD
scp hdfs-site.xml node03:$PWD

修改hadoop的配置

  • 在所有节点创建一下这个目录mkdir -p /var/lib/hadoop-hdfs

  • cd /opt/yjx/hadoop-3.1.2/etc/hadoop/

  • vim hdfs-site.xml

  • <!--添加如下内容 -->
<!--打开短路读取开关 -->
<!-- 打开短路读取配置-->
<property>
    <name>dfs.client.read.shortcircuit</name>
    <value>true</value>
</property>
<!--这是一个UNIX域套接字的路路径将⽤用于DataNode和本地HDFS客户机之间的通信 -->
<property>
    <name>dfs.domain.socket.path</name>
    <value>/var/lib/hadoop-hdfs/dn_socket</value>
</property>
<!--block存储元数据信息开发开关 -->
<property>
    <name>dfs.datanode.hdfs-blocks-metadata.enabled</name>
    <value>true</value>
</property>
<property>
    <name>dfs.client.file-block-storage-locations.timeout</name>
    <value>30000</value>
</property>

  • 分发到其他节点

  • scp hdfs-site.xml node02:$PWD
scp hdfs-site.xml node03:$PWD

创建impala配置的软连接

impala中跟Hadoop,Hive相关的配置使用Yum方式安装Impala时默认的Impala配置文件目录为/etc/impala/conf目录Impala的使用要依赖HadoopHive框架所以需要把HDFSHive的配置文件告知Impala执行下面的命令把HDFS和Hive的配置文件软链接到/etc/impala/conf下(所有节点执行)

  • 所有节点均执行

  • ln -s /opt/yjx/hadoop-3.1.2/etc/hadoop/core-site.xml /etc/impala/conf/core-site.xml
ln -s /opt/yjx/hadoop-3.1.2/etc/hadoop/hdfs-site.xml /etc/impala/conf/hdfs-site.xml
ln -s /opt/yjx/apache-hive-3.1.2-bin/conf/hive-site.xml /etc/impala/conf/hive-site.xml

impala的自身配置(所有节点)

  • 创建日志目录mkdir -p /var/logs/impala/

  • chown impala:impala /var/logs/impala/

修改配置

在这里插入图片描述

  • cd /etc/default/
scp impala node02:$PWD
scp impala node03:$PWD

  • 创建目录用于存放mysql的连接驱动mkdir -p /usr/share/java/

  • 创建软连接

ln -s /opt/yjx/apache-hive-3.1.2-bin/lib/mysql-connector-java-5.1.32-bin.jar /usr/share/java/mysql-connector-java.jar

修改bigtop的JAVA_HOME路径

#修改bigtop的JAVA_HOME路径
[root@node01 ~]# vim /etc/default/bigtop-utils
[root@node02 ~]# vim /etc/default/bigtop-utils
[root@node03 ~]# vim /etc/default/bigtop-utils
#添加JAVA_HOME
export JAVA_HOME=/usr/java/jdk1.8.0_231-amd64

启动集群

  • 启动zookeeper

  • zkServer.sh start

  • 启动Hadoop

  • start-all.sh

  • 启动Hive

  • # 启动元数据服务
nohup hive --service metastore > /dev/null 2>&1 &
#启动hiveServer2
nohup hiveserver2 > /dev/null 2>&1 &
#客户端测试

  • 启动impala

  • [root@node01 ~]# service impala-state-store start
[root@node01 ~]# service impala-catalog start
[root@node01 ~]# service impala-server start

  • [root@node02 ~]# service impala-catalog start

  • [root@node03 ~]# service impala-server start

  • 验证Impala是否启动

  • ps -ef | grep impala

  • 浏览器Web界面验证

  • #访问impalad管理界面
    http://node01:25000/

在这里插入图片描述

说明: 如果进程数启动不对,web页面打不开,去指定的日志目录。

  • jps时出现空白的进程或者process information unavailable

  • 解决办法

    • #解决办法(注意只删除后缀为impala的即可)
[root@node01 bin]# rm -rf /tmp/hsperfdata_impala*
[root@node02 bin]# rm -rf /tmp/hsperfdata_impala*
[root@node03 bin]# rm -rf /tmp/hsperfdata_impala*

Impala的负载均衡

Impala主要有三个组件分别是statestorecatalog和impalad对于Impalad节点每一个节点都可以接收客户端的查询请求并且对于连接到该Impalad的查询还要作为Coordinator节点(需要消耗一定的内存和CPU)存在为了保证每一个节点的资源开销的平衡需要对于集群中Impalad节点做一下负载均衡。
 Cloudera官方推荐的代理方案是HAProxy这里我们也使用这种方式实现负载均衡。实际生产中建议选择一个非Impala节点作为HAProxy安装节点。

1.选择一台机器安装haProxy这里选择node01安装

  • yum install -y haproxy
  1. 修改haproxy.cfg配置文件在配置文件中增加如下内容

  • vim /etc/haproxy/haproxy.cfg

  • #---------------------------------------------------------------------
# Global settings
#---------------------------------------------------------------------
global
    # to have these messages end up in /var/log/haproxy.log you will
    # need to:
    #
    # 1) configure syslog to accept network log events.  This is done
    #    by adding the '-r' option to the SYSLOGD_OPTIONS in
    #    /etc/sysconfig/syslog
    #
    # 2) configure local2 events to go to the /var/log/haproxy.log
    #   file. A line like the following can be added to
    #   /etc/sysconfig/syslog
    #
    #    local2.*                       /var/log/haproxy.log
    #
    log         127.0.0.1 local2

    chroot      /var/lib/haproxy
    pidfile     /var/run/haproxy.pid
    maxconn     4000
    user        haproxy
    group       haproxy
    daemon

    # turn on stats unix socket
    stats socket /var/lib/haproxy/stats

#---------------------------------------------------------------------
# common defaults that all the 'listen' and 'backend' sections will
# use if not designated in their block
#---------------------------------------------------------------------
defaults
    mode                    http
    log                     global
    option                  httplog
    option                  dontlognull
    option http-server-close
    option forwardfor       except 127.0.0.0/8
    option                  redispatch
    retries                 3
    timeout http-request    10s
    timeout queue           3m
    timeout connect         5000s
    timeout client          3600s
    timeout server          3600s
    timeout http-keep-alive 10s
    #健康检查时间
    timeout check           10s
    maxconn                 3000

#---------------------------------------------------------------------
# main frontend which proxys to the backends
#---------------------------------------------------------------------
frontend  main *:5000
    acl url_static       path_beg       -i /static /images /javascript /stylesheets
    acl url_static       path_end       -i .jpg .gif .png .css .js

    use_backend static          if url_static
    default_backend             app

#---------------------------------------------------------------------
# static backend for serving up images, stylesheets and such
#---------------------------------------------------------------------
backend static
    balance     roundrobin
    server      static 127.0.0.1:4331 check
#---------------------------------------------------------------------
# round robin balancing between the various backends
#---------------------------------------------------------------------
backend app
    balance     roundrobin
    server   app1 127.0.0.1:5001 check
    server   app1 127.0.0.1:5002 check

#--------------配置 impala-jdbc -------------------------------------------------------
listen impala :25001
    balance roundrobin
    option tcplog
    mode tcp
    #bind 0.0.0.0:21051
    #listen impalajdbc
    server impala_jdbc_01 node02:21050 check
    server impala_jdbc_02 node03:21050 check

#--------------配置impala-shell-------------------------------------------------------
listen impala :25002
    balance leastconn
    option tcplog
    mode tcp
    #listen impalashell
    server impala_shell_01 node01:21000 check
    server impala_shell_02 node02:21000 check
    server impala_shell_03 node03:21000 check
#--------------配置 impala-hue -------------------------------------------------------
#listen impala :25003
    #balance source
    #option tcplog
    #mode tcp
    #server impala_hue_01 host01:21050 check
    #server impala_hue_02 host02:21050 check
#-----web ui----------------------------------------------------------------
listen stats :1080
    balance
    stats  uri /stats
    stats refresh 30s
#管理界面访问IP和端口
    #bind 0.0.0.0:1080
    mode http
    #定义管理界面
    #listen status

3.检查配置是否正确

/usr/sbin/haproxy  -f /etc/haproxy/haproxy.cfg

  1. 开启HAProxy代理服务

    开启  systemctl start haproxy.service
查看状态 systemctl status haproxy.service
关闭 systemctl stop haproxy.service
重启 systemctl restart haproxy.service
开机自启动 chkconfig haproxy on

  2. 访问监控页面

http://node01:1080/stats

在这里插入图片描述

阿里云国内75折 回扣 微信号：monov8
阿里云国际，腾讯云国际，低至75折。AWS 93折 免费开户实名账号 代冲值 优惠多多 微信号：monov8 飞机：@monov6
标签: centosHadoop
返回列表

上一篇：代码随想录算法训练营Day57 | 647. 回文子串 | 516. 最长回文子序列 | 动态规划总结篇-CSDN博客

下一篇：【web开发】7、Django（2）

“Centos7原生hadoop环境，搭建Impala集群和负载均衡配置” 的相关文章

Hadoop学习——Hadoop概述1年前 (2023-02-02)
Centos6.5编译方式安装mariadb1年前 (2023-02-02)
Centos containerd和kubernetes v 1.24.0部署1年前 (2023-02-02)
hadoop3.x源码编译及cmake的问题解决:CMake failed with error code 11年前 (2023-02-02)
CentOS 挂载硬盘,适用于fdisk找不到硬盘的场景1年前 (2023-02-02)
Centos7安装Docker1年前 (2023-02-02)
CentOS7安装MySQL8（超级详细-无坑）1年前 (2023-02-02)
大数据---Hadoop安装教程（一）1年前 (2023-02-02)
【大数据】第二章：搭建Hadoop集群（送尚硅谷大数据笔记）1年前 (2023-02-03)
CentOS 7 部署Nginx和前端框架1年前 (2023-02-03)

阿里云国际版