0
点赞
收藏
分享

微信扫一扫

如何禁用CDH集群Kerberos

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。


Fayson的github:https://github.com/fayson/cdhproject


提示:代码块部分可以左右滑动查看噢


1.文档编写目的



Fayson在前面的文章介绍了如何为CDH集群启用Kerberos,在集群启用Kerberos后,会对现有环境的部分代码做改造,有些人觉得使用起来不方便,想取消Kerberos。本篇文章Fayson主要介绍如何禁用CDH集群的Kerberos及禁用后对各组件服务的测试。


注意:本文禁用Kerberos属于比较暴力的方式,未在正式成产环境做严格测试,操作方式仅供参考,建议使用环境为开发/测试/Poc环境。


  • 内容概述

1.集群环境说明

2.禁用Kerberos及启动服务

3.验证服务及各个服务功能

4.总结


  • 测试环境

1.CM和CDH版本为5.12.1

2.集群已启用Kerberos

3.集群已启用Sentry


2.集群环境介绍



1.CDH集群已启用Kerberos


如何禁用CDH集群Kerberos_zookeeper


2.禁用前集群HDFS信息


如何禁用CDH集群Kerberos_hive_02


3.禁用Kerberos



1.通过CM停止CDH集群的所有服务


如何禁用CDH集群Kerberos_hadoop_03


服务停止成功


如何禁用CDH集群Kerberos_hadoop_04

如何禁用CDH集群Kerberos_zookeeper_05


2.对Zookeeper服务操作

通过CM修改Zookeeper的enableSecurity为false(即取消勾选,保存配置)


如何禁用CDH集群Kerberos_hive_06


查看Zookeeper服务的数据目录


如何禁用CDH集群Kerberos_hive_07


登录服务器将Zookeeper的数据目录下的文件删除


[root@ip-172-31-2-37 zookeeper]# pwd
/var/lib/zookeeper
[root@ip-172-31-2-37 zookeeper]# rm -rf *
[root@ip-172-31-2-37 zookeeper]# ll

(可左右滑动)


如何禁用CDH集群Kerberos_hadoop_08


注意:所有Zookeeper的数据目录下文件都要删除。


执行Zookeeper初始化操作


如何禁用CDH集群Kerberos_zookeeper_09

如何禁用CDH集群Kerberos_hadoop_10


初始化成功


如何禁用CDH集群Kerberos_hadoop_11


3.修改HDFS配置

修改Hadoop的安全身份验证


hadoop.security.authentication 修改为simple
hadoop.security.authorization 修改为false即取消勾选

(可左右滑动)


如何禁用CDH集群Kerberos_hive_12


修改DataNode的数据目录权限为755


dfs.datanode.data.dir.perm 修改为755

(可左右滑动)


如何禁用CDH集群Kerberos_zookeeper_13


修改DataNode服务的端口号


dfs.datanode.address 修改为50010
dfs.datanode.http.address 修改为50070

(可左右滑动)


如何禁用CDH集群Kerberos_zookeeper_14


保存修改的配置信息。


4.进入HBase服务修改配置

修改HBase的身份验证


hbase.security.authentication 修改为simple
hbase.security.authorization 修改为false即取消勾选
hbase.trift.security.qop修改为none

(可左右滑动)


如何禁用CDH集群Kerberos_hive_15


修改完成保存配置。


5.Hue服务修改

删除Hue实例中的 “Kerberos Ticket Renewer”服务


如何禁用CDH集群Kerberos_zookeeper_16

如何禁用CDH集群Kerberos_hive_17


删除成功


如何禁用CDH集群Kerberos_hadoop_18


6.修改Hive配置,如果集群未启用Sentry则跳过此步


<property>
<name>sentry.hive.testing.mode</name>
<value>true</value>
</property>

(可左右滑动)


如何禁用CDH集群Kerberos_hive_19


保存配置


7.重启Cloudera Management Service服务

修改完上述配置后,重启ClouderaManagement Service 服务


如何禁用CDH集群Kerberos_zookeeper_20


重启成功


如何禁用CDH集群Kerberos_zookeeper_21


4.集群服务启动



1.启动Zookeeper服务


如何禁用CDH集群Kerberos_hadoop_22


启动成功


如何禁用CDH集群Kerberos_zookeeper_23


Leader选举正常


如何禁用CDH集群Kerberos_zookeeper_24


注意:这里先启动Zookeeper服务。


2.初始化Failover Controller服务的自动故障转移Znode

选择任意一个FailoverController服务进入,初始化自动故障转移Znode


如何禁用CDH集群Kerberos_zookeeper_25

如何禁用CDH集群Kerberos_hive_26

如何禁用CDH集群Kerberos_hive_27


3.启动集群剩余服务


如何禁用CDH集群Kerberos_hive_27


服务启动中


如何禁用CDH集群Kerberos_hive_29


服务启动中


如何禁用CDH集群Kerberos_hadoop_30


服务启动成功

如何禁用CDH集群Kerberos_hive_31

如何禁用CDH集群Kerberos_hive_32


4.部署客户端配置


如何禁用CDH集群Kerberos_hive_33

如何禁用CDH集群Kerberos_hive_34


点击“部署客户端配置”,如下部署成功


如何禁用CDH集群Kerberos_hive_35


集群各个服务状态正常


如何禁用CDH集群Kerberos_hive_36


5.验证服务是否正常



1.HDFS服务主备正常


如何禁用CDH集群Kerberos_hive_37


2.Yarn服务主备正常


如何禁用CDH集群Kerberos_zookeeper_38


3.HBase的Master服务正常


如何禁用CDH集群Kerberos_hive_39


4.CM显示Kerberos已禁用


如何禁用CDH集群Kerberos_hadoop_40


5.HDFS数据量与禁用Kerberos之前一致


如何禁用CDH集群Kerberos_hive_41


6.服务功能验证



1.HDFS服务验证

查看HDFS文件系统


[root@ip-172-31-11-224 ~]# klist
[root@ip-172-31-11-224 ~]# hadoop fs -ls /

(可左右滑动)


如何禁用CDH集群Kerberos_hive_42


向集群put文件及查看


[root@ip-172-31-11-224 ~]# ll
[root@ip-172-31-11-224 ~]# hadoop fs -put original-ks.cfg /tmp
[root@ip-172-31-11-224 ~]# hadoop fs -ls /tmp
[root@ip-172-31-11-224 ~]# hadoop fs -cat /tmp/original-ks.cfg |more

(可左右滑动)


如何禁用CDH集群Kerberos_hive_43


在未Kinit的情况下正常使用Hadoop命令


2.Hive服务验证

使用HiveCLI访问Hive,执行SQL查询及Count操作


如何禁用CDH集群Kerberos_zookeeper_44


使用Beeline方式访问Hive


[root@ip-172-31-11-224 ~]# beeline
beeline> !connect jdbc:hive2://ip-172-31-2-37.ap-southeast-1.compute.internal:10000 hive hive
0: jdbc:hive2://ip-172-31-2-37.ap-southeast-1> show tables;
0: jdbc:hive2://ip-172-31-2-37.ap-southeast-1> select * from test;
0: jdbc:hive2://ip-172-31-2-37.ap-southeast-1> select count(*) from test;

(可左右滑动)


如何禁用CDH集群Kerberos_zookeeper_45

如何禁用CDH集群Kerberos_zookeeper_46

如何禁用CDH集群Kerberos_hadoop_47


3.Impala服务验证

使用impala-shell的方式登录


[root@ip-172-31-11-224 ~]# klist
[root@ip-172-31-11-224 ~]# impala-shell -u hive
[ip-172-31-11-224.ap-southeast-1.compute.internal:21000] > show tables;
[ip-172-31-11-224.ap-southeast-1.compute.internal:21000] > select * from test;
[ip-172-31-11-224.ap-southeast-1.compute.internal:21000] > select count(*) from;

(可左右滑动)


如何禁用CDH集群Kerberos_hive_48

如何禁用CDH集群Kerberos_zookeeper_49

如何禁用CDH集群Kerberos_hive_50


4.HBase服务验证


[root@ip-172-31-11-224 ~]# klist
[root@ip-172-31-11-224 ~]# hbase shell
hbase(main):001:0> create 'picHbase', {NAME => 'picinfo'}
hbase(main):002:0> put 'picHbase','001','picinfo:content','test'
hbase(main):003:0> scan 'picHbase'
hbase(main):004:0> list

(可左右滑动)


如何禁用CDH集群Kerberos_hive_51


5.Hue服务功能验证


如何禁用CDH集群Kerberos_hive_52

如何禁用CDH集群Kerberos_hive_53

如何禁用CDH集群Kerberos_hadoop_54

如何禁用CDH集群Kerberos_hive_55


6.向集群提交一个MapReduce作业


[root@ip-172-31-11-224 ~]# klist
[root@ip-172-31-11-224 ~]# hadoop jar /opt/cloudera/parcels/CDH/lib/hadoop-mapreduce/hadoop-mapreduce-examples.jar pi 5 5

(可左右滑动)


如何禁用CDH集群Kerberos_hadoop_56

如何禁用CDH集群Kerberos_hive_57

如何禁用CDH集群Kerberos_zookeeper_58

如何禁用CDH集群Kerberos_zookeeper_59


7.向集群提交一个Spark1作业


[root@ip-172-31-11-224 ~]# klist
[root@ip-172-31-11-224 ~]# spark-submit --class org.apache.spark.examples.SparkPi --master yarn-client --num-executors 4 --driver-memory 2g --driver-cores 1 --executor-memory 2g --executor-cores 1 /opt/cloudera/parcels/CDH/lib/spark/lib/spark-examples.jar 10

(可左右滑动)


如何禁用CDH集群Kerberos_zookeeper_60


作业执行成功


如何禁用CDH集群Kerberos_hive_61


如何禁用CDH集群Kerberos_hadoop_62

如何禁用CDH集群Kerberos_zookeeper_63


8.向集群提交一个Spark2的作业


如何禁用CDH集群Kerberos_hadoop_64


作业运行成功


如何禁用CDH集群Kerberos_zookeeper_65

如何禁用CDH集群Kerberos_zookeeper_66

如何禁用CDH集群Kerberos_hadoop_67


7.总结



  • 禁用CDH集群的Kerberos服务,主要是依赖Zookeeper的各个服务对Znode的读取权限,这里Fayson比较暴力直接将Zookeeper的数据目录删除重新初始化。
  • 需要对启用了Kerberos的服务进行修改,禁用每个服务的Kerberos。
  • 在修改完配置后,启用HDFS时需要注意,由于Fayson直接删除了Zookeeper的数据目录所以我们要为Failover Controller服务初始化自动故障转移Znode
  • 如果Kerberos集群启用了Sentry,需要注意的是禁用Kerberos后要在Hive中配置Sentry为testing mode模式。



提示:代码块部分可以左右滑动查看噢


为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:要看高清无码套图,请使用手机打开并单击图片放大查看。



推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

如何禁用CDH集群Kerberos_hive_68

原创文章,欢迎转载,转载请注明:转载自微信公众号Hadoop实操


举报

相关推荐

0 条评论