0
点赞
收藏
分享

微信扫一扫

0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


Fayson的github:

​​https://github.com/fayson/cdhproject​​


提示:代码块部分可以左右滑动查看噢


1

文档编写目的


在前面的文章《​​CDH5.15.0-同一OS用户下不同Kerberos用户执行脚本Principal串掉问题分析​​》中Fayson主要介绍了同一个OS用户下并发调度Python脚本时会导致Principal账号串掉,通过在Python代码中指定KRB5CCNAME环境变量解决问题,本篇文章Fayson主要介绍通过同一OS用户下并发调度Shell脚本进行不同用户Kerberos认证时Principal账号串掉问题分析及解决。


  • 测试环境

1.RedHat7.3

2.CDH5.16.1


2

问题描述


Fayson通过一段简单的shell脚本示例代码说明问题,在代码中执行kinit命令初始化Kerberos信息,通过hadoop命令去统计各自用户目录下子目录大小,具体代码如下:

a_fayson.sh脚本内容如下:


[root@cdh4 shell-test]# more a_fayson.sh 
kinit -kt /root/shell-test/fayson.keytab fayson
klist
hadoop fs -du -h /user/fayson


a_cdhadmin.sh脚本内容如下:


[root@cdh4 shell-test]# more a_cdhadmin.sh 
kinit -kt /root/shell-test/cdhadmin.fayson cdhadmin
klist
hadoop fs -du -h /user/cdhadmin


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_hadoop


在同一个用户的OS下创建a_fayson.sh和a_cdhadmin.sh的两个shell脚本,分别使用fayson和cdhadmin用户初始化Kerberos信息。

在crontab中添加两个定时任务,使两个任务同时并发


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_环境变量_02


在生成的a_fayson.log和a_cdhadmin.log中可以看到两个脚本会获取到对方的Principal信息


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_03


通过两个脚本输出的日志可以看到a_fayson.log中kinit的是fayson用户,但在执行hadoop命令的时候显示的为cdhadmin,此时Principal账号串掉导致命令执行失败。


3

问题分析


1.首先在客户端进行Kinit操作后,默认的Ticket Cache是存储在tmp/krb5cc_0临时文件中(Ticket cache文件是根据当前用户的uid在/tmp目录下生成一个以krb5cc_开头的临时文件)。


2.由于上述的两个脚本是在同一个OS用户下,所以两个不同的Kerberos用户在进行Kinit操作后都会覆盖/tmp/krb5cc_{uid}文件


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_04


根据上述两点基本可以定位问题的原因,因为Ticket cache文件被覆盖导致Kerberos的票据信息串掉。由于两个shell脚本使用了同一份Ticket cache文件导致Kerberos的票据信息串掉。


4

解决方法一


将脚本进行简单的修改,在脚本中指定KRB5CCNAME的环境变量,具体修改在shell脚本中增加如下内容:


a_fayson.sh脚本内容如下:

[root@cdh4 shell-test]# more a_fayson.sh 
export KRB5CCNAME=/tmp/fayson_ccname
kinit -kt /root/shell-test/fayson.keytab fayson
klist
hadoop fs -du -h /user/fayson


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_hadoop_05


a_cdhadmin.sh脚本内容如下:

[root@cdh4 shell-test]# more a_cdhadmin.sh 
export KRB5CCNAME=/tmp/cdhadmin_ccname
kinit -kt /root/shell-test/cdhadmin.keytab cdhadmin
klist
hadoop fs -du -h /user/cdhadmin


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_06


将脚本进行如上修改后,再次运行发现问题解决,未出现Principal串掉的问题


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_环境变量_07

0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_hadoop_08


5

解决方法二


在脚本中使用了C shell(csh)命令,C shell是一个交互式命令解释器和一种编程语言,采用的语法类型于C编程语言。在C shell中我们可以指定KRB5CCNAME环境变量,具体实现方式如下:


1.在OS命令行执行如下命令安装csh命令

[root@cdh4 shell-test]# yum -y install csh


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_环境变量_09


2.修改上述的两个脚本,具体修改如下:

a.sh脚本内容如下:


[root@cdh4 shell-test]# more a.sh 
#!/usr/bin/csh
setenv KRB5CCNAME /tmp/fayson_ccname
env |grep KRB5CCNAME
kinit -kt /root/shell-test/fayson.keytab fayson
klist

hadoop fs -du -h /user/fayson


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_环境变量_10


b.sh脚本内容如下:

[root@cdh4 shell-test]# more b.sh 
#!/usr/bin/csh
setenv KRB5CCNAME /tmp/cdhadmin_ccname
env |grep KRB5CCNAME
kinit -kt /root/shell-test/cdhadmin.keytab cdhadmin
klist

hadoop fs -du -h /user/cdhadmin


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_11


3.使用crontab定义两个并发的定时任务


*/1 * * * * source /etc/profile & csh /root/shell-test/a.sh >> /root/shell-test/a.log 2>&1 &
*/1 * * * * source /etc/profile & csh /root/shell-test/b.sh >> /root/shell-test/b.log 2>&1 &


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_12


4.通过修改上述两个脚本,在两个脚本中都指定KRB5CCNAME环境变量为不同的文件,再次进行测试未发现两个应用的票据信息串掉的问题。


0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_13


6

总结


1.默认Ticket cache文件的生成是根据用户的uid在/tmp目录下生成一个以krb5cc_开头的缓存文件。


2.如果在同一个OS用户下使用不同的Kerberos用户进行kinit会覆盖/tmp/krb5cc_{uid}文件,从而导致应用中的票据信息串掉。


3.可以通过在shell脚本中为不同的Kerberos用户指定一个独立的Ticket cache文件,以防止票据信息串掉。


4.本篇文章中主要讲述了shell脚本的两种实现方式一种在脚本中使用export的方式指定环境变量,一种使用C shell命令通过setenv方式指定。脚本中的环境变量这里可以理解为局部环境变量,只在当前脚本内有效。


提示:代码块部分可以左右滑动查看噢


为天地立心,为生民立命,为往圣继绝学,为万世开太平。

温馨提示:如果使用电脑查看图片不清晰,可以使用手机打开文章单击文中的图片放大查看高清原图。


推荐关注Hadoop实操,第一时间,分享更多Hadoop干货,欢迎转发和分享。

0614-5.16.1-同一OS用户并行Shell脚本中kinit不同的Principal串掉问题分析_shell脚本_14



举报

相关推荐

0 条评论