集群间文件的拷贝

如果你根据上篇总结搭建了三个虚拟机的环境那么你应该发现了配置的过程还是有点麻烦的(如果这样配置集群,我想你应该会疯掉),那有没有一种方法可以减少我们的配置呢?

1.scp(secure copy)安全拷贝

1.1定义:

scp可以实现服务器与服务器之间的数据拷贝。(from server1 to server2)

1.2基本语法:

scp    -r            $pdir/$fname                    $user@hadoop$host:$pdir
命令   递归         要拷贝的文件路径/名称                  目的用户@主机:目的路径

1.3举个例子帮助理解上面的语法:

1.在hadoop101上,将hadoop101中/opt/module目录下的软件拷贝到hadoop102上:scp -r /opt/module root@hadoop102:/opt/module
2.在hadoop103上,将hadoop101服务器上的/opt/module目录下的软件拷贝到hadoop103上:sudo scp -r lsl@hadoop101:/opt/module root@hadoop103:/opt/module
3.在hadoop103上操作将hadoop101中/opt/module目录下的软件拷贝到hadoop104上:scp -r lsl@hadoop101:/opt/module root@hadoop104:/opt/module

注意:只是帮助理解,如果可以尽量敲一遍,因为还是有一点细小的区别的!(拷贝的文件夹可以换,根据情况定!),还有就是权限问题拷贝文件夹所属者和所属组都设置为创建的用户,举个例子:sudo chown lsl:lsl -R /opt/module

2.rsync 远程同步工具

2.1简介

rsync主要用于备份和镜像。具有速度快、避免复制相同内容和支持符号链接的优点。

2.2rsync和scp区别

用rsync做文件的复制要比scp的速度快,rsync只对差异文件做更新。scp是把所有文件都复制过去

2.3基本语法

rsync    -rvl        $pdir/$fname              $user@hadoop$host:$pdir
命令     选项参数      要拷贝的文件路径/名称          目的用户@主机:目的路径
选项		功能
-r		    递归
-v		  显示复制过程
-l		  拷贝符号连接

2.4帮助理解的例子

rsync -rvl /opt/software/ root@hadoop102:/opt/software

3.编写xsync集群分发脚本

3.1为什么要编写?

因为分发只能分发一台机器,如果集群上的机器非常多!!!可想而知后果是怎么样的。所以 you know .

3.2 简单的分析下

1.rsync原始拷贝命令:rsync -rvl /opt/module root@hadoop103:/opt/
看到其中的固定格式没!!!把变量提出来就可以了。

3.3脚本实现

  • 在/home/lsl目录下创建bin目录,并在bin目录下创建xsync文件
  • 文件xsync内容
#!/bin/bash
#1 获取输入参数个数,如果没有参数,直接退出
pcount=$#
if((pcount==0)); then
echo no args;
exit;
fi

#2 获取文件名称
p1=$1
fname=`basename $p1`
echo fname=$fname

#3 获取上级目录到绝对路径
pdir=`cd -P $(dirname $p1); pwd`
echo pdir=$pdir

#4 获取当前用户名称
user=`whoami`

#5 循环
for((host=102; host<105; host++)); do
        echo ------------------- hadoop$host --------------
        rsync -rvl $pdir/$fname $user@hadoop$host:$pdir
done
  • 修改脚本 xsync 具有执行权限:chmod 777 xsync
  • 调用脚本测试:xsync /home/lsl/bin
    注意:如果将xsync放到/home/lsl/bin目录下仍然不能实现全局使用,可以将xsync移动到/usr/local/bin目录下

版权声明:本博客为记录本人自学感悟,转载需注明出处!
https://me.csdn.net/qq_39657909

已标记关键词 清除标记
©️2020 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页