大数据基础之shell（十）：Shell工具（重点）

一、cut

cut的工作就是“剪”具体的说就是在文件中负责剪切数据用的。cut 命令从文件的每一行剪切字节、字符和字段并将这些字节、字符和字段输出。

1、基本用法

cut [选项参数] filename

说明默认分隔符是制表符

2、选项参数说明

选项参数	功能
-f	列号提取第几列
-d	分隔符按照指定分隔符分割列

3、案例实操

0数据准备

[root@hdp101 ~]# touch cut.txt
[root@hdp101 ~]# vim cut.txt
dong shen
guan zhen
wo  wo
lai  lai
le  le

1切割cut.txt第一列

[root@hdp101 ~]# cut -d " " -f 1 cut.txt
dong
guan
wo
lai
le

2切割cut.txt第二、三列

[root@hdp101 ~]# cut -d " " -f 2,3 cut.txt
shen
zhen
 wo
 lai
 le

3在cut.txt文件中切割出guan

[root@hdp101 ~]# cat cut.txt | grep "guan" | cut -d " " -f 1
guan

4选取系统PATH变量值第2个“”开始后的所有路径

[root@hdp101 ~]# echo $PATH
/opt/module/maven/bin:/opt/module/java/bin:/opt/module/java/jre/bin:/opt/module/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin

[root@hdp101 ~]# echo $PATH | cut -d: -f 2-
/opt/module/java/bin:/opt/module/java/jre/bin:/opt/module/bin:/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/root/bin

5切割ifconfig 后打印的IP地址

[root@hdp101 ~]# ifconfig eth0 | grep "inet addr" | cut -d: -f 2 | cut -d" " -f1
192.168.1.102

二、sed

sed是一种流编辑器它一次处理一行内容。处理时把当前处理的行存储在临时缓冲区中称为“模式空间”接着用sed命令处理缓冲区中的内容处理完成后把缓冲区的内容送往屏幕。接着处理下一行这样不断重复直到文件末尾。文件内容并没有改变除非你使用重定向存储输出。

1、基本用法

sed [选项参数] ’command’ filename

2、选项参数说明

选项参数	功能
-e	直接在指令列模式上进行sed的动作编辑。

3、命令功能描述

命令	功能描述
a
新增a的后面可以接字串在下一行出现
d	删除
s	查找并替换

4、案例实操

0数据准备

[root@hdp101 ~]# touch sed.txt
[root@hdp101 ~]# vim sed.txt
dong shen
guan zhen
wo  wo
lai  lai

le  le

1将“mei nv”这个单词插入到sed.txt第二行下打印。

[root@hdp101 ~]# sed '2a mei nv' sed.txt
dong shen
guan zhen
mei nv
wo  wo
lai  lai

le  le

注意文件并没有改变

2删除sed.txt文件所有包含wo的行

[root@hdp101 ~]# sed '/wo/d' sed.txt
dong shen
guan zhen
lai  lai

le  le

3将sed.txt文件中wo替换为ni

[root@hdp101 ~]# sed 's/wo/ni/g' sed.txt
dong shen
guan zhen
ni  ni
lai  lai

le  le

注意‘g’表示global全部替换

4将sed.txt文件中的第二行删除并将wo替换为ni

[root@hdp101 ~]# sed -e '2d' -e 's/wo/ni/g' sed.txt
dong shen
ni  ni
lai  lai

le  le

三、awk

一个强大的文本分析工具把文件逐行的读入以空格为默认分隔符将每行切片切开的部分再进行分析处理。

1、基本用法

awk [选项参数] ‘pattern1{action1} pattern2{action2}…’ filename

pattern表示AWK在数据中查找的内容就是匹配模式

action在找到匹配内容时所执行的一系列命令

2、选项参数说明

选项参数	功能
-F	指定输入文件折分隔符
-v	赋值一个用户定义变量

3、案例实操

0数据准备

[root@hdp101 ~]# cp /etc/passwd ./ 

1搜索passwd文件以root关键字开头的所有行并输出该行的第7列。

[root@hdp101 ~]# awk -F: '/^root/{print $7}' passwd
/bin/bash

2搜索passwd文件以root关键字开头的所有行并输出该行的第1列和第7列中间以“”号分割。

[atguigu@hadoop102 datas]$ awk -F: '/^root/{print $1","$7}' passwd
root,/bin/bash

注意只有匹配了pattern的行才会执行action

3只显示/etc/passwd的第一列和第七列以逗号分割且在所有行前面添加列名usershell在最后一行添加"dahaige/bin/zuishuai"。

[root@hdp101 ~]# awk -F : 'BEGIN{print "user, shell"} {print $1","$7} END{print "dahaige,/bin/zuishuai"}' passwd
user, shell
root,/bin/bash
bin,/sbin/nologin
...
hive,/bin/bash
mysql,/bin/false
redis,/sbin/nologin
dahaige,/bin/zuishuai

注意BEGIN 在所有数据读取行之前执行END 在所有数据执行之后执行。

4将passwd文件中的用户id增加数值1并输出

[root@hdp101 ~]# awk -v i=1 -F: '{print $3+i}' passwd
1
2
3
4

4、awk的内置变量

变量	说明
FILENAME	文件名
NR	已读的记录数
NF	浏览记录的域的个数切割后列的个数

5、案例实操

1统计passwd文件名每行的行号每行的列数

[root@hdp101 ~]# awk -F: '{print "filename:"  FILENAME ", linenumber:" NR  ",columns:" NF}' passwd 
filename:passwd, linenumber:1,columns:7
filename:passwd, linenumber:2,columns:7
filename:passwd, linenumber:3,columns:7

2切割IP

[root@hdp101 ~]# ifconfig eth0 | grep "inet addr" | awk -F: '{print $2}' | awk -F " " '{print $1}'
192.168.1.102

3查询sed.txt中空行所在的行号

[root@hdp101 ~]# awk '/^$/{print NR}' sed.txt
5

四、sort

sort命令是在Linux里非常有用它将文件进行排序并将排序结果标准输出。

1、基本语法

sort(选项)(参数)

选项	说明
-n	依照数值的大小排序
-r	以相反的顺序来排序
-t	设置排序时所用的分隔字符
-k	指定需要排序的列

参数指定待排序的文件列表

2、案例实操

0数据准备

[root@hdp101 ~]# touch sort.sh
[root@hdp101 ~]# vim sort.sh 
bb:40:5.4
bd:20:4.2
xz:50:2.3
cls:10:3.5
ss:30:1.6

1按照“”分割后的第三列倒序排序。

[root@hdp101 ~]# sort -t : -nrk 3  sort.sh
bb:40:5.4
bd:20:4.2
cls:10:3.5
xz:50:2.3
ss:30:1.6