awk基本用法简介

awk基本用法简介之前说过sed,今天来说awk,它也是一个文本处理器,是linux下的一个命令,比sed更强大。搞linux开发,尤其是后台开发,这个命令几乎必须要用到。awk这三个字母分别代表其三位作者的名字,而不是某个/某些有意义单词的缩写。还是那句话,以实践操作为荣,以只看不练为耻。当然,理解awk的原理是必须的:读入有’\n’换行符分割的一条记录,将记录按指定的域分隔符划分域,$0表示所有域,$1表示第一个域,$n表示第n个域。默认域分隔符是空格键或tab键。

大家好,又见面了,我是你们的朋友全栈君。

       之前说过sed, 今天来说awk, 它也是一个文本处理器, 是linux下的一个命令, 比sed更强大。 搞linux开发, 尤其是后台开发, 这个命令几乎必须要用到。 awk这三个字母分别代表其三位作者的名字, 而不是某个/某些有意义单词的缩写。

       还是那句话,以实践操作为荣, 以只看不练为耻。当然, 理解awk的原理是必须的:读入有’\n’换行符分割的一条记录,将记录按指定的域分隔符划分域,$0表示所有域, $1表示第一个域, $n表示第n个域。 默认域分隔符是空格键或tab键。

       鉴于awk涉及的东西太多, 所以本文中, 我们仅仅介绍基本的用法, 以后遇到了新的东东, 再添加到本博文中, 滚雪球似地积累。

 

       先来感受一下awk, 我们假设test.txt中的内容:

 

xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

       之前, 我们用sed来输出行, 现在, 我们来感受一下用awk输出列, 如下:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

       看到了吧, 这就是awk. 注意上面只能是单引号, 不能是双引号, $2表示第二列。

 

     
       我们来看看awk的一般格式:awk [option]  ‘pattern {action}’ test.txt,  比如上面的awk ‘{print $2}’ test.txt, 此时,采用默认选项, 且条件永远为真。

       下面, 我们根据awk的原型来一一说明:

        

        A.awk 

        其实awk就相当于一个函数名, 没什么好说的了。

 

        B. option

        我们先看如下操作, 打印test.txt文件的第二列:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk

        可以看到, 命令中没有选项, 也就是采用了默认选项, 现在假设a.txt中的文件内容为:

 

 

xxx|Math|English|C++|Experiment
Monkey|100|90|95|Good
Cat|80|100|60|Perfect
Dog|90|60|70|Great
Tiger|95|85|90|Fantastic

       我们再用awk ‘{print $2}’ a.txt就不灵了, 为什么呢? 因为awk ‘{print $2}’ a.txt的选项为空, 默认的是以空格为分隔符, 显然不能进行划分。 那怎么办呢? 此时, 我们应该显式地指明分隔符, 如下:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk -F "|" '{print $2}' a.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

       这就对了。好了, 后续我们仍然针对test.txt, 不针对a.txt. 也就是说, 采用默认的选项。

 

 

       C. pattern

       这个最好理解了, 比如, 条件就是一种模式(但模式不仅仅是条件, 有可能是一些正则表达式等)。我们看到, 在awk ‘{print $2}’ test.txt中, 是无条件的, 所谓无条件即为真。 日本无条件投降, 大概就是这个意思。 当然, 为了讲清楚条件, 我们还是来看看:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1<2 {print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1<1 {print $2}' test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

       我们看到, 当条件为真的时候, 才会有真正的打印, 反之, 打个屁。 如果要打印整个文件, 可以这么搞:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '0' test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

      可以看看到, 条件为真, 有打印。 否则, 没有打印。
 

       D. action

       这个好理解, 无非就是内置命令而已, 比如print $2, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

       当然, 如果你喜欢C/C++语言格式, 那完全可以写成:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%s\n", $2)}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

       实际上, 在pattern部分, 我们是可以用C/C++语言的if等关键字的, 如:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{if(1<2) printf("%s\n", $2)}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{if(1<1) printf("%s\n", $2)}' test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

 

 

      我们看到, awk看似很小, 其实五脏俱全。 弄清了上面的基本构成, awk就算基本入门了。 既然已经与awk有了初步的恋爱感觉了, 那就要趁热打铁的练习一下。

 

 

      

      一. awk的内置变量

      1. $0表示整行, $n表示第n个分段, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $0}' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

      再如:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $1, $3}' test.txt
xxx English
Monkey 90
Cat 100
Dog 60
Tiger 85

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

 

 

      2. FILENAME表示文件名称, 比如:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%s\n", FILENAME)}' test.txt
test.txt
test.txt
test.txt
test.txt
test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

       可以看到, 文件名被打印出来了, 为什么是5个呢? 因为awk是逐行处理的。

 

 

       3. NR是当前的行数, 可以理解为number of row, 当然, 如果你非要说now row这样的中式英语, 那也可以。总之, 你要明白, NR很有用。如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%d:%s\n", NR, FILENAME)}' test.txt
1:test.txt
2:test.txt
3:test.txt
4:test.txt
5:test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

       那要创建test1.txt—test5.txt怎么搞呢? 也很简单, 联合我们之前介绍过的xargs, 如下:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%s%d\n", FILENAME, NR)}' test.txt | xargs touch

Administrator@51B6904C3C8A485 ~/learn_awk
$ ls
test.txt  test.txt1  test.txt2  test.txt3  test.txt4  test.txt5

Administrator@51B6904C3C8A485 ~/learn_awk
$

    

 

      4. FNR是文件中的行数, 和NR还是有点小小区别的, 且看:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ cp test.txt test_bak.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%d:%d:%s\n", NR, FNR, FILENAME)}' test.txt test_bak.txt
1:1:test.txt
2:2:test.txt
3:3:test.txt
4:4:test.txt
5:5:test.txt
6:1:test_bak.txt
7:2:test_bak.txt
8:3:test_bak.txt
9:4:test_bak.txt
10:5:test_bak.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

     

 

     5. NF表示当前行有多少个段, 学这些东西的时候, 不要死记, 要知道NF是number of field的缩写, 那就清晰了, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ echo "good good study" | awk '{print NF}'
3

Administrator@51B6904C3C8A485 ~/learn_awk
$

      可见有3个段, 下面我们看看test.txt的每行是不是有5个段:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print NF}' test.txt
5
5
5
5
5

Administrator@51B6904C3C8A485 ~/learn_awk
$

      果然如此。

 

 

 

 

 

      6. FS是filed seperator, 也就是段分割符号, 默认情况下为空格, 下面我们不用默认的, 而用”|”, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk -F "|" '{print FS}' test.txt
|
|
|
|
|

Administrator@51B6904C3C8A485 ~/learn_awk
$

      

 

      当然, 还有其他的一些内置变量, 在此就不一一举例了, 以后要用的时候, 一查便知。

 

      二. 常见的一些pattern

       1. 条件式的pattern, 我们其实已经熟悉了, 比如:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1<=1' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '1<=0' test.txt

Administrator@51B6904C3C8A485 ~/learn_awk
$

       

 

       2. 来个复杂一点的条件pattern, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk 'length > 30' test.txt
xxx     Math English C++  Experiment
Cat     80    100    60   Perfect
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$

        3. 继续条件pattern, 如下:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '$1=="Cat"' test.txt
Cat     80    100    60   Perfect

Administrator@51B6904C3C8A485 ~/learn_awk
$

        继续加个条件:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '$1!="Cat" && $3>=85' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$

      

 

       4. 打印第2-4行:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk 'NR>=2 && NR<=4 {print $0}' test.txt
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

       别忘了, 我们的sed也可以, 也蛮牛逼的:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ sed -n "2,4"p test.txt
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

       好了, 条件式的pattern我们介绍到这里, 下面我们介绍与正则表达式有关的一些pattern.

 

       5. 行过滤, 类似于grep的功能, 如:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/Cat/' test.txt
Cat     80    100    60   Perfect

Administrator@51B6904C3C8A485 ~/learn_awk
$

       对了,sed也有类似功能, 如下:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ sed -n "/Cat/"p test.txt
Cat     80    100    60   Perfect

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

    

      6. 那能不能实现grep -v的功能呢? 肯定可以, 如果你认为不能, 那太小看awk了, 且看:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '!/Cat/' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Dog     90    60     70   Great
Tiger   95    85     90   Fantastic

Administrator@51B6904C3C8A485 ~/learn_awk
$

 

 

 

      7. 输出以xxxxxx开头的行:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/^C/' test.txt
Cat     80    100    60   Perfect

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/^(C|D)/' test.txt
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

  
      8. 输出以xxxxxx结尾的行:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/t$/' test.txt
xxx     Math English C++  Experiment
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

       

 

      9. 自然而言地, 在一个pattern里, 我们可以既有正则又有条件, 如:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/100/ && $4 >= 60' test.txt
Monkey  100   90     95   Good
Cat     80    100    60   Perfect

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/100/ && $4 > 60' test.txt
Monkey  100   90     95   Good

Administrator@51B6904C3C8A485 ~/learn_awk
$

      10. 最后再来一个:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '/^x/, /^D/' test.txt
xxx     Math English C++  Experiment
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

       当然了, sed肯定也有此功能, 不信你就翻翻我之前的博文。

 

 

       三. 常见的一些action, 实际上主要是内置函数

       1. 最常见的print, printf, 如下:

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print $2}' test.txt
Math
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{printf("%d\n", $2)}' test.txt
0
100
80
90
95

Administrator@51B6904C3C8A485 ~/learn_awk
$

       2.  在action中也可以有种逻辑, 比如打印第2-4行:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{if(NR>=2 && NR<=4) print $0}' test.txt
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

       当然, 你也可以把这个if条件移动到pattern中去, 如:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk 'NR>=2 && NR<=4 {print $0}' test.txt
Monkey  100   90     95   Good
Cat     80    100    60   Perfect
Dog     90    60     70   Great

Administrator@51B6904C3C8A485 ~/learn_awk
$

      3.  计算字符串长度, 相当于C/C++中的length函数

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ echo "good good study" | awk '{print length}'
15

Administrator@51B6904C3C8A485 ~/learn_awk
$

       再如:

 

 

Administrator@51B6904C3C8A485 ~/learn_awk
$ awk '{print length}' test.txt
36
30
33
31
35

Administrator@51B6904C3C8A485 ~/learn_awk
$

       实际上, awk还有很多内建的函数。 本文无法覆盖awk的所有内容, 仅仅提供冰山一角的一些东东, 但供入门肯定是没有问题的。后续会更根据实际, 对本文进行逐渐补充和完善。 

 

       肚子饿了, 该吃饭了。

 

 

 

 

 

 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

发布者:全栈程序员-用户IM,转载请注明出处:https://javaforall.cn/157510.html原文链接:https://javaforall.cn

【正版授权,激活自己账号】: Jetbrains全家桶Ide使用,1年售后保障,每天仅需1毛

【官方授权 正版激活】: 官方授权 正版激活 支持Jetbrains家族下所有IDE 使用个人JB账号...

(0)


相关推荐

发表回复

您的电子邮箱地址不会被公开。

关注全栈程序员社区公众号