地点表明和授权使用的OpenID Connect和OAuth 2.0,不仅仅是Office
365,Azure上的API验证都是用OpenID Connect和OAuth
2.0,他的落实劳务是Azure活动目录(AAD),在Nanofabric
中运用IdentityServer4 来实出现份验证和授权,IdentityServer4
本身已经帮您完了了OpenID Connect和OAuth 2.0 ,而且IdentityServer4
的架构分外赏心悦目,非凡容易举行定制开发。

1.6 情势匹配

1.6.1 正则表明式

awk协助的正则表明式元字符

元字符

功能

示例

解释

^

字符串最先

/^cool/

配合所有以cool先河的字符串

$

字符串结尾

/cool$/

非常所有以cool结尾的字符串

.

配合任意单个字符

(包括回车符)

/c..l/

匹配字母c,然后五个随机字符,再以l结尾的行,比如ckk1,c@#1等

*

匹配0个或七个前导字符

/a*cool/

匹配0个或三个a之后紧跟着cool的行,比如cool,aaacool

+

再次两次或一遍以上

/a+b/

匹配一个或五个a加b的行

匹配0个或一个起先字符

/a?b/

匹配b或ab的行

[]

匹配指定字符组内的任一个字符

/^[abc]/

匹配以字母a或b或c起首的行

[^]

匹配不在指定字符组

/^[^abc]/

 匹配不以字母a或b或c开端的行

x{m}

x重复m次

x重复至少m次

x重复至少m次,但不超过n次

内需指定参数:–posix或者–re-interval

/(cool){5}

急需留意的一点是,cool加括号或不加括号的分别,x可以使字符串也可以只是一个字符,所有/cool\{5\}/表示匹配coo再添加5个l,即coolllll,

^(cool\){2,\}则代表匹配coolcool,

coolcoolcool等

x{m,}

/(cool){2,}/

 

/(cool){5,6}/

正则表明式的行使,默认是在行内查找匹配的字符串,若有卓殊则执行action操作,可是有时仅需要固定的列来配合指定的正则表明式,比如:$3这一列查找匹配tom的行,那样就需要此外多少个万分操作符:

~:用于对记录或字段的表明式举行(匹配)

!~:用于表明与~想法的趣味。(不般配)

#匹配 第五列以l或者a开头的装有行 ,这里(l|a) 可以换成[al]

[root@linux-node1 files]# awk ‘$3~/^(l|a)/{print $0}’ awkfile.txt

adm x adm var adm sbin nologin

lp x lp var spool lpd sbin nologin

#取eth0 ip

[root@linux-node1 files]# ifconfig eth0| awk -F “[ :]+”
‘NR==2{print $4}’

10.0.0.7

[root@linux-node1 files]# ifconfig eth0| awk -F “addr:| Bcast:”
‘NR==2{print $2}’  

10.0.0.7

[root@linux-node1 files]# echo “—–=====1#######2”

—–=====1#######2

[root@linux-node1 files]# echo “—–=====1#######2″|grep
“[-=#]”

—–=====1#######2

[root@linux-node1 files]# echo “—–=====1#######2″|grep -o
“[-=#]”

=

=

=

=

=

#

#

#

#

#

#

#

[root@linux-node1 files]# echo “—–=====1#######2″|egrep -o
“[-=#]+”

—–=====

#######

 

 

 

#匹配o出现一遍依旧两回的行打印第一列和尾声一列

[root@linux-node1 files]# awk –posix ‘$1~/o{1,2}/{print NR,$1,$NF}’
awkfile.txt

1 root bash

3 daemon nologin

1.6.2相比较表明式

示例1-18

[root@linux-node1 files]# awk ‘NR>=2&&NR<=5{print NR,$0}’
awkfile.txt

2 bin x bin bin sbin nologin

3 daemon x daemon sbin sbin nologin

4 adm x adm var adm sbin nologin

5 lp x lp var spool lpd sbin nologin

1.6.3限量情势

awk ‘/start pos/,/end pos/{print $0} ‘ test.txt

awk ‘/start pos/,NR==XXX{print $0}’ passwd.oldboy

限定形式的时候,范围条件的时候,表明式必须配合一行,

[root@linux-node1 files]# awk ‘NR==2,NR==5{print NR,$1,$3}’
awkfile.txt

2 bin bin

3 daemon daemon

4 adm adm

5 lp lp

[root@linux-node1 files]# awk ‘NR==2,NR==5{print NR,$0}’ awkfile.txt
     

2 bin x bin bin sbin nologin

3 daemon x daemon sbin sbin nologin

4 adm x adm var adm sbin nologin

5 lp x lp var spool lpd sbin nologin

[root@linux-node1 files]# awk ‘NR==2,NR<=5{print NR,$0}’
awkfile.txt  

2 bin x bin bin sbin nologin

1.6.4铺面案例:取出常用服务端口号

ftp http https mysql ssh 端口号
/etc/services 文件

[root@linux-node1 files]# awk -F “[ /]+”
‘$1~/ftp|https|mysql|ssh)$/{print $1,$2}’ /etc/services|uniq

小结:

  1. 模式===》条件
  2. 正则表明式
  3. 标准化表达式(NR>=2
    NR==2)
  4. 界定表明式
  5. (NR==2,NR==5)
  6. /正则表明式-先河/,/正则停止/
  7. $1~/正则表达式-开首/,$3~/正则截止/ 行,记录。
  8. 区域:FS刀分隔的,FS区域分隔符
  9. 笔录:RS刀分隔的,RS记录分隔符
  10. FS===>NF 区域的数额
  11. RS===>NR 记录号,随着记录的充实NR自动+1

 

本书的内容不仅基本完好覆盖了Office 365开支的四大方向(Microsoft
Graph,Office Add-in, SharePoint Add-in,Office 365
Connector),而且还包括了任何一些有意义的话题,例如有针对人工智能的话题,有生意利用平台的话题(Power
Apps,Microsoft Flow,Power BI等)。

1.4 awk执行进程

在浓厚通晓awk前,大家需要了解awk如何处理公事的。

以身作则1-1 演示文件的创始

[root@linux-node1 ~]# mkdir -p /server/files/

[root@linux-node1 ~]# head /etc/passwd > /server/files/awkfile.txt

[root@linux-node1 ~]# cat /server/files/awkfile.txt  

root:x:0:0:root:/root:/bin/bash

bin:x:1:1:bin:/bin:/sbin/nologin

daemon:x:2:2:daemon:/sbin:/sbin/nologin

adm:x:3:4:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sync:x:5:0:sync:/sbin:/bin/sync

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

halt:x:7:0:halt:/sbin:/sbin/halt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

[root@linux-node1 ~]# awk ‘NR>=2{print $0}’
/server/files/awkfile.txt

bin:x:1:1:bin:/bin:/sbin/nologin

daemon:x:2:2:daemon:/sbin:/sbin/nologin

adm:x:3:4:adm:/var/adm:/sbin/nologin

lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

sync:x:5:0:sync:/sbin:/bin/sync

shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

halt:x:7:0:halt:/sbin:/sbin/halt

mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

[root@linux-node1 ~]# awk ‘NR>=2{print NR,$0}’
/server/files/awkfile.txt

2 bin:x:1:1:bin:/bin:/sbin/nologin

3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

4 adm:x:3:4:adm:/var/adm:/sbin/nologin

5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6 sync:x:5:0:sync:/sbin:/bin/sync

7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

8 halt:x:7:0:halt:/sbin:/sbin/halt

9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

awk是由此一行一行的拍卖文件,这条命令中带有情势部分(条件)和动作部分(动作),awk将处理情势指定的行。

小结awk执行进程:

a)awk读入第一行内容

b)判断符合格局中的条件(NR>=2)

l 假使匹配默认则执行相应的动作({print
$0})

l 假如不配合原则,继续读取下一行

c))继续读取下一行

d)重复过程a-c,直到读取到最后一行(EOF:end of file)

 

Office add-ins,SharePoint Add-ins,Office 365 Connectors
这三有的是Office
的效力的付出了,包括客户端、服务端和外部系统的相互集成。这是一个优异的微服务的拔取体系的架构,值得大家计划使用系列参考。

1.2 awk环境简介

[root@linux-node1 ~]# cat /etc/redhat-release

CentOS release 6.6 (Final)

 

[root@linux-node1 ~]# uname -r

2.6.32-504.el6.x86_64

 

[root@linux-node1 ~]# awk –version

GNU Awk 3.1.7

 

[root@linux-node1 ~]# which awk

/bin/awk

#/bin下和/sbin下的指令区别:

/bin : commands in this dir are all system installed user commands
   系统的局部限令

/sbin:  commands in this dir are all system installed super user
commands  一流用户指令
系统管理命令,这里存放的是系统管理员使用的管制程序 

/usr/bin: user commands for applications  前期安装的有的软件的周转脚本

/usr/sbin: super user commands for applications  顶尖用户的一对管理程序

 

 

Office 的扩大开发具有长久的历史,相比较前边的VBA(Visual Basic for
Application)和VSTO(Visual Studio Tools for
Office)开发,我们将这时代的Office Add-in开发技术称为“Web
Add-in”,顾名思义,就是运用最常见的Web技术来开展Office
Add-in的支付。假诺你已经有Web的支出经历,你将很容易地上手,无需特别学习。反过来说,这也平添了技能的要诀,对于有些初期的Office
插件开发者来说,那是一个不太熟习的领域,要学的新东西不少,可能会大增大家的转移成本。无论怎样,Web
Add-in是一个便于的补充(使用它并不表示要丢弃从前的VBA和VSTO),也是跨平台进一步是移动化的内需。总的来说,Office
365的支付已经周到向开源转型了,使用了豪门最精晓的Web技术,用到了无数开源框架和工具,特别是开源跨平台的.NET
技术.NET Core 在此处扮演了关键角色,这也是.NET Core应用的一个着重战场。

1.3 awk的格式

awk指令是由情势,动作,或者情势和动作的组成组成。

情势既pattern,可以接近领会成sed的形式匹配,可以由表明式组成,也能够是五个正斜杠之间的正则表达式。比如NR=1,这就是形式,可以把她明白为一个标准化。

动作即action,是由在大括号里面的一条或多条语句组成,语句之间用分号隔开。如awk使用格式:

 图片 1

 

图1-1 awk命令行格式

awk处理的始末可以来自专业输入(<),一个或两个文件文件或管道。

图片 2

 

图1-2 awk情势动作解释图

pattern既格局,也足以清楚为尺度,也叫找何人,你找谁?高矮,胖瘦,男女?都是标准化,既形式。

action 既动作,可以知道为干啥,找到人之后您要做什么。

 

Microsoft
Graph是一套RESTful的接口,所以它的兼具接口都是通过标准的http方法(GET,
POST, PUT, DELETE)可以一贯访问到,
而且还足以透过改动Url的参数来举行筛选、排序、分页等操作,它回到的数据是专业的JSON格式,这种特点决定了Microsoft
Graph是跨开发平台支撑的,我们得以把它看做是微软Office 365
的API网关,对外提供统一接口层,让自身想起自家的开源项目Nanofabric(https://github.com/geffzhang/NanoFabric)的API网关Ocelot的角色,我们来看下这张Microsoft
Graph的完整架构。

1.8awk放置变量(预定义变量)

 

变量名

属性

$0

当前记录

$1-$n

当前记录的第n个字段,字段间由FS分隔

FS

输入字段分隔符 默认是空格

NF

当前记录中的字段个数。就是有多少列

NR

已经读出的记录数,就是行号,从1开始

RS

输入的记录分隔符默认为换行符

OFS

输出字段分隔符 默认也是空格

ORS

输出的记录分隔符,默认为

FNR

当前文件的读入记录号

在新总裁纳德拉的引路下,秉持“云为先”和“一个微软”的方针,微软比另外时候都进一步开放和谦虚,内部协作也更连贯。Office
365腾飞到现行,在通过各样用户看得见和看不见的变更和升华后,已经改为一套相比较早熟的云服务,而各样提升和更新还在后续。
Office
365是一个很好的支出平台,有大量的用户,据不完全总计,地球上1/7的人们在采取Office,Microsoft
Graph可以让您的事务系统很容易地和Office 365 集成
起来,立尽管用Office 365的雄强服务提升工作应用能力。而Office
Add-in则是面向所有的Office 365 & Office
开发人员的国宴,它用来扩展Office 365 &
Office的能力,用中国话讲就是“插件”。

3. 考试题

考查题1:处理以下文件内容,将域名取出并遵照域名举行计数排序处理:(百度和sohu面试题)

oldboy.log

http://www.etiantian.org/index.html

http://www.etiantian.org/1.html

http://post.etiantian.org/index.html

http://mp3.etiantian.org/index.html

http://www.etiantian.org/3.html

http://post.etiantian.org/2.html

答案 (4种)

#这里的

root@linux-node1 files]# awk -F “/” ‘{array[$3]++}END{for(key in
array) print key,array[key]}’ awkfile3.txt

[root@linux-node1 files]# awk -F “/+” ‘{array[$2]++}END{for(key in
array)print key,array[key]}’  awkfile3.txt

[root@linux-node1 files]#  cut -d / -f3 awkfile3.txt|sort|uniq
-c|sort -nrk2

[root@linux-node1 files]#  sort -t / -rk3 awkfile3.txt|awk -F /
‘{print $3}’|uniq -c

 

测验题2:总结公司办事中高并发web服务器不同网络连接状态对应的多寡

[root@linux-node1 files]# netstat -ant|awk
‘NR>=3{array[$6]++}END{for(key in array)print key,array[key]}’
             

TIME_WAIT 134

SYN_SENT 1

ESTABLISHED 5

LISTEN 10

 

[root@linux-node1 files]# netstat -ant|awk ‘{print $6}’|uniq -c|sort
-nr

    138 TIME_WAIT

      7 LISTEN

      5 ESTABLISHED

      3 LISTEN

      1 Foreign

      1 established)

试验题3.分析图片服务日志,把日志(每个图片访问次数*图片大小的总数)排名,取top10,也就是计量每个url的总访问大小【附加题:加分题】。

表达:本题生产条件应用:这些功用可以用于IDC网站流量带宽很高,然后经过分析服务器日志哪些要素占用流量过大,进而拓展优化或裁剪该图形,压缩js等方法。

核心需要输出五个目标: 【访问次数】  
 【访问次数*单个文件大小】   【文件名(可以带URL)】

测试数据

59.33.26.105 – – [08/Dec/2010:15:43:56 +0800] “GET
/staticphotos/2.jpg HTTP/1.1” 200 11299
http://oldboy.blog.51cto.com/static/web/column/17/index.shtml?courseId=43
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR
2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)”

59.33.26.105 – – [08/Dec/2010:15:43:56 +0800] “GET
/staticphotos/2.jpg HTTP/1.1” 200 11299
http://oldboy.blog.51cto.com/static/web/column/17/index.shtml?courseId=43
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR
2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)”

59.33.26.105 – – [08/Dec/2010:15:44:02 +0800] “GET
/static/flex/vedioLoading.swf HTTP/1.1” 200 3583
http://oldboy.blog.51cto.com/static/flex/AdobeVideoPlayer.swf?width=590&height=328&url=/\[\[DYNAMIC\]\]/2
“Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; .NET CLR
2.0.50727; .NET CLR 3.0.4506.2152; .NET CLR 3.5.30729)”

124.115.4.18 – – [08/Dec/2010:15:44:15 +0800] “GET /?= HTTP/1.1” 200
46232 “-” “-“

124.115.4.18 – – [08/Dec/2010:15:44:25 +0800] “GET
/static/js/web_js.js HTTP/1.1” 200 4460 “-” “-“

124.115.4.18 – – [08/Dec/2010:15:44:25 +0800] “GET
/static/js/jquery.lazyload.js HTTP/1.1” 200 1627 “-” “-“

 

答案:

[root@linux-node1 files]# awk
‘BEGIN{print”URL:””\t””num:\t””total_size:”}{a[$7]++;b[$7]=$10}END{for(key
in a)print key”\t”a[key]”\t”a[key]*b[key]}’ images.log  

URL:    num:    total_size:

/?=     1       46232

/static/js/web_js.js    1       4460

/staticphotos/2.jpg     2       22598

/static/flex/vedioLoading.swf   1       3583

/static/js/jquery.lazyload.js   1       1627

精通透上述问题并搞定后,你将得以轻松搞定如下扩展的考试题:

扩大考试题1:

4.假诺现行有个文件,格式如下:

a  1

b  3

c  2

d  7

b  5

a  3 

g  2

f  6

d  9

即左边是随机字母,左侧是自由数字,要求写个脚本使其出口格式为:

a  4

b  8

c  2

d  16

f  6

g  2

就要相同的字母前边的数字加在一起,按字母的逐条输出。

答案:

答案

[root@linux-node1 files]# awk ‘{if(!
a[$1]++)b[++n]=$1;c[$1]+=$2}END{for(i=1;i<=n;i++)print
b[i],c[b[i]]}’ a.txt

a 4

b 8

c 2

d 16

g 2

f 6

扩大考试题2:用shell处理以下内容

1、按单词出现频率降序排序!

2、按字母出现频率降序排序!

the squid project provides a number of resources to assist users
design,implement and support squid installations. Please browse the
documentation and support sections for more infomation

1.答案

[root@linux-node1 files]# sed -r ‘s#,| #\n#g’ b.txt|awk
‘{array[$0]++}END{for(key in array) print array[key],key}’|sort -r
         

2 the

2 support

2 squid

2 and

1 users

1 to

1 sections

1 resources

1 provides

1 project

1 of

1 number

1 more

1 installations.

1 infomation

1 implement

1 for

1 documentation

1 design

1 browse

1 assist

1 a

1 Please

1

 

 

 

2.答案

[root@linux-node1 files]# sed ‘s#[a-zA-Z]#& #g’ b.txt|awk
‘BEGIN{RS=” “}{arr[$1]++}END{for(i in arr) print arr[i],i}’|sort -nr
    

25

19 s

17 e

16 o

14 t

12 n

11 r

11 i

9 a

8 u

7 p

7 d

6 m

4 l

4 c

3 f

2 q

2 h

2 b

1 w

1 v

1 j

1 g

1 P

1 .

1 ,i

 

图片 3

第2章awk总结:

Office 365
不仅仅是确实的快速办公第一取舍,而且秉持一直以来的优异传统,它是一个很开放的可扩展平台。除了延续协助VBA和VSTO的扩大格局,新一代Web
Add-in
将系数实现“一回编写,处处运行”的对象,发挥您的创意,定制专属的功用,可以在台式机、网页、平板、手机中取得一致性的采纳体验,并且仍是可以与天下的数以十亿计的Office
365用户享受。Office
365当作一个崭新的平台和崭新的生态,它本身也丰硕复杂,
这一个指南包括方今Office
365所援助的开支情势的应有尽有介绍,并且经过案例指点观众举办实施,那多少个指南是个入门的好手册,广大的Office开发人士转到大家的.NET
Core平台上来啊,让你的Office技能焕发第二春。

 1.5 区域和著录

名称

含义

field

域,区域,字段

record

记录,默认一整行

eg:$1,$2,$3,$NF

$0: 整行,一个记录

$ 取 引用

 

1.5.1 字段(区域)

每条记下都是由三个字段(field)组成的,默认状况下里面的相间符是由空白符(即空格或制表符)来分隔,并且将分隔符记录在放手变量FS中。每行记录的字段数保存在awk的嵌入变量NF中。

 

 

图1-4 awk区域分隔符

awk使用内置变量FS来记录字段分隔符的情节,能够经过BEGIN语句来改变,也得以在命令行上通过-F参数来改变,下面通过演示来加强学习。

演示1-3  FS演示文件生成

[root@linux-node1 ~]# awk -F “:” ‘NR>=2&&NR<=5{print $1,$3}’
/server/files/awkfile.txt

bin 1

daemon 2

adm 3

lp 4

1.5.2记录

awk对各样要拍卖的输入数据人为都是装有格式和结构的,而不只是一堆字符串。默认情形下,每一行内容都改为一条记下,并以换行符截至。

 

² 默认情况 -一行==一个记下,每行都是一个记录。

² RS ==》 record separator 每个记录读入的时候的分隔符。

² NR==》 number of record 行号,记录的数。awk当前处理着的,记录的数。

² ORS==》 output record separate 输出食肉的相间符

 

awk使用内置变量来存放在记录分隔符,RS表示的是输入的笔录分隔符,这多少个值也足以以一定的章程修改。

前方大家讲到过的$0,awk使用$0来代表整条记录。记录分隔符\n保存在RS变量中。此外awk对每一行的记录号都有一个放到变量NR来保存,每处理完一条记下NR的值就会活动+1.

下边通过演示来进步一下咋样是记录,记录分隔符。

示范1-5 NR记录行号

[root@linux-node1 files]# awk ‘{print NR,$0}’ awkfile.txt

1 root:x:0:0:root:/root:/bin/bash

2 bin:x:1:1:bin:/bin:/sbin/nologin

3 daemon:x:2:2:daemon:/sbin:/sbin/nologin

4 adm:x:3:4:adm:/var/adm:/sbin/nologin

5 lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin

6 sync:x:5:0:sync:/sbin:/bin/sync

7 shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown

8 halt:x:7:0:halt:/sbin:/sbin/halt

9 mail:x:8:12:mail:/var/spool/mail:/sbin/nologin

10 uucp:x:10:14:uucp:/var/spool/uucp:/sbin/nologin

 

演示1-6 RS记录分隔符

#以/为分隔符记录一行

[root@linux-node1 files]# awk ‘BEGIN{RS=”/”}{print NR,$0}’
awkfile.txt

1 root:x:0:0:root:

2 root:

3 bin

4 bash

bin:x:1:1:bin:

5 bin:

6 sbin

7 nologin

daemon:x:2:2:daemon:

8 sbin:

9 sbin

10 nologin

adm:x:3:4:adm:

11 var

12 adm:

13 sbin

14 nologin

lp:x:4:7:lp:

15 var

16 spool

17 lpd:

18 sbin

19 nologin

#以:为分隔符记录一行

[root@linux-node1 files]# awk ‘BEGIN{RS=”:”}{print NR,$0}’
awkfile.txt  

1 root

2 x

3 0

4 0

5 root

6 /root

7 /bin/bash

bin

8 x

9 1

10 1

11 bin

12 /bin

13 /sbin/nologin

daemon

14 x

15 2

16 2

17 daemon

18 /sbin

19 /sbin/nologin

adm

20 x

21 3

22 4

23 adm

24 /var/adm

25 /sbin/nologin

lp

26 x

27 4

28 7

29 lp

30 /var/spool/lpd

31 /sbin/nologin

awk 眼中的文本,从头到尾一段连接的字符串,恰巧中间略微\n(回车换行符)

 

示例1-7 RS为空值

#RS为空值的时候将点名行输出为一行

[root@linux-node1 files]# awk ‘BEGIN{RS=””}{print NR,$1,$2,$3}’
awkfile.txt  

 

 

说明:

在行首打印输出记录号,并打印出每一行$0的内容

 

店家案例1:总括文件中各类单词的重复数量

[root@linux-node1 files]# sed -ri.bak ‘s#[:/0-9]+# #g’
awkfile.txt

1)单词弄成一列(排队)

里面 -o 表示“only-matching 精确匹配

[root@linux-node1 files]# egrep -o “[a-zA-z]+” awkfile.txt |sort|
uniq -c|sort -r

      5 x

      5 sbin

      4 nologin

      4 bin

      3 root

      3 adm

      2 var

      2 lp

      2 daemon

      1 spool

      1 lpd

      1 bash

2)统计

[root@linux-node1 files]# awk ‘BEGIN{RS=”() | \n”}{print $0}’
awkfile.txt|sort |uniq -c|sort -rn

      5 x

      5 sbin

      4 nologin

      4 bin

      3 root

      3 adm

      2 var

      2 lp

      2 daemon

      1 spool

      1 lpd

      1 bash

      1

 

合作社案例2: 总计文件中各类字母的双重数量

 

记录小结:

  1. 小象放冰柜分几步?打开冰橱,把大象放进去,关闭冰柜门。
  2. 多用NR,NF,$数字,配合你举行调试awk命令。
  3. NR存放着每个记录的号(行号)读取新行时候会自动+1
  4. RS是记录的分隔符,简单了然就是足以指定每个记录的末梢标志。
  5. (用RS替换\n)
  6. RS成效就是代表一个记下的竣工。
  7. FS标识着每个区域的扫尾。

新近有幸阅读了陈希章花了一年时间为国内开发者进献的《Office 365
开发入门指南》

即便早期接触过SharePoint的开支,二〇〇七年过后就再也未尝接触SharePoint的开支,本次阅读那本书让我重新认识了Office的系统开发技术,让自己发觉到如今的Office
开发也是.NET Core
开发技术的新战场,而且越来越有心的是陈希章的范例都是使用.NET
Core写的,具体地址 https://github.com/chenxizhang/office365dev

1.9 awk数组

以身作则1-9数组演示

array[b]=”aaa”:array…..

 

 

1.9.1供销社面试题1

 

处理以下文件内容,将域名取出并基于域名举办计数排序处理(去重):(百度和sohu面试题)

[root@linux-node1 files]# cat awkfile3.txt

http://www.etiantian.org/index.html

http://www.etiantian.org/1.html

http://post.etiantian.org/index.html

http://mp3.etiantian.org/index.html

http://www.etiantian.org/3.html

http://post.etiantian.org/2.html

 

[root@linux-node1 files]# awk -F “/” ‘{array[$3]++}END{for(key in
array) print key,array[key]}’ awkfile3.txt

mp3.etiantian.org 1

post.etiantian.org 2

www.etiantian.org 3

 

[root@linux-node1 files]# awk -F “/+” ‘{array[$2]++}END{for(key in
array)print key,array[key]}’  awkfile3.txt

mp3.etiantian.org 1

post.etiantian.org 2

www.etiantian.org 3

小结:

 

  1. awk数组去重
  2. 选好分隔符 -F “/”
  3. 选好处理的区域,print
    $1,$3,$2
  4. array[$3]++
  5. 先拍卖,最终END模块输出
  6. 输出awk数组我们运用for(key in array)
  7. ===>for ()循环
  8. key in array 手去框里,抓苹果。
  9. key 就是苹果名字(数组元素的名字)
  10. array数组名(框的名字)
  11. 打印输出print
    key,array[key]

 

1.9.2 公司案例2总计每个IP的访问量

access_awk.log

 

1.10 awk连锁芬兰语总括

名称

含义

filed

域,区域,字段

record

记录,默认一整行

Filed Separator

FS:区域分隔符,表示一个区域的结束,字段,域

Number of Filed

NF:每一个记录中区域的数量

Record Separator

RS:记录分隔符,表示每个记录的结束

output filed separator

OFS

output Record Separator

ORS

awk当前处理的文件的记录号

FNR

[root@linux-node1 files]# seq 20 30 >20-30.txt

[root@linux-node1 files]# seq 50 60 >50-60.txt

[root@linux-node1 files]# awk ‘{print FNR,NR,$0}’ 20-30.txt 50-60.txt

1 1 20

2 2 21

3 3 22

4 4 23

5 5 24

6 6 25

7 7 26

8 8 27

9 9 28

10 10 29

11 11 30

1 12 50

2 13 51

3 14 52

4 15 53

5 16 54

6 17 55

7 18 56

8 19 57

9 20 58

10 21 59

11 22 60

图片 4

第1章 awk简介

1.1 awk简介

  • 一种名字怪异的语言。
  • 格局扫描和拍卖。处理文本流,水流。

awk不仅仅是linux系统中的一个限令,而且是一种编程语言,可以用来拍卖数据和生成报告。

处理的数额可以是一个或六个公文,可以是缘于专业输入,也可以通过管道获取标准输入,awk可以

在命令行上直接编辑命令举行操作,也得以编写成awk程序来举办更加复杂的运用。这里根本讲解

awk命令行的行使。

学完本章你会询问:

  • 域(字段)与记录
  • 形式与配合
  • 主导的awk执行过程
  • awk常用内置变量(预定义变量)
  • awk数组(工作中相比常用)

再有局部任何awk用法:(那里不作介绍)

  • awk语法:循环,条件
  • awk常用函数:print
  • 向awk传递参数
  • awk引用shell变量
  • awk编程

 

2.1.找何人干啥模块

 图片 5

图片 6

 

 

 

 

 

 

 

 

2.2awk执行过程-完全

 图片 7

 

BEGIN模块输出一些提醒性文字。awk内置变量FS,RS,ORS,OFS。

END 模块输出一些指示性文字,呈现最终的结果,总括空行,awk数组,去苹果的过程把苹果来得处理。

awk里面的司空眼惯变量不用开端化。

awk先处理,一行一行的处理,然后END模块输出。

  1. 域与记录

FS指定各样各种的刀(正则表示),RS正则表明

 

  1. 情势匹配===》条件 咋样找人。

正则表达式

^字符串起先

$字符串结尾

$3~/^http$/

–posix或 –re-interval

r{n,m}

相当精确,模糊

NR==1

NR>=2

情势默认匹配 一行$0

$3~/^r/

awk ‘$3~/[4-6]/{print $0}’ passwd.txt

限定匹配

NR=2,NR=5   ==>2,5p

/start 地点/,/截止地方/

 

  1. 相遇正则表明式/ /
  2. $3~/reg/
  3. > = <
  4. NR==2,NR=5 /start地点/,/截至地点/

 

  1. awk数组

数组 ==>元素

一个筐==》苹果

图片 8

图片 9

图片 10

 

 

 

题目来源:

http://edu.51cto.com/course/course\_id-4319.html

 

1.7 awk构造的记忆

1.7.1 BEGIN模块

BEGIN情势从前我们有在演示中提到,自定义变量,给内容变量赋值等,都是用过。需要注意的是BEGIN情势后边要接跟一个action操作块,包含在大括号内。awk必须在对输入文件举行其他处理前先实施BEGIN定义的action操作块。大家能够不要此外输入文件,就可以对BEGIN模块举行测试,因为awk需要先实施完BEGIN情势,菜对输入文件做拍卖。BEGIN格局平时被用来修改内置变量ORS,RS,FS,OFS等的值。

示例1-25

[root@linux-node1 files]# awk ‘BEGIN{print “this is begin!\nand
thiscommand donnot have file”}’

this is begin!

and thiscommand donnot have file

说明:

从未公文awk依然可以处理BEGIN形式下的操作块。

1.7.2 END模块

END 在awk读取完所有的文书的时候

awk编程思想:

1.先处理,最终再END模块输出。

与BEGIN形式相对于的END情势,格式一样,不过END情势仅在awk处理完所有输入行后才举办拍卖。并且在END格局下awk不匹配任何输入行。

1.7.3 总括awk执行进程

1.读入一行

2.断定是否是需要的行 条件$3>15 满意抢先15 执行action :print

3.不满意条件重复1,2步骤

1.7.4 公司案例3:总计文件之中的空行数量

[root@linux-node1 files]# grep -c “^$” /etc/services

16

[root@linux-node1 files]# awk ‘/^$/{a=a+1;print a}’ /etc/services  

1

2

3

4

5

6

7

8

9

10

11

12

13

14

15

16

[root@linux-node1 files]# awk ‘/^$/{a=a+1}END{print a}’ /etc/services
            

16

 

 head -20 /etc/passwd >awkfile2.txt

面试题:awkfile2.txt 里面 以:为分隔符,区域3大于15行,一共有些许个?

[root@linux-node1 files]# awk -F “:” ‘$3>15{print $0}’
awkfile2.txt   

nobody:x:99:99:Nobody:/:/sbin/nologin

dbus:x:81:81:System message bus:/:/sbin/nologin

usbmuxd:x:113:113:usbmuxd user:/:/sbin/nologin

vcsa:x:69:69:virtual console memory owner:/dev:/sbin/nologin

rpc:x:32:32:Rpcbind Daemon:/var/cache/rpcbind:/sbin/nologin

rtkit:x:499:497:RealtimeKit:/proc:/sbin/nologin

#算算三遍,输出四回

[root@linux-node1 files]# awk -F “:” ‘$3>15{a=a+1;print a}’
awkfile2.txt           

1

2

3

4

5

6

#处理完文件之后再输出a   那里a=a+1 可以用a++代替

[root@linux-node1 files]# awk -F “:” ‘$3>15{a=a+1;}END{print a}’
awkfile2.txt        

6

商厦面试题5:1+…..+100 1加到100的值,用awk实现

root@linux-node1 files]# seq 100 > test.txt  

[root@linux-node1 files]# cat test.txt |awk ‘{a+=$0}END{print a}’

5050

[[root@linux-node1 files]# awk ‘a=a+$0;END{print a}’ test.txt |sed
-n ‘$p’

5050

1.7.4 集团案例4:

找出环境变量$PATH中,所有只有五个随机字符的下令,例如tee,并将她们重定向到command.txt中,要求一行显示1个,并在文件尾部总括他们的个数.

 

[root@linux-node1 files]# find $(echo $PATH|tr “:” ” “) -type f -name
“???”| awk ‘{a++}END{print “result:”a}’

find: `/root/bin’: No such file or directory

result:75

通配符:用来配合文件名的。{}字符系列

正则表明:字符串

1.7.5 总计awk执行过程

 

[root@linux-node1 files]# awk -F “:” ‘BEGIN{print FS}’        

:

先执行命令再实践BEGIN模块

 

 

思想:

  1. awk大旨思想就是现处理,然后END模块输出。(累加(a++;a+=$0),awk数组)
  2. BEGIN模块用于awk内置变量FS,RS的赋值,打印标题头的音信,(excel表格里面标题行)
  3. END模块用来最终输出,统计音信,awk数组音信。
  4. 区域,记录

 

  1. BEGIN和END模块只可以有一个。不可以BEGIN{}BEGIN{}或者END{}END{}
  2. 找何人干啥模块,可以是四个。

NR=2{print $1}NR=5{print $0}

三剑客之awk