示例日志文件:sdk.moneyway.log
1、查看有多少IP访问:
awk '{print $1}' sdk.moneyway.log | sort | uniq | wc -l
2、查看某一个页面被访问的次数:
grep "/api/v1/log/post" sdk.moneyway.log | wc -l
3、查看每一个IP访问了多少个页面:
awk '{++S[$1]} END {for (a in S) print a,S[a]}' sdk.moneyway.log > log.txt
可以配合sort进一步排序:
sort -n -t ' ' -k 2 log.txt > log_new.txt
4、将每个IP访问的页面数进行从小到大排序:
awk '{++S[$1]} END {for (a in S) print S[a],a}' sdk.moneyway.log | sort -n
5、查看某一个IP访问了哪些页面:
grep ^120.244.160.86 sdk.moneyway.log | awk '{print $1,$7}'
6、去掉搜索引擎统计的页面:
awk '{print $12,$1}' sdk.moneyway.log | grep ^\"Mozilla | awk '{print $2}' | sort | uniq | wc -l
7、查看某一时间段内有多少IP访问:
awk '{print $4,$1}' sdk.moneyway.log | grep 10/May/2022:15 | awk '{print $2}'| sort | uniq | wc -l
8、查看访问前十IP地址
方法1:
cat sdk.moneyway.log | cut -d ' ' -f 1 | sort | uniq -c | sort -nr | awk '{print $0}' | head -n 10
方法2:
cat sdk.moneyway.log | awk '{print $1}' | sort | uniq -c | sort -nr | head -10
9、访问次数最多的10个页面或文件
cat sdk.moneyway.log | awk '{print $11}' | sort | uniq -c | sort -nr | head -10
10、通过子域名访问次数,依据referer来计算(稍有不准)
cat sdk.moneyway.log | awk '{print $11}' | sed -e ' s/http:\/\///' -e ' s/\/.*//' | sort | uniq -c | sort -rn | head -20
11、列出传输大小最大的几个文件
cat sdk.moneyway.log | awk '($7~/\.php/){print $10 " " $1 " " $4 " " $7}' | sort -nr | head -100
12、列出输出大于200000byte(约200kb)的页面以及对应页面发生次数
cat sdk.moneyway.log | awk '($10 > 200000 && $7~/\.php/){print $7}' | sort -n | uniq -c | sort -nr | head -100
13、如果日志最后一列记录的是页面文件传输时间,则有列出到客户端最耗时的页面
cat sdk.moneyway.log |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100
14、列出最最耗时的页面(超过60秒的)以及对应页面发生次数
cat sdk.moneyway.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100
15、列出传输时间超过30秒的文件
cat sdk.moneyway.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20
16、列出当前服务器每一进程运行的数量,倒序排列
ps -ef | awk -F ' ' '{print $8 " " $9}' |sort | uniq -c |sort -nr |head -2
17、输出每个IP的连接数,以及总的各个状态的连接数
netstat -n | awk '/^tcp/ {n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N} END {for(a in S){printf("%-20s %s\n", a, S[a]);++I}printf("%-20s %s\n","TOTAL_IP",I);for(a in s) printf("%-20s %s\n",a, s[a]);printf("%-20s %s\n","TOTAL_LINK",N);}'
18、统计网站流量(G)
cat sdk.moneyway.log |awk '{sum+=$10} END {print sum/1024/1024/1024}'
19、统计404连接
awk '($9 ~/404/)' sdk.moneyway.log | awk '{print $9,$7}' | sort
20、统计http status
方法1:
cat sdk.moneyway.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts[code]}'
方法2:
cat sdk.moneyway.log |awk '{print $9}'|sort|uniq -c|sort -rn
21、每秒并发
awk '{if($9~/200|30|404/)COUNT[$4]++}END{for( a in COUNT) print a,COUNT[a]}' sdk.moneyway.log | sort -k 2 -nr|head -n10
22、带宽统计
cat sdk.moneyway.log |awk '{BYTE+=$11}END{print "client_kbyte_out="BYTE/1024"KB"}'
其他:
1、查看tcp的链接状态
netstat -nat |awk '{print $6}'|sort|uniq -c|sort -rn
netstat -n | awk '/^tcp/ {++S[$NF]};END {for(a in S) print a, S[a]}'
netstat -n | awk '/^tcp/ {++state[$NF]}; END {for(key in state) print key,"\t",state[key]}'
netstat -n | awk '/^tcp/ {++arr[$NF]};END {for(k in arr) print k,"\t",arr[k]}'
netstat -n |awk '/^tcp/ {print $NF}'|sort|uniq -c|sort -rn
netstat -ant|awk '/:80/{split($5,ip,":");++S[ip[1]]}END{for (a in S) print S[a],a}' |sort -rn|head -n 10
2、查找请求数前20个IP(常用于查找攻击来源):
netstat -anlp|grep 80|grep tcp|awk '{print $5}'|awk -F: '{print $1}'|sort|uniq -c|sort -nr|head -n20
netstat -ant |awk '/:80/{split($5,ip,":");++A[ip[1]]}END{for(i in A) print A[i],i}' |sort -rn|head -n20
3、用tcpdump嗅探80端口看谁访问最高
tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr |head -20
4、查找较多time_wait连接
netstat -n|grep TIME_WAIT|awk '{print $5}'|sort|uniq -c|sort -rn|head -n20
5、找较多的SYN连接
netstat -an | grep SYN | awk '{print $5}' | awk -F: '{print $1}' | sort | uniq -c | sort -nr | more
6、根据端口列进程
netstat -ntlp | grep 80 | awk '{print $7}' | cut -d/ -f1
7、查看IP访问次数
netstat -nat|grep ":80"|awk '{print $5}' |awk -F: '{print $1}' | sort| uniq -c|sort -n
8、Linux命令分析当前的链接状况
netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
# 可以通过watch动态监控
watch "netstat -n | awk '/^tcp/ {++S[\$NF]} END {for(a in S) print a, S[a]}'"
LAST_ACK 5 #关闭一个TCP连接需要从两个方向上分别进行关闭,双方都是通过发送FIN来表示单方向数据的关闭,当通信双方发送了最后一个FIN的时候,发送方此时处于LAST_ACK状态,当发送方收到对方的确认(Fin的Ack确认)后才真正关闭整个TCP连接;
SYN_RECV 30 # 表示正在等待处理的请求数;
ESTABLISHED 1597 # 表示正常数据传输状态;
FIN_WAIT1 51 # 表示server端主动要求关闭tcp连接;
FIN_WAIT2 504 # 表示客户端中断连接;
TIME_WAIT 1057 # 表示处理完毕,等待超时结束的请求数;