侧边栏壁纸
  • 累计撰写 123 篇文章
  • 累计创建 27 个标签
  • 累计收到 1 条评论

目 录CONTENT

文章目录

shell分析日志文件命令

梁来福
2023-02-09 / 0 评论 / 0 点赞 / 1 阅读 / 5481 字
温馨提示:
本文最后更新于 2024-05-06,若内容或图片失效,请留言反馈。部分素材来自网络,若不小心影响到您的利益,请联系我们删除。

示例日志文件:sdk.moneyway.log

1、查看有多少IP访问:

awk '{print $1}' sdk.moneyway.log | sort | uniq | wc -l

2、查看某一个页面被访问的次数:

grep "/api/v1/log/post" sdk.moneyway.log | wc -l

3、查看每一个IP访问了多少个页面:

awk '{++S[$1]} END {for (a in S) print a,S[a]}' sdk.moneyway.log > log.txt

可以配合sort进一步排序:
sort -n -t ' ' -k 2 log.txt > log_new.txt

4、将每个IP访问的页面数进行从小到大排序:

awk '{++S[$1]} END {for (a in S) print S[a],a}' sdk.moneyway.log | sort -n

5、查看某一个IP访问了哪些页面:

grep ^120.244.160.86 sdk.moneyway.log | awk '{print $1,$7}'

6、去掉搜索引擎统计的页面:

awk '{print $12,$1}' sdk.moneyway.log | grep ^\"Mozilla | awk '{print $2}' | sort | uniq | wc -l

7、查看某一时间段内有多少IP访问:

awk '{print $4,$1}' sdk.moneyway.log | grep 10/May/2022:15 | awk '{print $2}'| sort | uniq | wc -l

8、查看访问前十IP地址

方法1:
cat sdk.moneyway.log | cut -d ' ' -f 1 | sort | uniq -c | sort -nr | awk '{print $0}' | head -n 10
方法2:
cat sdk.moneyway.log | awk '{print $1}' | sort | uniq -c | sort -nr | head -10

9、访问次数最多的10个页面或文件

cat sdk.moneyway.log | awk '{print $11}' | sort | uniq -c | sort -nr | head -10

10、通过子域名访问次数,依据referer来计算(稍有不准)

cat sdk.moneyway.log | awk '{print $11}' | sed -e ' s/http:\/\///' -e ' s/\/.*//' | sort | uniq -c | sort -rn | head -20

11、列出传输大小最大的几个文件

cat sdk.moneyway.log | awk '($7~/\.php/){print $10 " " $1 " " $4 " " $7}' | sort -nr | head -100

12、列出输出大于200000byte(约200kb)的页面以及对应页面发生次数

cat sdk.moneyway.log | awk '($10 > 200000 && $7~/\.php/){print $7}' | sort -n | uniq -c | sort -nr | head -100

13、如果日志最后一列记录的是页面文件传输时间,则有列出到客户端最耗时的页面

cat sdk.moneyway.log |awk '($7~/\.php/){print $NF " " $1 " " $4 " " $7}'|sort -nr|head -100

14、列出最最耗时的页面(超过60秒的)以及对应页面发生次数

cat sdk.moneyway.log |awk '($NF > 60 && $7~/\.php/){print $7}'|sort -n|uniq -c|sort -nr|head -100

15、列出传输时间超过30秒的文件

cat sdk.moneyway.log |awk '($NF > 30){print $7}'|sort -n|uniq -c|sort -nr|head -20

16、列出当前服务器每一进程运行的数量,倒序排列

ps -ef | awk -F ' ' '{print $8 " " $9}' |sort | uniq -c |sort -nr |head -2

17、输出每个IP的连接数,以及总的各个状态的连接数

netstat -n | awk '/^tcp/ {n=split($(NF-1),array,":");if(n<=2)++S[array[(1)]];else++S[array[(4)]];++s[$NF];++N} END {for(a in S){printf("%-20s %s\n", a, S[a]);++I}printf("%-20s %s\n","TOTAL_IP",I);for(a in s) printf("%-20s %s\n",a, s[a]);printf("%-20s %s\n","TOTAL_LINK",N);}'

18、统计网站流量(G)

cat sdk.moneyway.log |awk '{sum+=$10} END {print sum/1024/1024/1024}'

19、统计404连接

awk '($9 ~/404/)' sdk.moneyway.log | awk '{print $9,$7}' | sort

20、统计http status

方法1:
cat sdk.moneyway.log |awk '{counts[$(9)]+=1}; END {for(code in counts) print code, counts[code]}'
方法2:
cat sdk.moneyway.log |awk '{print $9}'|sort|uniq -c|sort -rn

21、每秒并发

awk '{if($9~/200|30|404/)COUNT[$4]++}END{for( a in COUNT) print a,COUNT[a]}' sdk.moneyway.log | sort -k 2 -nr|head -n10

22、带宽统计

cat sdk.moneyway.log |awk '{BYTE+=$11}END{print "client_kbyte_out="BYTE/1024"KB"}'

其他:

1、查看tcp的链接状态

netstat -nat |awk '{print $6}'|sort|uniq -c|sort -rn
netstat -n | awk '/^tcp/ {++S[$NF]};END {for(a in S) print a, S[a]}' 
netstat -n | awk '/^tcp/ {++state[$NF]}; END {for(key in state) print key,"\t",state[key]}' 
netstat -n | awk '/^tcp/ {++arr[$NF]};END {for(k in arr) print k,"\t",arr[k]}' 
netstat -n |awk '/^tcp/ {print $NF}'|sort|uniq -c|sort -rn 
netstat -ant|awk '/:80/{split($5,ip,":");++S[ip[1]]}END{for (a in S) print S[a],a}' |sort -rn|head -n 10

2、查找请求数前20个IP(常用于查找攻击来源):

netstat -anlp|grep 80|grep tcp|awk '{print $5}'|awk -F: '{print $1}'|sort|uniq -c|sort -nr|head -n20
netstat -ant |awk '/:80/{split($5,ip,":");++A[ip[1]]}END{for(i in A) print A[i],i}' |sort -rn|head -n20

3、用tcpdump嗅探80端口看谁访问最高

tcpdump -i eth0 -tnn dst port 80 -c 1000 | awk -F"." '{print $1"."$2"."$3"."$4}' | sort | uniq -c | sort -nr |head -20

4、查找较多time_wait连接

netstat -n|grep TIME_WAIT|awk '{print $5}'|sort|uniq -c|sort -rn|head -n20

5、找较多的SYN连接

netstat -an | grep SYN | awk '{print $5}' | awk -F: '{print $1}' | sort | uniq -c | sort -nr | more

6、根据端口列进程

netstat -ntlp | grep 80 | awk '{print $7}' | cut -d/ -f1

7、查看IP访问次数

netstat -nat|grep ":80"|awk '{print $5}' |awk -F: '{print $1}' | sort| uniq -c|sort -n

8、Linux命令分析当前的链接状况

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'
# 可以通过watch动态监控
watch "netstat -n | awk '/^tcp/ {++S[\$NF]} END {for(a in S) print a, S[a]}'" 

LAST_ACK 5   #关闭一个TCP连接需要从两个方向上分别进行关闭,双方都是通过发送FIN来表示单方向数据的关闭,当通信双方发送了最后一个FIN的时候,发送方此时处于LAST_ACK状态,当发送方收到对方的确认(Fin的Ack确认)后才真正关闭整个TCP连接;
SYN_RECV 30       # 表示正在等待处理的请求数;
ESTABLISHED 1597  # 表示正常数据传输状态; 
FIN_WAIT1 51      # 表示server端主动要求关闭tcp连接; 
FIN_WAIT2 504     # 表示客户端中断连接; 
TIME_WAIT 1057    # 表示处理完毕,等待超时结束的请求数;
0
  1. 支付宝打赏

    qrcode alipay
  2. 微信打赏

    qrcode weixin
博主关闭了所有页面的评论