access日志分析脚本 有大用 有大大用 有大大大用

log日志分析,Nginx 0.8.5版本access.log日志分析shell命令  大 | 中 | 小   [ 2011-6-4 16:48 | by jed ]
Nginx 版本信息:
nginx version: nginx/0.8.53Nginx日志配置项:
access_log /data0/logs/access.log combined;Nginx日志格式:
$remote_addr – $remote_user [$time_local] $request $status $apache_bytes_sent $http_referer $http_user_agent127.0.0.1 - - [24/Mar/2011:12:45:07 +0800] "GET /fcgi_bin/xxx.fcgi?id=xxx HTTP/1.0" 200 160 "-" "Mozilla/4.0"通过日志查看当天访问页面排前10的url:
#>cat access.log | grep "24/Mar/2011" | awk '{print $7}' | sort | uniq -c | sort -nr | head -n 10
通过日志查看当天ip连接数,统计ip地址的总连接数
#>cat access_log | grep "01/Sep/2014" | awk '{print $1}' | sort | uniq -c | sort -nr




38 112.97.192.16
20 117.136.31.145
19 112.97.192.31
3 61.156.31.20
2 209.213.40.6
1 222.76.85.28
通过日志查看当天访问次数最多的10个IP ,只需要在上一个命令后加上head命令
 #> cat access_log | grep "01/Sep/2014" | awk '{print $1}' | sort | uniq -c | sort -nr | head -n 10


38 112.97.192.16
20 117.136.31.145
19 112.97.192.31
3 61.156.31.20
2 209.213.40.6
1 222.76.85.28
通过日志查看当天访问次数最多的10个IP
#>awk '{print $1}'   access_log | sort | uniq -c | sort -nr | head

10680 10.0.21.17
1702 10.0.20.167
823 10.0.20.51
504 10.0.20.255
215 58.60.188.61
192 183.17.161.216
38 112.97.192.16
20 117.136.31.145
19 112.97.192.31
6 113.106.88.10
通过日志查看当天指定ip访问次数过的url和访问次数:
#> cat access_log | grep "221.225.12.106" | awk '{print $7}' | sort | uniq -c | sort -nr

通过日志查看 某ip 访问的404页面 打印出url 及访问的次数
  cat access_log | grep "114.217.116.85" | grep "404" |   awk '{print $7}' | sort | uniq -c | sort -nr 

通过日志查看 某ip 访问的404页面 打印出url 及 404 及 大小 及来自上一级域名url 及 访问的次数
 cat access_log | grep "114.217.116.85" | grep "404" |   awk '{print $7 " " $9 " " $10 " " $11}' | sort | uniq -c | sort -nr

通过日志查看 访问的404页面 打印出url 及访问的次数 (控制台上不显示) 输出到文件 aaaa.txt
  cat access_log | grep "404" |   awk '{print $7}' | sort | uniq -c | sort -nr > aaaa.txt
通过日志查看 某ip 访问的404页面 打印出url 及 404 及 大小 及来自上一级域名url 及 访问的次数 输出到文件 aaaa.txt
 cat access_log | grep "404" |   awk '{print $7 " " $9 " " $10 " " $11}' | sort | uniq -c | sort -nr > aaaa.txt
 
224 /test/themes/default/img/logo_index.gif
224 /test/themes/default/img/bg_index_head.jpg
224 /test/themes/default/img/bg_index.gif
219 /test/vc.php
219 /
213 /misc/js/global.js
211 /misc/jsext/popup.ext.js
211 /misc/js/common.js
210 /sladmin/home
197 /misc/js/flib.js
通过日志查看当天访问次数最多的时间段
>awk '{print $4}' access.log | grep "24/Mar/2011" |cut -c 14-18|sort|uniq -c|sort -nr|head
24 16:49
19 16:17
16 16:51
11 16:48
4 16:50
3 16:52
1 20:09
1 20:05
1 20:03
1 19:55
还有什么其他的,大家继续补充啦

来自 http://wenku.baidu.com/link?url=DVdjpDzgct4OhqH8EDo-0J5QaaOS-loB8zoc26oh6Xwcekj2t1ZlWFOdyf5D-xdwDpG_...