piwik简介
最近试用了开源的网站访问统计系统——piwik,觉得功能非常强大,一点不输于商业产品百度统计与google analysis,替代他们完全没有问题。
关于piwik的简介可以去piwik的官网(http://piwik.org)查看,有详细的介绍和视频演示。之前OSChina也有简单的介绍(http://www.oschina.NET/p/piwik)。
以下是采集到的分析数据效果图:
piwik安装
首先需要解决依赖项(http://piwik.org/docs/requirements/),ubuntu/debian使用下列命令安装所有依赖项(我用的是apache,别的webserver请替换成相应的软件包)
1 | apt-get install apache2 mysql-server php5 php5-mysql php5-gd
|
如需定位访客的地理位置,参考官方文档: http://piwik.org/docs/geo-locate/, 或者使用js追踪的方式,通过JS代码获取访客的IP归属地。
安装过程参考官方文档(http://piwik.org/docs/installation),比较简单,就不详细介绍了。
配置好apache之后,通过浏览器访问,一步步配置完毕之后,看到如下界面之后,就可以使用了:
piwik使用
刚装好的Piwik是空空如也的,此时我们需要这个系统帮我们统计数据。
目前Piwik支持两种采集用户访问记录的方式: JS追踪
和访问日志追踪
。
JS追踪可定制型高,可以获取到用户的分辨率,浏览器插件等等,还可以捕获自定义变量。访问日志追踪(如apache的accesslog)可以追踪到用户的错误请求(如40X错误,有助于捕获到恶意用户和爬虫,蜘蛛等等),目前这两种追踪得到的数据还不支持合并
这两种追踪模式的详细优缺点可以参考官方的这篇文档: http://piwik.org/faq/log-analytics-tool/faq_16305/
JS追踪
在管理设置-网站-右边即可看到"显示跟踪代码"
,如下图所示:
将此代码复制到web项目的footer
中即可(即所有页面都嵌入这段相同的js代码,用于捕获用户的信息,如分辨率,浏览器UA,IP等),还可以按照官方文档,捕获自定义变量。
参考官方文档的帮助,这里不再赘述: http://piwik.org/docs/JavaScript-tracking/
log追踪
log追踪无需修改web项目,但是必须要有登录服务器并读取accesslog的权限。
log追踪的详细用法参考官方文档: http://piwik.org/faq/log-analytics-tool/, https://piwik.org/log-analytics/
log追踪的过程是解析webserver的accesslog,然后通过piwik的API上传,最终在piwik页面上展示。
这个过程不用自己去实现了,piwik的压缩包中已经带有一个Python脚本可以帮助我们完成这个工作了,该脚本存储于piwik目录下的misc/log-analytics/import_logs.py
。
将这个脚本远程拷贝到目标服务器上,按照脚本的参数格式执行即可,我的命令行:
1 | ./import_logs.py --url=http:
|
使用--help
参数即可看到这个脚本的命令行,只有一个--url
参数是必须的,指明piwik的访问路径。详细帮助参见官方文档(https://piwik.org/docs/log-analytics-tool-how-to/),这里对我使用的参数做一下简介:
--idsite
表明抓取到的信息上传到哪个序号对应的网站(这里的参数为1,代表解析的数据会统计到first_web这个网站中)
--token-auth
这个参数是管理员的访问token,在系统页面最顶上的API
点开即可看到,如下图所示。这个参数可以使用--login=LOGIN --password=PASSWORD
这两个参数替代,必须是管理员的账户和密码。
--recorders
使用多线程解析,默认为1,官方建议这个参数和核心数一致。
--enable-static --enable-bots --enable-http-errors
这三个参数基本上把apache的accesslog能抓取到的全部信息都抓全了,抓取静态资源(jpg,png,js,css等非html的访问),抓取bots(不知道这个是什么,猜测是否是机器人?),抓取html错误码(如40X请求等等)
/var/log/apache2/access.log
apache的accesslog存放路径,常见的webserver如nginx,lighthttpd等,脚本自带有解析引擎,无需别的参数,如果非常见webserver的话,加上--log-format-regex
这个参数来自定义日志格式抓取。
当脚本执行完毕时,即可在piwik中看到网站的访问记录了,使用也很方便。长期使用可以写入crontab
即可。
注意:
- log解析的方式追踪比较慢,不适合实时追踪用户访问记录,建议每过几小时执行一次crontab,来定时解析log。
- 如果开启了
--enable-static --enable-bots --enable-http-errors
这三个参数,解析过程将会很缓慢(我这边大概十几条每秒),不要让crontab太频繁,会直接让mysql数据库超出连接而挂掉,我是每4小时执行一次crontab。
其他一些问题
1,log追踪和js追踪的方式互有优势,都可以抓到一些对方所无法获取的信息,但是目前这两种方式追踪到的数据还不支持合并,因此,需要同时使用这两种方式追踪时,建议分开两个不同的网站追踪不同的数据,如first_web用于JS追踪,first_web(log)用于log追踪。参见官方FAQ: http://piwik.org/faq/log-analytics-tool/faq_16307/
2,当访问量较高时,请关闭Piwik触发处理
,已提高页面响应,刷新报表数据由后台crontab执行,参考如下图所示,crontab的设置见右边的提示中的官方文档:
3,自动邮件的时间有些问题,piwik内部时间使用的是UTC
时间,也就是中国时区(CST,东八区)比UTC时区的时间快8个小时。如果使用默认的邮件发送时间0点发送,将会收到前天的访问记录报表(中国时间0点对应UTC时间昨天的16点,那么此时发昨天的报表就会收到前天的报告)。
这个问题已经给官方提过issue,不过官方还没有回应我: http://forum.piwik.org/read.PHP?2,111809
暂时的方案是把时间改到8点以后,就可以收到正常的邮件报表。