月度存档: 三月 2016

为skynet添加syslog库

上个项目使用的syslog,发现效果很不错,也希望在skynet中添加syslog模块,顺便也搜索一下使用c为lua编写独立模块。

参考了一下skynet原有crypt模块的代码和lua文档,写的lua-syslog.c如下:

#include <syslog.h>

#include <lua.h>
#include <lauxlib.h>

static int
lsyslog(lua_State *L) {
        size_t sz = 0;
        const char * text = (const char *)luaL_checklstring(L,1, &sz);
        syslog (LOG_INFO, text);
        return 0;
}

int
luaopen_syslog(lua_State *L) {
        luaL_checkversion(L);
        luaL_Reg l[] = {
                { "log", lsyslog },
                { NULL, NULL}
        };
        luaL_newlib(L,l);
        return 1;
}

代码量并不大,非常合适我这种已经N年不写C代码的人。

使用make编译出syslog.so模块,放出的Makefile只供参考,因为和项目目录存放关联密切,并不是直接COPY就可以使用。

PLATS = linux macosx
.PHONY : $(PLATS) all clean skynet

CC ?= gcc
PLAT ?= linux

linux : PLAT = linux
macosx : PLAT = macosx

GSHARED = -fPIC --shared
CFLAGS = -g -O2 -Wall -I$(GLUA_INC)
macosx : GSHARED := -fPIC -dynamiclib -Wl,-undefined,dynamic_lookup

linux macosx :
        $(MAKE) all PLAT=$@ GSHARED="$(GSHARED)"
GLUA_INC ?= skynet/3rd/lua

GLUA_CLIB = cjson syslog
GLUA_CLIB_PATH ?= skynet/luaclib

all : skynet \
  $(foreach v, $(GLUA_CLIB), $(GLUA_CLIB_PATH)/$(v).so)

$(GLUA_CLIB_PATH)/cjson.so : | $(GLUA_CLIB_PATH)
        cd 3rd/lua-cjson && $(MAKE) LUA_INCLUDE_DIR=../../$(GLUA_INC) CC=$(CC) CJSON_LDFLAGS="$(GSHARED)" && cd ../.. && cp 3rd/lua-cjson/cjson.so $@

$(GLUA_CLIB_PATH)/syslog.so : 3rd/lua-syslog/lua-syslog.c | $(GLUA_CLIB_PATH)
        $(CC) $(CFLAGS) $(GSHARED) $^ -o $@
skynet :
        cd skynet && $(MAKE) CC=$(CC) $(PLAT)

clean :
        cd 3rd/lua-cjson && $(MAKE) clean
        cd skynet && $(MAKE) CC=$(CC) clean

测试代码:

package.cpath = "luaclib/?.so;"
                                .. "../luaclib/?.so;"
                                .. "../../luaclib/?.so;"
                                .. "../../../luaclib/?.so;"
                                .. "../../skynet/luaclib/?.so"

local log = require "syslog"

log.log("moon1 hello")
log.log("")
log.log("helloworld")

关于如何打开syslog及查看syslog,就不在这里多累述了,相信了解syslog的朋友已经对此很熟悉了。

如果使用mac os:

使用以下命令停止syslog
launchctl unload /System/Library/LaunchDaemons/com.apple.syslogd.plist 

使用以下命令启动syslog
launchctl unload /System/Library/LaunchDaemons/com.apple.syslogd.plist

接收log的服务上的配置,仅供参考。

$EscapeControlCharactersOnReceive off

$template TraditionalFormat1,"%msg:R,ERE,1,DFLT:[0-9a-zA-Z]+ (.*$)--end%\n"
        if re_match($syslogtag,'^game[0-9_a-zA-Z]+\\[[0-9]+\\]') then {
                $ActionFileDefaultTemplate TraditionalFormat1
                $template DynFile1,"/opt/logs/skynet-log/%syslogtag:R,ERE,1,DFLT:([0-9a-zA-Z]*).*--end%/%timegenerated:1:10:date-rfc3339%/%syslogtag:R,ERE,1,DFLT:([0-9a-zA-Z]*).*--end%-%msg:R,ERE,1,DFLT:([0-9a-zA-Z]+)--end%_%timegenerated:1:10:date-rfc3339%.log"
                *.* -?DynFile1
                stop
        }

后记:

最初想法是直接向本系统的syslog发送消息,然后使用syslog用udp转发至日志服。

进行压力测试时,发现在macos上syslogd有 -mps_limit 限制,默认是500/s, 用户进程默认是36000/小时。超出的消息直接丢弃掉了。

Mar 30 11:01:20 localhost game1[45275]: game moon1 2016-03-30 11:01:20 DEBUG hello world 36039 1459306880.61
Mar 30 11:01:20 localhost game1[45275]: game moon1 2016-03-30 11:01:20 DEBUG hello world 36040 1459306880.61
Mar 30 11:01:20 localhost game1[45275]: *** LOG MESSAGE QUOTA EXCEEDED - SOME MESSAGES FROM THIS PROCESS HAVE BEEN DISCARDED ***
Mar 30 11:01:21 localhost game1[45275]: game moon1 2016-03-30 11:01:21 DEBUG hello world 56029 1459306880.99
Mar 30 11:01:21 localhost game1[45275]: game moon1 2016-03-30 11:01:21 DEBUG hello world 56030 1459306880.99

转至linux上测试,也有相同的限制,想想也是合理:

Mar 30 11:18:13 iZu1fh2yq8yZ game1: game moon1 2016-03-30 11:18:13 DEBUG hello world 999 1459307893.8
Mar 30 11:18:13 iZu1fh2yq8yZ game1: game moon1 2016-03-30 11:18:13 DEBUG hello world 1000 1459307893.8
Mar 30 11:18:13 iZu1fh2yq8yZ game1: game moon1 2016-03-30 11:18:13 DEBUG hello world 1001 1459307893.8
Mar 30 11:18:43 iZu1fh2yq8yZ journal: Suppressed 320255 messages from /user.slice/user-0.slice
Mar 30 11:18:43 iZu1fh2yq8yZ game1: game moon1 2016-03-30 11:18:43 DEBUG hello world 321257 1459307923.32
Mar 30 11:18:43 iZu1fh2yq8yZ game1: game moon1 2016-03-30 11:18:43 DEBUG hello world 321258 1459307923.32

再测试一下直接使用udp发送至远程日志服务器:

1、查看了一下syslog中并没有提供函数可以直接udp远程进行发送,文档也说的很明白,如果要远程发送需要自己使用tcp或udp发送。

2、查看了一下syslog的udp协议,也很简单,正好skynet中支持udp,连c库都省的写了, http://tools.ietf.org/html/rfc5424

function test3()
	local c = socket.udp(function(str, from)
		print("client recv", str, socket.udp_address(from))
	end)
	socket.udp_connect(c, "10.230.10.102", 514)
	for i=1,20 do
		socket.write(c, "<190>1 2003-10-11T22:14:15.003Z HOSTNAME skynet 11 MESSAGTEID A " .. i)	-- write to the address by udp_connect binding
	end
end

rsyslog中的系统属性列表:http://www.rsyslog.com/doc/v8-stable/configuration/properties.html

使用udp连续发送100万日志,发送砂时18秒左右。7万/s 日志,可以接受。但发现UDP有丢失包的现象。

内网也会丢包~~,为了确认使用:tcpdump udp port 514 > 1.log 将收到数据包记录下来,然后进行对比,发现,确实在网络一层丢失包。继续测试tcp ~~~

继续改为tcp测试一下。

tcp文献索引:http://tools.ietf.org/html/rfc3164

发送和udp有一点不同,需要在消息结尾附带 \r\n表示一条消息的结束。

测试发现,竟然达到了10万/s 日志的性能,-.-!! 而且没有丢包。

一个抓取手机上gles渲染代码的工具

adreno profiler

高通出品,只能用在高通CPU的安卓手机上,非常棒。

IOS上可以使用 frame capture.

如果遇到问题:

Found a device, but no Adreno Profiler-enabled app.

用以下方式解决:

1、执行
adb shell setprop debug.egl.profiler 1
2、退出profiler,重新启动。

一般情况下,上面的问题都会解决,可以看到设置,虽然文档上写说profiler2.x, 会自动设置,不需要我们手动再执行一下。
我只想说,文档有时也不全对。