腾讯大讲堂：56 qzone安全之路
29
腾 腾 腾 腾 腾 腾腾腾腾腾 腾腾腾腾腾 腾腾腾腾腾： http://km.oa.com/class 腾腾腾腾腾： http://km.oa.com/group/class
Transcript of 腾讯大讲堂：56 qzone安全之路
腾 讯 大 讲 堂
第五十六期
研发管理部
大讲堂主页： http://km.oa.com/class与讲师互动： http://km.oa.com/group/class
QQ 空间产品中心PM ： alanzhou
互联网运营部PM ： bluezhou
QQ 空间产品中心PDM ： cicichen
（以上以 abc 为顺序排名）
回顾历史安全系统大揭密
分享
Qzone 的安全工作• 保证发表的日志内容健康• 日志评论及留言的内容不涉及色情、政治，也不是垃圾留言• 其它模块的内容保证（小纸条、用户昵称……）
审核系统
怎么都变成了 ***
老要审三天…… 发表日志真方便！
国际 ** 势力
日志差异化系统
竞争对手恶意炒作…… 不用逛论坛我也能知道！
垃圾留言打击系统
中奖了？？ …… 清静许多了……
三大系统保驾护航
欢迎主角 ~~~~
回顾历史安全系统大揭密
日志差异化系统垃圾留言打击旁路系统
分享
QQ 空间信息安全整体方案
用户 数据：
日志 +留言板
旁路过滤 系统
过滤后的数据
安全中心 审核系统
经过审核后的数据
差异化访问系统
外网
举报平台
根据用户行为实施安全措施 阻止发帖 +
批量删除
根据访问量决定： 差异化显示 +
重新入库审核
根据命中关键字分级审核 人工 + 机器
日志差异化访问系统——需求
...
黑 / 白名单 用户的来源 / 身份不同，提供的服务不同
不同时期对于非法文章的判断标准不同
避免敏感文章被大量恶意传播访问阀值
审核过期
日志差异化访问系统——系统结构
差异化 server
黑 / 白名单 访问量
审核过期时间
访问量阀值
用户访问
差异返回 日志存储
审核平台
对于每篇日志设置一个审核过期时间，避免超过阀值后重复发送审核平台。
访问阀值，根据安全形势的严峻程度来调整。
日志差异化访问系统——策略 白名单： qq.com, paipai.com, taotao.com, .tencent.com
黑名单： sina.com.cn, .baidu.com, .google.com, .donews.com
… 白名单来源权重为 1，黑名单权重为 100，其他来源为 10
1
2
3
4
5
分级可见（后续实现）： 主人可见 好友可见 特定白名单网站可见
日志差异化访问系统——流程
日志差异化访问系统——效果
•以12 月 7 日数据为例，当天差异化入库 586篇日志，有问题并被删除的日志为 34 篇，删除率达 5.8% ；
回顾历史安全系统大揭密
日志差异化系统垃圾留言打击旁路系统
分享
验证码的烦恼—前世
验证码的烦恼—今生
Why ？
•挑战：– 为什么要使用验证
码？– 不用可以吗？–如何保护安全用户
，打击恶意行为？
前因例如 : 打击 Qzone中的恶意诈骗消息例如 : 打击 Qzone中的恶意诈骗消息
后果
欺诈消息投诉量
0
100
200
300
400
500
600
700
2008
-5-1
2008
-5-1
1
2008
-5-2
1
2008
-5-3
1
2008
-6-1
0
2008
-6-2
0
2008
-6-3
0
2008
-7-1
0
2008
-7-2
0
2008
-7-3
0
2008
-8-9
2008
-8-1
9
2008
-8-2
9
2008
-9-8
2008
-9-1
8
2008
-9-2
8
2008
-10-
8
2008
-10-
18
2008
-10-
28
2008
-11-
7
2008
-11-
17
2008
-11-
27
2008
-12-
7
欺诈消息投诉量
应用场景空间小纸条 留言板
日志 /评论 个人资料
Qzone 上旁路系统的需求
自学习 对于新增的恶意信息能初步自我学习，避免过多的人工干预
全面保护 覆盖 Qzone各个模块
高性能 / 低耦合 支持 Qzone 平台下高并发，同时不能影响用户使用的性能
高准确性 精确打击恶意用户，对正常用户尽量影响最小
系统架构
用户数据：
日志留言板相册
旁路分析模块
离线分析中心
外网
人工审核系统
全量转发
过滤后内容
Process
接入消息
•留言板•日志回复•转载空间•小纸条•滔滔心情•相册评论•Q 吧•Qzone投票•校友•QQ交友
安全旁路引擎
预处理
关键字分析消息样本频率分析行为模式分析
实时删除
命中删除特殊地区可疑信息识别
分析模块
用户信用度行为分析
用户影响
•普通用户
踩踩族敌人
问答时间
谢谢！
