V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
Recommended Services
Amazon Web Services
LeanCloud
New Relic
ClearDB
sth20112012
V2EX  ›  云计算

网易互联网内容安全技术实战

  •  
  •   sth20112012 · 2016-08-02 14:58:33 +08:00 · 2149 次点击
    这是一个创建于 3038 天前的主题,其中的信息可能已经有所发展或是发生改变。
    网易易盾( http://dun.163.com/)的专业反垃圾实践经验,网易内部绝对干货满满的技术分享,从环境、技术到服务,洞察行业态势,获取一手资料。
    一.业务安全
    UGC 内容安全,反欺诈,反外挂,邮件反垃圾
    运用大数据、机器学习等技术为 UGC 产品提供在线垃圾内容拦截服务。
    二.互联网内容安全隐患

    2015 年网易域内清理了大约 323 亿条有害信息。其中垃圾推广占比 35%,含:广告推广、谩骂、滥用资源;淫秽色情占比 30%,包含:低俗、色情服务、色情内容;诈骗占比 12%,包含:钓鱼、木马等;违禁品类占比 15%,包含:非法器械、非法代理、毒品迷药等;政治敏感占比 8%。
    三.主攻 UGC 内容安全检测技术
    1.UGC 内容安全智能检测服务在文本检测、图片识别等方面有着十分丰富的实践经验。产品通过简单的接口调用的方式,在服务端及移动端实时过滤淫秽、暴恐等有害信息。
    2. 先进的人工智能技术,通过让计算机模拟人脑主动识别有害信息,真正做到事先防御。
    3. 拥有海量样本特征库,并由专业内容安全运营团队实时维护、更新。
    4. 实时过滤有害信息,降低产品风险的同时,将用户体验做到极致。
    四.文本检测
    适用于跟帖、评论,博客, IM 工具等文本内容过滤,实时过滤有害信息。
    支持精确匹配、单个词组匹配、同音词匹配、模糊匹配、多个词组匹配、形似匹配、语义分析等多项功能。

    精准定位,狙击垃圾信息。
    五.图像识别
    适用于摄影社交、图片分享平台、相册等涉及图片的内容过滤。
    通过网易云计算服务快速过滤涉及淫秽、违禁品、广告等违规图片。支持人像识别、色情图片检测、动漫识别、相似匹配、图片旋转与裁剪、改变图片亮度与色调、支持水印识别。
    六.技术亮点
    1.拦截率高达 98%,同时十万分之一的误判率远远低于行业标准万分之三,国际标准十万分之三。
    2. 在线快速实时检测,内容安全平均检测时间<100ms 。
    3. 邮件智能分类,根据危害程度对非正常邮件自动分类成订阅邮件、广告邮件和垃圾邮件。
    4. 强大的图片垃圾识别技术,对变种有很强的适应性,优于传统的指纹识别技术。
    5. 先进的垃圾邮件发现技术,及时发现最新出现的变种垃圾,并在短时间内进行有效清理。
    6. 高效的离线智能分析技术,与帐号内容安全数据互通,深入分析用户行为,预测用户信誉度。
    7. 个性化反垃圾,根据用户的行为特征提供智能个性化内容安全功能。
    8. 海量信誉库数据,覆盖 1500 万个 IP C 段, 5700 万个发信帐号。
    9. 基于网易产品的庞大用户群,每天新加特征数量超过 4 万。
    10. 多达 7000 个检测维度,涵盖内容、行为、位置、时间等方面,
    实现对垃圾内容的精准识别。
    七.内容安全云服务
    1.四大功能
    广告过滤,基于网易邮箱内容安全智能过滤技术及亿级广告特征库,精准过滤
    暴恐识别,结合暴恐敏感图像智能分析技术,快速识别定位目标图像
    智能鉴黄,基于智能识别及海量样本库、信用库,高效识别色情图片
    安全预判,支持海量数据分析,深入挖掘攻击特征和趋势
    2.运营优势
    1 对 1 服务,拥有一支百余人的安全专家团队,为您提供一对一服务,给您最专业的服务体验。
    18 年运营经验,积累 18 年 UGC 产品及网易邮箱内容安全经验,为您提供最专业的反垃圾解决方案。
    7*24 小时响应,运营团队 7*24 小时巡检,在机器拦截的同时进一步排查,双重保障产品安全。
    八.应用案例
    支持网易邮箱、网易新闻、云音乐、网易有道、电商海淘等众多产品全场景支持服务,丰富的运营经验为您保驾护航。
    jeffersonpig
        1
    jeffersonpig  
       2016-08-02 17:23:10 +08:00
    哦 然后呢
    wander2008
        2
    wander2008  
       2016-08-02 19:59:28 +08:00 via iPhone
    网易的垃圾邮件就网易自己发的多
    irgil
        3
    irgil  
       2016-08-02 20:00:06 +08:00
    先说说网易邮箱导致很多人 iphone 被锁的事吧
    wdlth
        4
    wdlth  
       2016-08-02 22:09:48 +08:00
    基于网易邮箱内容安全智能过滤技术及亿级广告特征库,精准过滤非网易自家广告……
    关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5331 人在线   最高记录 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 25ms · UTC 08:13 · PVG 16:13 · LAX 00:13 · JFK 03:13
    Developed with CodeLauncher
    ♥ Do have faith in what you're doing.