AI鉴黄师走红 调教机器识别不良信息

　　漫画/视觉中国

　　几位“鉴黄师”在直播现场

　　一位“鉴黄师”的电脑上贴着便签，上面注明了甄别色情信息的标准 图/中新网

　　羊城晚报记者 龚卫锋

　　前晚，“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们，为青年人解决职业困惑。本周是该系列的第二期：上一期在武汉直播，请来的嘉宾是法医;这一期在广州直播，请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

　　三位嘉宾中，姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监，也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生，让观众了解到：这份网友眼中很酷的工作，其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力，“鉴黄”的效率已经大大提高。

　　背景

　　“网络监管加强，

　　越来越多直播平台请鉴黄师把关”

　　“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称，快播将关闭qvod服务器，停止基于快播技术的视频点播和下载，清理低俗内容与涉盗版内容。同年8月，全国“扫黄打非”办公室发布消息称，深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

　　“国家非常重视对淫秽色情信息的监管，我们公司成立时，就把‘鉴黄’作为公司的重要工作，第一个客户是迅雷。”姜泽荣透露，当时迅雷给了很多数据帮他们调整并优化系统，不过，迅雷如何利用系统则不在他们的控制范围内，“迅雷不存储内容，用户下载并分享的过程中触发‘过滤’机制才有可能被禁，但达到多少基数会被禁，我们不知道。”

　　“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同，他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理，分别放入系统“正常”、“性感”、“色情”三大板块中，“我们调教机器去识别色情信息，通过样本建立模型，最终趋近于达到人眼识别的效果，原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

　　他们公司现在有上百个客户，其中直播客户占了很大的量，这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱，专门请美女主播滚动直播色情内容，结果上线没多久就被禁。”图普科技市场经理邓柯解释，“对网络信息管控比较重视的企业会走得更远。”

　　国家对直播平台的监管也在逐渐加强，去年4月13日，百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》，承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播，情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。

　　《互联网直播服务管理规定》2016年12月1日起在全国施行，明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

　　于是，越来越多的直播平台开始找“AI鉴黄师”帮助，一旦有主播传播色情信息、系统判定为“色情”后，会立即通知直播平台“封号”;系统拿不准的信息，会被发送到直播平台系统中，让鉴黄师人工判定。通常，从“判定信息为色情”到“查封账号”，平均用时为30秒。

　　工作

　　“机器帮忙识别色情信息，实时监控直播的越轨举动”

　　邓柯介绍：“视频直播的利润空间之大，普通人难以想象。比如一个以喊麦著称的主播，办一场活动号称‘日薪百万’，很多直播平台不惜花百万元甚至千万元去挖一个TOP级别的主播。”据悉，一些美女主播为了维持足够的用户粘度，常常一段直播长达两小时，甚至有人曾表演长达8小时的丝袜舞，平均每隔三分钟念一遍感谢粉丝赠送礼物的名单……当她们做出一些越轨举动时，往往能收获很多礼物，折合成人民币数额相当可观，于是一些美女主播不时打打“情色”擦边球。

　　去年11月28日，女主播“雪梨枪”因传播色情视频内容被判有期徒刑4年，给这类突破底线的主播们敲响了警钟。“利用色情谋利是直播平台的大忌，以身犯险极易触犯法律。”周耀辉说。姜泽荣也强调违法行为是不能容忍的：“人有需求很正常，但释放途径要得当，利用这一点做违规、违法的事情很不好。”

　　周耀辉表示，直播平台对于“AI鉴黄师”的需求量很大：“因为直播是实时性的，随时可能有人做出越轨举动，机器(系统)会把视频实时导出成一张张图片，以方便鉴别。”不过，各个平台的尺度不一样，姜泽荣说：“我们把机器给直播平台使用，但他们在调用时选择的尺度是不同的。”

　　“内容管控是个世界性课题，很多人觉得海外网络管控很松，可以随意浏览色情网站，其实这是一种误解，不少国家和地区的管控相当严格，比如在实名认证的情况下，Google Play对色情是零容忍的，而日本AV有明确的分级制度。”周耀辉指出了人们的一些认识误区。

　　有人责难“鉴黄师”，认为他们堵塞了人性的出口。对此姜泽荣持反对意见。他认为，在尚未“分级”的情况下，“宁可错杀一千，也不能放过一个”，而“一刀切”目前看来是必要的，必须防止色情视频对青少年身心健康的危害，但他们希望另一方面，“性教育”也该完善。他表示：“我们调查也发现，很多家长没有正确引导孩子，一味压抑也是不对的。”

　　在机器和人的努力下，如今色情直播现象明显少了很多，“我们平台数据显示，现在直播过程中，出现色情内容的比例是万分之四。”邓柯说。

　　感受

　　“安静理性适合当鉴黄师，

　　太活泼的人干不了”

　　“刚开始做这份工作有些不适应，当你打开屏幕，满屏都是不堪入目的内容，我整个人都凌乱了。”姜泽荣的同事毛毛，是这次斗鱼直播节目《职男职女职播》的一位嘉宾，“美女鉴黄师”的标签让她在几位嘉宾中特别抢眼。

　　姜泽荣被同事称为“老司机”，是AI鉴黄的元老。“公司刚成立时，部门只有四个人，加班非常多，一天起码有六个小时在搜集数据，简单说，就是看黄图、黄片，然后把它们扔到数据库中。”他们部门“技术宅”居多。“我们在招聘时对性格有要求，太活泼的人当不了鉴黄师，性格安静、理性的人比较适合。”姜泽荣说。

　　2013年，百度、腾讯、金山等10多个互联网公司组成的“安全联盟”，公开招聘“首席淫秽色情鉴定官”，条件是年薪20万元、五险一金、每天有酸奶水果福利，工作内容就是对着电脑专职识别色情淫秽网站。很多人觉得这份工作很酷，但随后也不断传出有鉴黄师申请“工伤”索赔的新闻。姜泽荣吐槽道：“说当‘鉴黄师’是件很酷的事情的人，都不了解这个职业。凡事都有个度，什么事都耐不住天天看啊!”姜泽荣解释，“鉴黄”只是他工作的一部分，他们还在开拓其他智能识别项目。

　　“我们组有6个人，全是男性，都不会跟外界说自己是‘鉴黄师’，因为对很多人来说，这不是什么很好的工作，说出去会影响别人对你的看法。但另一方面，净化网络环境的工作是有意义的。”姜泽荣通常会跟亲友说自己是做互联网技术的，如今还有种高大上的说辞——“我在做‘人工智能’。”