我是一名鉴黄师但和你想的不一样

写在前面

这是一次特别的推送。腾讯新闻主力写实栏目《我国人的一天》兴办十周年之际，咱们特此联合栏目方向咱们呈现以腾讯人为蓝本的我国互联网人的故事。

曩昔十年，《我国人的一天》记录了许许多多一般我国人的生计状况和喜怒哀乐。这一次，故事的主角是腾讯一般员工，你会看到，他们在实际国际中的一举一动，或许影响着数字国际的千千万万人……

面临镜头，略显腼腆的程序员Fay

他们是互联网国际的“滤芯”，他们默不做声，不善表达，很少被人看见，在要害方位静静发挥作用。但他们和你幻想中的“鉴黄师”，并不相同。

点击观看视频：传统鉴黄师靠的是肉眼，而咱们更依靠技能

冷不丁，耳机里忽然传出一阵娇喘。

Fay膀子快速颤动一下，他摘下耳机，摇摇头，显露心有余悸的表情，“我去，是个男的。”

30岁的Fay，是腾讯安悉数分内容风控天御团队一名研制负责人。

几年前，一则关于“鉴黄师”的新闻走红网络，也给Fay添加不少烦恼，“他人很简单就把我和这样一个作业对号入座了。

不少人幻想里，Fay的日常作业，便是盯着若干块“花花绿绿”的屏幕，一看一天。

有人忧虑Fay，和“不良内容”天长日久触摸，会不会让他心思歪曲？也有人对他的作业，产生了莫名的仰慕和猎奇。

Fay心里有点苦，“其实，并不是你们幻想的那么回事。”

“鉴黄师”团队

2015年，Fay参加腾讯，在网络安全中心做根底渠道研制。

程序员波澜不惊的日子，完结于他入职的第二年。2016年，国内直播盛行，乱象横生，伴随着很多涉黄涉暴内容呈现。

“咱们也在揣摩，怎么把内容审阅阅历和才能，进行服务输出，协助用户辨认、整理这些不良内容。”所以，包含Fay在内，一个10人的“鉴黄师”团队成立了，主攻审阅体系研制。

Fay地点的团队，首要服务腾讯渠道和外部客户，客户数超越上万家。

和“鉴黄师”不太相同的作业场景

“传统鉴黄师靠的是肉眼，而咱们更依靠技能。”Fay说，尽管两者作业内容有穿插，但实质是有差异的。

他举了个比如：三年来，他地点的内容风控团队，累计处理了上万亿条数据。“这样的数据量，单靠人工辨认，那是不或许完结的。” 解决方案，只能是经过AI人工智能。

Fay和搭档的日常沟通

“但AI不会一开始就那么聪明，需求阅历人工标示+机器学习的重复进程。”

为了练习AI，Fay和搭档，每周会抽检5万条数据，包含图片、音频、文本，进行人工审阅，筛出不良内容、标示违规类型。

“鉴黄师”也有一颗卡通的心

这部分被标示的样本，将送给AI模型学习练习，了解其一起特征，在后续断定中“智能”辨认不良内容。

“现在体系的辨认率达现已提高95%以上。” Fay以为，比较“鉴黄师”，自己的作业，更像是AI人工智能的练习师。

对违规内容进行人工审阅

练习师带领的AI，和违规内容的战役，远比幻想中杂乱，AI在更新迭代，违规内容也在不断移风易俗。

从传统的文字，到图片、视频、音频……三年来，Fay触摸到的违规内容，可谓形形色色，形形色色。

相似不愉快的阅历，并不罕见

“色情、血腥、暴恐图片，很简单被辨认，而有一些则躲藏很深，企图绕过AI。” Fay举例，有些音频场景，前半段很正常，“中心忽然呈现女性娇喘声。”

他顿了一下，“乃至是男人的，第一次听届时，几乎推翻三观。”

空闲时，和小伙伴打把游戏开释压力

随后，技能团队开发出了“娇喘辨认”体系，对音频场景中的违规内容进行整理。

“娇喘辨认”体系上线，也绝非一了百了，“咱们仍需求不断推进算法模型的调优和晋级，比如在喧闹布景辨认声响违规等，这就十分检测咱们的审阅模型。”

日子也并非都是墨守成规，云卷云舒，经常也有需求Fay救火的时分。

“有一次，客户渠道忽然呈现很多违规内容，给渠道带来严峻风险。”而Fay团队需求在一周之内，协助客户将渠道一切数据悉数做一遍机器审阅和人工审阅。

“那一周，咱们处理了几十亿的图文信息量，每天都是熬到清晨三四点。”

终究，Fay团队完结了使命，确保了客户产品正常运营。

Fay在和小伙伴评论作业

Fay把自己团队比方成“滤芯”， 将互联网的阴暗面和一般人阻隔开来。“让人享用互联网的信息便当，免受被损害的风险。”

“有时我也想，假如没有滤芯的存在，这国际会是怎样。”

Fay在公司邻近夜跑释压

Fay也供认，在这个方位呆久了，耳濡目染中，也会吸收一些负面的信息，继而转化为消沉的心情。

安排团队小伙伴开一把黑，打球，或许深夜单独去邻近大学跑跑步，“真实想找人说说话，就约几个朋友出来，吃吃饭，喝喝酒。” 这都是他，一位非标准“鉴黄师”开释心情的方法。

他们是滤芯，是和你幻想中不太相同的“鉴黄师”，他们默不做声，不善表达，很少被人看见，却在要害方位静静发挥作用。

拍摄/吴海文 韩佳林编排/张珂

统筹/孙伊豆责编/匡匡

出品/腾讯新闻、腾讯官方大众号