首页 >> 黄河

揭秘AI鉴黄师背后的故事看起来很酷的工作并不轻松0吴斌

吴斌    
2022年10月25日

揭秘AI鉴黄师背后的故事 看起来很酷的工作并不轻松

一位“鉴黄师”的电脑上贴着便签,上面注明了甄别色情信息的标准 图/中新网

明星网资讯,前晚,“斗鱼直播”一档名叫《职男职女职播》的综艺节目与观众见面。这档节目每周会请来不同行业的专家们,为青年人解决职业困惑。本周是该系列的第二期:上一期在武汉直播,请来的嘉宾是法医;这一期在广州直播,请来的嘉宾身份更具话题性——他们是“AI鉴黄师”。

三位嘉宾中,姜泽荣是互联网“图像识别”领域龙头企业“图普科技”的运营总监,也是一名“AI鉴黄师”。他这个“老司机”带着两位“小司机”同事在直播中谈笑风生,让观众了解到:这份网友眼中很酷的工作,其实并不轻松;而有了AI人工智能技术(Artificial Intelligence)的助力,“鉴黄”的效率已经大大提高。

背景:“网络监管加强,越来越多直播平台请鉴黄师把关”

“快播被禁”堪称2014年的年度事件。2014年4月16日快播科技发布公告称,快播将关闭qvod服务器,停止基于快播技术的视频点播和下载,清理低俗内容与涉盗版内容。同年8月,全国“扫黄打非”办公室发布消息称,深圳快播科技有限公司网上传播淫秽色情信息案主要犯罪嫌疑人、快播公司法定代表人兼总经理王欣于8月8日被依法抓捕归案。

“国家非常重视对淫秽色情信息的监管,我们公司成立时,就把‘鉴黄’作为公司的重要工作,第一个客户是迅雷。”姜泽荣透露,当时迅雷给了很多数据帮他们调整并优化系统,不过,迅雷如何利用系统则不在他们的控制范围内,“迅雷不存储内容,用户下载并分享的过程中触发‘过滤’机制才有可能被禁,但达到多少基数会被禁,我们不知道。”

“AI鉴黄师”与“传统鉴黄师”通过肉眼浏览过滤色情信息不同,他们的工作是将大伙儿从互联网上搜集的图片、视频进行分类整理,分别放入系统“正常”、“性感”、“色情”三大板块中,“我们调教机器去识别色情信息,通过样本建立模型,最终趋近于达到人眼识别的效果,原理和AlphaGo一样。”图普科技客户经理周耀辉说道。

他们公司现在有上百个客户,其中直播客户占了很大的量,这与近两年直播行业的急速发展密不可分。“部分直播平台为了赚快钱,专门请美女主播滚动直播色情内容,结果上线没多久就被禁。”图普科技市场经理邓柯解释,“对网络信息管控比较重视的企业会走得更远。”

国家对直播平台的监管也在逐渐加强,去年4月13日,百度、新浪、搜狐等20余家直播平台共同发布《北京网络直播行业自律公约》,承诺网络直播房间必须标识水印;内容存储时间不少于15天备查;所有主播必须实名认证;对于播出涉枪、涉毒、涉暴、涉黄内容的主播,情节严重的将列入黑名单;审核人员对平台上的直播内容进行24小时实时监管。

《互联网直播服务管理规定》2016年12月1日起在全国施行,明确禁止互联网直播服务提供者和使用者利用互联网直播服务从事危害国家安全、破坏社会稳定、扰乱社会秩序、侵犯他人合法权益、传播淫秽色情等活动。

于是,越来越多的直播平台开始找“AI鉴黄师”帮助,一旦有主播传播色情信息、系统判定为“色情”后,会立即通知直播平台“封号”;系统拿不准的信息,会被发送到直播平台系统中,让鉴黄师人工判定。通常,从“判定信息为色情”到“查封账号”,平均用时为30秒。

上海年会策划公司:年会策划,这个feel员工爽爆

Cheil上海任命袁蔚明(Michael Yuen)为执行创意总监

南京公关策划:17条潜规则,告诉你如何更好地做广告

麦当娜穿古驰创作总监设计演出服 开启演唱会首场演出

相关阅读
最火安静的夸夸自己爱豆吧ta是哪里值得你的深方逸华朱桢淮安陈亭慧程于伦Rra

安静的夸夸自己爱豆吧,ta是哪里值得你的深爱着迷?小橘子们,大家好!欢...

2024-03-20
最火许晴分享保持少女心秘籍形容自己是榴莲图黄凯芹枣阳大门乐队许玮伦李锦Rra

许晴分享保持少女心秘籍 形容自己是榴莲(图)随着《花儿与少年》的播出,自...

2024-03-20
最火小红莓主唱桃乐丝死因公布醉倒浴缸被淹死无李金泉个旧阿福戴雪儿艾莉莎Rra

小红莓主唱桃乐丝死因公布:醉倒浴缸被淹死,无自残倾向2018年1月15日,小...

2024-03-20
最火徐冬冬尹子维现身购物中心逛街网友疑似复合方炯镔胡元恺邯郸谢晖戊道子Rra

徐冬冬尹子维现身购物中心逛街,友疑似复合新浪娱乐讯 近日,徐冬冬[微博...

2024-03-20
最火择天记鹿晗妙计取龙魂娜扎探秘之旅遭算计郑必爱何以奇黄祺铭黄安宋岳庭Rra

《择天记》跳房子鹿晗妙计取龙魂 娜扎探秘之旅遭算计14:33:00中国“学霸”长...

2024-03-20
最火蓝色大海的传说第10集百度云资源下载蓝色石小倩吻乐队安康彭丽媛戴佩妮Rra

蓝色大海的传说第10集百度云资源下载 蓝色大海的传说第10集剧情介绍蓝色大...

2024-03-20
友情链接