系统审核是机器还是人(只能靠人工现在及机器可以解决)

一年多的时间里，互联网上UGC内容审核的方向一直在走向人工干预。一些业内人士甚至认为，AI的内容审核可能还需要5-10年。现实已经表明，只有督促互联网公司承担社会责任，强调算法的价值，在产品设计上创新保护未成年人的措施，加强内容安全监管，才能杜绝短视频社交平台的种种乱象。

人工干预已经成为行业共识。

得益于算法技术的发展，互联网公司通过用户画像实现了相对精准的信息推送。但是如果我们不去干预信息的分发，比如强暗示、虚假信息、软色情等内容就会在推荐网络中传播。因此，科学界和媒体界展开了一场关于算法是否有价值的讨论。

今年4月，由于整改，唐嫣在陌陌第一季度财报会议上表示将加大内容审核业务的资源投入。在最新一轮集中整治的26家音频社交平台中，社交应用Soul也公开回应称，将严格审核相关功能和内容。其整改措施还包括加强审核团队建设，将大量招聘内容审核和主管级人员。

今天的探索，在其朋友圈发布动态将进入长期回顾的状态。在Soul中，其动态内容审核据说已经完全覆盖了除机器判断之外的两个人工审核流程。在未来的新版本中，当判断动态内容涉嫌违规时，会直接提醒用户。

以上四项应用整改措施，都是在强化人工审核在内容审核机制中的主导作用，从一个侧面印证了机器分发的局限性。

机器审计只能辅助识别。

在音频内容机器审计方案中，音频识别到文本匹配关键词是目前常用的基本方案。首先识别音频中的语言，然后在语音识别转化为文本信息后，对关键词进行索引。在这个过程中，可以嵌入现有文本识别中的上下语义分析，由机器识别出与模型相似度最高的垃圾内容进行剔除。但是，就像机器和算法的缺陷一样，行业内音频识别的技术能力还没有达到可以完全替代人工审核的阶段，尤其是在处理方言、不同音轨的噪音等场景时。

实际上，视频内容由两个对象组成：音频内容和视频图片内容。在视频图片内容的机器审核中，目前业界多采用截取图片帧上传识别，最终复用的是图片识别通道，判断场景、人物、物品是否违法。但以常用的24帧标准为例，一个60秒的视频有1440帧之多，要实现覆盖全帧的机器审计会耗费大量资源。所以常见的审计设计是设置视频的截取时间，选择一些帧进行机器审计。在无法覆盖全画面画面审查的情况下，自然存在视频内容“闪现”色情、违禁内容的风险。更有甚者，有人通过图片内容含蓄表达，图片的机器审查很难理解意思。

其实不管是什么载体媒体，在真正的AI时代到来之前，所有的机器审核都只会是人工辅助。在流程设计上，机器审核能做的就是帮助运维人员先排除大量确切的违规行为，而剩下的人工审核流程就省不了了。比如一张人像图片，可以分为“情色”、“性感”、“正常”三个维度。机器审核可以根据身体裸露的程度来判断。事实上，信息的意义并不那么简单。应该如何定义「性感」？裸露的人体能否通过场景和动作的表现达到人们对“色情”的认知？

专注于技术创新。

防沉迷系统最早应用于游戏行业，而短视频这种新媒体具有沉浸式体验强、占用用户时间的特点。让防沉迷系统适应短视频ha

相关问答：

相关问答：机器审核文章和人工审核有何不同，你喜欢机器审核吗？

记得曾看过媒体审核方法，机器审核只是初审，如果有违规词句，将被挡在门外，通过不了。当有人举报或再进一步评选时，然后进入人工审核模式，人工审核是对有份量，考核目标的细化，是精准审核。比较重大内容可能要多层次人工审核，来加强权威代表性，如果你的想发表内容，有幸获得人工审核的机会，说明得到应有的重视。以上纯属本人的经验之谈，抛砖引玉，共享媒体带来的机遇和挑战。