国信网安：互联网企业如何制定内容安全审核标准？

    2022-03-24 09:30:13　来源: “网络安全研究”微信公众号

 

    互联网内容安全审核标准（以下简称审核标准）作为互联网平台内容安全业务的基础制度和核心规范，对于各家互联网平台而言其重要程度相当于一个国家的法律法规。互联网平台内容业务能否得到安全保障、业务发展是否平稳有序，审核标准可以说起到了“总指挥”的作用。

    好的审核标准会让互联网平台业务更加稳健，在满足法律法规要求的同时也能充分兼顾用户体验与平台发展的需要，同时在审核执行层面也能高效执行、平稳落地。

    互联网企业如何合理的制定审核标准？审核标准的制定应该遵循哪些原则？国信网安为您逐一解答。

    一、明确定义

    1、明确定义

    首先我们明确什么是“内容安全审核标准”？

    “内容安全审核标准”为互联网平台依据法律法规、监管要求、用户体验、运营需求制定的审核标准，该标准主要作用于平台生产、版权采购及网友上传内容的合规审核，以使平台内容达到合法合规、划分质量的目的；

    2、操作对象

    审核标准一般由内容安全审核团队、质量审核团队、运营团队按照标准进行操作，同时该标准还可用于机器审核、算法识别；

    3、与法规的区别

    虽然政府监管部门也会出台互联网内容管理相关法律法规，但与互联网平台内部的审核标准不同，法律法规属于底线要求与宏观框架，属于政策要求与产业指导。内部的审核标准属于在法律法规基础上更细化、更具体、更符合平台特性的具体操作指南、执行标准。二者属于递进关系，一个宏观、一个具体，一个面向整个行业，一个作用于平台内部；

    二、明确责任

    1、明确责任

    明确谁对审核标准负责、谁来牵头，明确审核标准的负责人，职责明确、责任到人；

    审核标准的维护，一般由策略团队或培训团队牵头负责；

    2、立项牵头

    由责任人对审核标准进行立项、更新、串联、沟通等日常工作；

    三、明确流程

    审核标准的维护应具备完善的维护流程，维护流程应包含以下步骤：

    1、立项

    明确什么情况下需要制定新的审核标准，并发起立项；

    2、起草

    由负责人、责任团队进行审核标准的梳理、起草、撰写；

    3、征询

    对初稿向部门内部、协作团队、运营、法务、GR等其他关联团队就初稿征求意见、建议并加以完善；

    4、审定

    对已定稿审核标准按内部流程进行审批、确认、发布、传达；

    5、更新

    审核标准应根据法律法规变化、最新监管要求、内容形态发展等因素确立更新机制，以确保审核标准的持续适用性；

    6、废止

    审核标准应根据内容形态变化、产品功能变化等因素建立废除机制，对冗余的审标准则进行废止，以确保审核标准体系的精细化管理；

    四、覆盖全面

    1、政府监管

    审核标准需要覆盖政府监管对行业、产品、内容等各类监管要求；

    2、违规类别

    审核标准要涵盖政治、暴恐、色情、低俗、侵权等各类违规类别；

    3、法律法规

    审核标准要覆盖我国各类网络安全、网络生态相关的法律法规和行业规范；

    4、公序良俗

    审核标准除涵盖法律法规要求外也要符合我国公序良俗，包括国家利益、社会经济秩序、社会公共利益、社会公德、商业道德、社会良好风尚等；

    5、内容质量

    审核标准要充分考虑到平台发展需要，在兼顾法律法规等安全要求的同时也要兼顾内容质量；

    五、清晰易懂

    1、条款清晰

    审核标准的撰写要措辞准确、行文简洁，对于操作者也要便于理解、便于操作，忌讳晦涩难懂与执行脱节；

    2、案例得当

    除文字规则外，需要搭配适当案例方便理解与对标实操；

    六、易于执行

    1、换位思考

    审核标准不是为了有而有，应本着方便执行的原则，一条审核标准要辐射到几百、上千名审核同学，应有敬畏之心，换位思考，制定过程要始终站位落地层面；

    2、操作便捷

    审核标准不仅仅是纸面上的文字，应充分考虑执行的便捷性、判断的准确性；

    七、前瞻性

    1、前瞻视角

    审核标准的制定应尽量前置于风险的发生，这也需要制定者有丰富的业务经验与风险意识；

    2、发展眼光

    审核标准应尽量立足长远并能持续执行，避免频繁改动，这样会过于消耗业务资源、同时也会影响执行效果；

    八、及时性

    1、覆盖热点

    审核标准应能及时覆盖各类热门事件、热点舆情，以便平台能及时应对不同的内容趋势；

    2、定期更新

    审核标准应有定期复核机制，对不符合当下安全的标准进行更新、迭代；

    九、策略平衡

    1、满足法律法规要求

    审核标准要严格对照网络安全、网络生态相关法律法规及行业规范，审核标准属于内部规则，但其前提是符合国家法律法规的宏观要求及行业自律的相关规范；

    2、运营需求与用户体验

    审核标准应在满足内容安全的前提下平衡企业发展与平台运营需要，同时最大限度的满足用户体验；

    十、规则丰富

    1、策略多样

    审核标准的落地应在视频、音频、文本、图片、直播等不同内容形态下具备灵活性，满足内容安全的前提下还要符合不同产品形态、内容形态的传播特点；

    2、避免生硬

    审核标准要能最大限度保护内容、尤其是优质创作者的内容，审核标准的目不止是为了规避风险，也要充分满足平台的发展需要；

规则上不应该只有删除和通过，也应包含提醒、退回、限制、分地区等等多种策略；

    十一、充分调研

    1、充分沟通

    审核标准的制定过程应与操作层面、业务层面保持密切的沟通，避免因规则不合理影响最终执行和对业务造成损害，最终版应是共识的结果 ；

    2、定期调研 

    审核标准责任团队、责任人应定期与各团队进行调研、走访、及时了解审核标准目前的执行情况、有无意见建议，以便对规则做出跟进调整、汲取经验；

    3、数据分析

    审核标准负责团队，应充分参考审核指标、质检结果，主动跟进标准的完善；

    十二、分歧裁定

    1、问题记录机制

    操作层面应对审核标准在执行过程中存在的问题、意见、建议进行收集、梳理，以备反馈使用；

    2、分歧会商机制

    如审核标准在执行中出现分歧、意见，应建立沟通机制、反馈渠道，对问题标准及时沟通、及时优化；

    十三、制度保密

    1、存档规范

    审核标准作为重要的内容安全业务积累，存档应有自己的标准规范，方便查询、结构系统、展示清晰；

    2、保密制度

    审核标准属于企业核心机密同时含有敏感信息，应有专门的存储系统、存储规则、访问权限、读写权限；

应对所有参与、可见人员进行保密意识培训，确保审核标准的内部保密；