1.4.2 信息内容安全相关规定

为应对新技术、新应用可能带来的危害，加强内容安全监管，培育积极健康、向上向善的网络文化，国家互联网信息办公室出台了《网络信息内容生态治理规定》。根据我国目前的内容安全治理现状，分别从监管治理、技术、标准、人才四个方面进行剖析。其中，监管治理主要包含两个方面：一是相关法律法规的制定，二是内容服务平台开展的治理措施。

为解决日益复杂的不良网络信息内容，推动我国内容识别产业与技术发展，在国家网信办与中国通信标准化协会的指导下，分别成立了中国人工智能产业发展联盟网信技术委员会（下面简称“网信技术委员会”）与CCSA TC602工作组。工作组围绕开展网络空间治理、用户数据和权益保护、知识产权保护、公安信息化、国际交流等领域，开展新技术研究和标准推进，宣贯标准以及相关法律、法规、政策方针，进行技术、产品、服务的标准符合性验证。围绕“内容鉴别”“行为鉴别”“威胁情报”等网络治理技术和手段，开展相关产品、服务的标准预研，建立网络治理能力评估体系。工作组与公安、合作企业、政府部门展开深度合作，开展相关政策研究、标准制定等工作，为内容治理提供治理技术支撑以及监管保障。工作组在2019年第一批内容识别服务系统评测工作基础上，联合网信技术委员会，于2020年1月启动了第二批内容识别服务系统的评估测试工作。

网信技术委员会致力于开展人工智能等技术和产业发展动态跟踪研究、国内外监管政策及应对建议研究，起草、制定服务和应用标准、技术标准、数据标准等，制定和推广落实行业自律准则。委员会联合中国移动、腾讯、阿里云、网易、金山云、中科软等单位发起《内容安全管理和评估行业倡议》和《互联网新闻信息算法推荐行业自律公约》旨在推动互联网新闻信息算法，推荐运营主体以及信息服务提供者自觉遵守相关法律法规，弘扬核心价值观，规范市场秩序，探索有效的安全自评估办法。委员会针对深度伪造展开监测技术研究、案例征集、评估规范编制，针对内容安全和内容监测进行评估规范研究与制定，联合网易、阿里、腾讯、金山等企业从系统基本信息披露、系统成熟度、服务质量评估三个维度进行评估测试。委员会组织行业专家进行技术研讨，经过六七次的会议讨论，历时一年最终完成内容识别服务系统的系列评估规范的制定，分别从完整性、开放性、可靠性、易用性等方面综合评判系统的成熟度，同时制定针对内容识别服务系统的文本、图片、视频（点播、直播）、语音领域的功能以及性能指标要求，完善不同领域的内容评估标准。