守护AI安全，共话向善未来——AIIA安全治理委员会成果发布会成功召开

AIIA秘书长、中国信通院院长余晓晖

AIIA安全治理委员会专家委主任、公安部信息安全等级保护评估中心原副主任、研究员毕马宁在致辞中指出，为应对当前人工智能所带来的安全挑战，AIIA安全治理委员会重点围绕人工智能的治理框架、风险管理、内生安全、安全应用开展了大量的理论和技术研究工作。

AIIA安全治理委员会专家委主任、公安部信息安全等级保护评估中心原副主任、研究员毕马宁

AIIA安全治理委员会办公室主任、中国信通院人工智能研究所安全与元宇宙部主任石霖向与会人员汇报了委员会近期的工作成果。在全体成员的共同努力下，委员会围绕人工智能安全治理取得的了显著成果，会上进行了一一发布。工业和信息化部网络安全管理局数据安全处处长雷楠、中国信通院人工智能研究所所长魏凯、邮储银行软件研发中心研发安全处负责人王齐峰、讯飞数码科技有限公司副总裁杨娟、vivo软件产业发展高级总监曹宇琼、蚂蚁集团股份有限公司安全标准总监林冠辰、第四范式政府事务总监赵永飞等企业代表以及产业界50余家合作伙伴共同见证启动了“人工智能安全守护计划”（简称“智安计划”），打造AI Guard品牌，将共同建立AI系统情报共享机制、AIGC真实性和可信赖来源互认机制，推动设立人工智能相关保险产品，提升国内人工智能技术的服务提供方、使用方的安全防护能力。

会上进行了AIIA安全治理委员会专家聘任仪式，为专家委主任、副主任委员颁发聘书。

依托AIIA安全治理委员会，中国信通院在2024年上半年启动了大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征识别安全等联盟规范的制定和评估工作。会上，AIIA安全治理委员会评估结果正式公布，vivo、蚂蚁、中数通、齐鲁壹点、东方通、招商银行、阿里云、海康威视、中移金科、百度网讯、马上消费、科大讯飞、商汤等企业代表获得证书。

北京大学法学院教授、北京大学人工智能研究院AI安全与治理中心主任张平，中国科学院自动化研究所研究员、国家新一代人工智能治理专家委员会委员、联合国人工智能高层顾问机构专家曾毅，360集团副总裁张向征等专家围绕人工智能安全治理的中国实践及国际共识、大模型安全等内容进行了主旨演讲，深入剖析人工智能关键技术、内容，探讨国内外人工智能安全治理现状以及实践经验。

在治理环节，与会专家重点围绕人工智能治理规范与风险管理展开了讨论。AIIA安全治理委员会治理组组长呼娜英对治理组近期工作进行了汇报。治理组围绕人工智能治理宏观研究、人工智能应用治理合规、人工智能赋能治理三个方面开展研究工作，旨在凝聚产业共识，形成服务我国人工智能产业发展的治理框架，促进人工智能典型应用安全合规，探索人工智能赋能治理的最佳范式，推动产业生态向善发展。

中国法学会法治研究所研究员、中国法学会网络与信息法学研究会副秘书长刘金瑞、北京市金杜律师事务所合伙人宁宣凤、阿里研究院 AI 治理中心副主任王铮等专家围绕大模型带来的新兴风险及规制路径、人工智能事前、事中、事后的风险管理，以及大模型训练数据的安全治理等主题带来了精彩专题演讲。

在安全环节，重点围绕人工智能原生安全、赋能安全展开讨论。AIIA安全治理委员会安全组组长陈文弢对安全组近期工作进行了汇报。中国信通院人工智能所近半年来依托联盟深度开展了大模型安全基准测试工作，重点推动大模型安全加固能力建设，开展了大语言模型安全、图文大模型安全、代码大模型和人工智能赋能网络安全等方面的技术规范研究，并推动了相关评测工作。同时发布了具备强鲁棒性的隐式数字水印服务，提升大模型平台的合规能力。

中国信通院人工智能所黑一鸣博士发布了自研的大模型安全加固解决方案。该能力通过模型微调、外挂安全知识库等模式对开源大模型自身进行安全防护加固，在保持模型原有通用能力和推理效率的前提下，明显增强了其抵御多种诱导攻击的能力。该能力及相关数据底座仍在持续迭代升级中，具有很强的泛化能力。

北京邮电大学教授、博士生导师、网络空间安全学院副院长张熙、邮储银行软件研发中心副主任工程师宋宁、上海斗象信息科技有限公司 AI 攻防负责人肖朕等专家围绕人工智能内生安全、赋能安全方面进行了专题演讲。

在圆桌讨论环节，在AIIA安全治理委员会专家委副主任委员、中国信通院互联网法律研究中心主任、国际电信联盟人工智能学者何波主持下，对外经济贸易大学数字经济与法律创新研究中心主任许可、华为战略研究院人工智能治理产业发展首席专家柳嘉琪、腾讯研究院首席数据法律专家王融、百度集团人工智能业务法务合规负责人徐全全，以“新技术新应用企业出海合规实践”主题，围绕企业合规治理等话题进行了深入地探讨交流。

本次会议受到社会各界的广泛关注和热情参与，为新时代下我国新质生产力、人工智能安全治理的共同发展凝聚了共识和力量。未来，AIIA安全治理委员会愿与各方协作，共同推进人工智能产业安全、健康发展。