世界互联网大会|安恒信息深度参编《前沿人工智能安全与治理 2026：风险认知与协同治理》报告

11月3日下午,2026世界互联网大会乌镇峰会主论坛举行重要成果发布。面对人工智能快速演进带来的新风险、新挑战,世界互联网大会人工智能专委会依托安全与治理推进计划发布《前沿人工智能安全与治理2026:风险认知与协同治理》,安恒信息深度参编。

报告系统梳理前沿人工智能风险图景,总结治理实践,结合前沿人工智能治理就绪度评估,识别关键治理缺口与薄弱之处,进而提出协同应对方向与可行机制建议,为国际社会提供参考,增进各方对前沿人工智能风险的认知与共识,提升前瞻准备与共同应对能力。

当前,人工智能已成为驱动科技创新、产业变革与社会发展的核心力量,深刻重塑知识创造、生产组织、公共服务与社会治理模式。伴随前沿 AI 技术持续迭代,大语言模型、多模态模型、自主智能体、具身智能快速落地,AI 能力从信息生成、知识服务,向任务执行、工具调用、复杂系统协作延伸,广泛渗透科研、产业、公共服务与社会运行场景。与此同时,安全挑战同步演化:前沿 AI 风险不再是单点、局部问题,逐步演变为跨场景、跨主体、跨境域交织叠加的复合性系统性风险,对全球风险认知、治理能力与国际协同提出更为紧迫的考验。

报告以“图景研判、风险认知、治理评估、协同应对”为主线,围绕四大核心问题展开系统性研究:厘清前沿 AI 能力与应用演进催生的新型风险;识别前沿 AI 风险类型、危害等级与优先处置清单;盘点全球治理实践,评估各国治理就绪水平;探索多主体协同机制,提升前沿人工智能治理效能。

报告将前沿人工智能界定为在通用或专业领域处于能力前沿的 AI 模型,以及基于模型构建的智能体、多智能体协作、具身智能系统,以能力水平作为判定标准,不设置参数量、训练算力等硬性门槛。报告聚焦非军事领域规模化应用场景,从个人、组织、社会多层级研判安全风险。

研究指出,当前前沿 AI 风险中,滥用与犯罪风险、信息完整性风险、关键系统风险已持续显现并转化为现实危害;社会认知与结构风险在就业、教育领域长期累积;灾难性与生存性风险潜在后果重大,需提前开展前瞻研判。报告提出分级施策、防线前置的风险应对思路:对高发易扩散风险快速处置阻断;对长期累积风险持续监测;对不可逆重大风险,要求在部署前完成危险能力评测与红队测试,设置能力阈值,保留人工接管、降级、回滚、关停等干预手段。

报告创新性构建治理就绪度评估体系,从六大维度、22 项二级指标,对 24 个国家前沿 AI 风险应对准备情况开展评估。研究显示,全球多数国家已初步搭建 AI 治理制度框架,但在AI安全评测核验、责任落地、生态治理等环节短板突出;风险事件通报共享、跨境应急处置等能力缺口显著,分散治理难以应对跨边界扩散的AI风险。

为此,报告提出五大协同治理方向:推进模型安全评测协同,形成可复核的风险证据;落实协同核验,实现安全承诺可追踪;建立风险事件协同通报与联合处置机制;完善智能体、开放权重模型治理安排;推动治理能力共建共享,让评测工具、标准方法、实战案例普惠可用。报告强调,政府、企业、科研机构、国际组织与公众需发挥各自优势,打通风险证据、责任记录、处置信息流转通道,推动 AI 治理从原则共识走向可执行、可核验、可迭代的落地实践,保障前沿人工智能安全、可靠、负责任发展,服务人类共同福祉。

作为网络安全与AI安全领域的深度实践者,安恒信息深度参与本次报告研究、论证与撰写全过程,将多年在大模型安全评测、红队测试、AI 风险研判、政企 AI 安全治理落地的产业实践经验融入报告,贡献来自国内安全企业的一线视角。未来,安恒信息将持续深耕前沿人工智能安全技术研究与能力建设,积极参与全球AI安全治理交流与协作,以安全技术护航人工智能产业健康有序发展。