数据简介

习近平总书记在十九届中央政治局第九次集体学习时明确指出，要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。人工智能(ArtificialIntelligence，简称AI)经过60多年的演进，已发展成为研究和开发用于模拟、延伸和扩展人类智能的学科。近年来,在算法、算力和数据三大因素的共同驱动下，人工智能进入加速发展的新阶段，成为经济发展的领头雁和社会发展的加速器。目前世界主要国家均把人工智能作为国家发展战略。2017年我国发布《新一代人工智能发展规划》,将发展新一代人工智能上升至国家战略高度。随着人工智能在相关行业和人民社会生活中的深度融合应用,由此带来的国家安全、社会伦理、网络安全、人身安全和隐私保护多个层面的风险和挑战,也引起了社会的广泛关注。
人工智能安全标准化是人工智能产业发展的重要组成部分,在激发健康良性的人工智能应用、推动人工智能产业有序健康发展方面发挥着基础性、规范性、引领性作用。《新一代人工智能发展规划》中明确提出了“要加强人工智能标准框架体系研究,逐步建立并完善人工智能基础共性、互联互通、行业应用、网络安全、隐私保护等技术标准”,切实加强人工智能安全标准化工作,是保障人工智能安全的必由之路。
为推动人工智能技术健康、快速、安全、有序的发展和推广应用,全国信息安全标准化技术委员会(以下简称“全国信安标委”)下设的大数据安全标准特别工作组启动了《人工智能安全标准化白皮书》编制工作,本白皮书主要围绕人工智能本身的安全,详细分析人工智能发展现状,面临的主要安全威胁和风险挑战,梳理总结国内外人工智能安全法规政策和标准化组织标准化工作进展。在此基础上，对人工智能安全标准化需求进行深入辨析，提出人工智能安全标准框架和标准化工作建议。