据外媒报道,美国国土安全部(DHS)于周四发布了一份战略手册,用于将人工智能安全集成到国家的关键基础设施中。"关键基础设施中人工智能的角色和责任框架"是与国土安全部部长 Alejandro N. Mayorkas 和新成立的AI 安全和安保委员会共同制定的,旨在指导人工智能集成商(包括云提供商、开发商和关键基础设施运营商)合作。
该书面框架将涉及国土安全部确定的当今社会关键基础设施面临的核心风险领域的三个方面: 人工智能驱动的攻击、对人工智能系统的针对性攻击和设计缺陷。 该框架区分了每个人工智能利益相关者可能遇到的独特挑战,并针对每个群体提出了具体建议。
对于云和计算提供商而言、 它强调确保人工智能开发环境的安全,包括访问管理和物理数据中心安全,同时鼓励监控异常情况和报告可疑活动的途径。
敦促人工智能开发者遵循安全设计方法,确保模型符合人类价值观,评估偏差和失败风险,并支持独立评估。
建议关键基础设施运营商为人工智能部署实施强有力的网络安全,保护客户数据,保持人工智能使用的透明度,并积极监控人工智能系统的性能,以告知开发人员潜在的影响。
鼓励民间团体、大学和消费者权益倡导者参与标准制定,研究人工智能的社会影响,并帮助塑造人工智能在关键基础设施中的安全部署。 同时,根据人工智能指导方针,地方和联邦层面的公共部门实体负责促进负责任地使用人工智能,支持标准制定,并开展国际合作,保护可能受到全球影响的人。
Mayorkas 强调了人工智能对国家基础设施的变革潜力,同时强调要以微妙、平衡的方式对待这项技术。 "该框架如果得到广泛采用,将大大有助于更好地确保提供清洁水、稳定电力、互联网接入等关键服务的安全和安保。"国土安全部讨论各部门联合目标的新闻稿中说。