美国国土安全部周五宣布，该机构已招募了一大批人工智能行业领袖成立人工智能安全与保障委员会。

国土安全部表示，新机构将在利用人工智能保护美国重要基础设施以及缓解人工智能威胁方面发挥关键作用。

国土安全部长Alejandro Mayorkas在一份事先准备好的声明中表示：“人工智能是一项变革性技术，可以以前所未有的方式促进我们的国家利益。”。“与此同时，它带来了真正的风险，我们可以通过采用最佳实践和采取其他经过研究的具体行动来减轻这些风险。”

董事会将由马约卡斯领导，包括几位知名的人工智能高管，包括OpenAI首席执行官萨姆·奥特曼、微软董事长兼首席执行官萨蒂亚·纳德拉、Alphabet首席执行官桑达尔·皮查伊、Anthropic联合创始人兼首席执行长达里奥·阿莫迪，以及NVIDIA总裁兼首席执行官neneneba延森·黄。

马约卡斯说：“我很感激这些有成就的领导人将他们的时间和专业知识奉献给董事会，以帮助确保我们国家的关键基础设施——美国人每天依赖的重要服务——有效地防范风险，并实现这项变革性技术的巨大潜力。”。

Anthropic的阿莫迪在一份并发声明中表示：“如果负责任地部署人工智能技术，它能够为社会带来巨大利益，这就是为什么我们主张努力测试前沿人工智能系统的安全性，以降低潜在风险。”。“我们很自豪能与公共和私营部门的其他领导者一起研究人工智能对保护关键基础设施的影响。

他继续说道：“安全的人工智能部署对于确保为美国社会提供动力的基础设施至关重要，我们认为，该委员会的成立是加强美国国家安全的积极一步。”。

微软的Nadella补充道：“人工智能是我们这个时代最具变革性的技术，我们必须确保它的部署安全、负责任。”。“微软很荣幸能参与这一重要工作，并期待着分享我们迄今为止的经验教训和未来的计划。”

其他加入人工智能安全与保障委员会的人包括亚马逊网络服务首席执行官Adam Selipsky、IBM董事长兼首席执行官Arvind Krishna、斯坦福以人为本的人工智能研究所联合主任李飞飞和公民与人权领导会议主席兼首席执行官马娅·威利。

李说：“我很荣幸能加入这一跨学科领导者的行列，以负责任、以人为本的方式管理这项改变世界的技术。”。“归根结底，人工智能是一种工具，一种强有力的工具，它的开发和应用必须了解它将如何影响个人、社区和整个社会。”

据国土安全部称，该委员会将于5月初举行第一次季度会议，并将立即负责向部长提供建议，以确保人工智能技术在基本服务中的安全应用。目标是为国土安全部、“关键基础设施社区”和人工智能领导人创建一个论坛，就人工智能相关的安全风险交换信息。

2023年，人工智能迅速进入主流，全球领导人争相制定应对新技术的法规。今年1月，世界经济论坛（WEF）将人工智能和量子计算列为最紧迫的全球风险之一。

在2023年10月发布行政命令后，拜登政府宣布成立美国人工智能安全研究所联盟（AISIC），其中包括许多加入国土安全部倡议的名字。

除了国家安全问题外，包括谷歌、Meta和OpenAI在内的人工智能开发人员周二与非营利组织Thorn和All Tech is Human联合，承诺在各自的人工智能模型周围设置护栏，防止它们被用于制作儿童性虐待材料（CSAM）。CSAM也是参议员伊丽莎白·沃伦向国土安全部和司法部发出的一封新信的焦点。

由Ryan Ozawa编辑。