上周,美国总统乔·拜登政府发布了一项冗长的行政命令,旨在通过确保人工智能安全标准来保护公民、政府机构和公司。
该命令为人工智能安全和安保制定了六项新标准,以及在政府机构内道德使用人工智能的意图。拜登表示,该命令符合政府自己的“安全、保障、信任、开放”原则
我关于人工智能的行政命令证明了我们的主张:安全、保障和信任。pic.twitter.com/rmBUQoheKp——拜登总统(@POTUS)2023年10月31日
它包括全面的授权,如与开发“任何对国家安全、国家经济安全或国家公共健康和安全构成严重风险的基础模型”的公司的官员分享安全测试结果,以及“加快隐私保护技术的开发和使用”
然而,这些声明缺乏细节,这让许多业内人士怀疑,这可能会扼杀公司开发顶级车型。
Struck Capital的创始合伙人、人工智能投资者Adam Struck告诉Coindegraph,该订单显示出“对人工智能重塑每个行业的潜力的严肃态度”
他还指出,对于开发商来说,根据尚未完全开发的产品的假设,根据立法预测未来风险是很棘手的。
“这对公司和开发人员来说无疑是一个挑战,尤其是在开源社区,那里的行政命令没有那么明确。”
然而,他表示,政府打算通过特定监管机构的人工智能和人工智能治理委员会的负责人来管理这些指导方针,这意味着在这些机构内构建模型的公司应该“严格了解该机构的监管框架”。
“继续重视数据合规性、隐私和公正算法基础的公司应该在政府满意的模式下运营。”
政府已经通过其“AI.gov”网站发布了700多个关于如何在内部使用人工智能的用例。
风险投资公司Andreessen Horowitz的普通合伙人Martin Casado在X(前身为推特)上发帖称,他与几位人工智能研究人员、学者和创始人一起,已就拜登政府限制开源人工智能的潜力致信拜登政府。
他写道:“我们坚信,开源是确保软件安全和免受垄断的唯一途径。请帮助扩大。”。
1/我们已经就人工智能行政命令及其限制开源人工智能的潜力向拜登总统提交了一封信。我们坚信,开源是确保软件安全和免受垄断的唯一途径。请帮忙放大。pic.twitter.com/Mbhu35lWvt--martin_casado(@martin_casado)2023年11月3日
信中称该行政命令对某些人工智能模型类型的定义“过于宽泛”,并表示担心小公司会被其他大公司的必要要求所困扰。
Gensyn AI运营主管Jeff Amico也发表了类似的观点,称这对美国的创新来说是“可怕的”。
拜登的人工智能行政命令出台了,这对美国的创新来说是可怕的。以下是一些新的义务,只有大型在职者才能遵守pic.twitter.com/R3Mum6NCq5-Jeff Amico(@_jamico)2023年10月31日
相关:Adobe、IBM、Nvidia加入美国总统拜登防止人工智能滥用的努力
Struck还强调了这一点,他表示,虽然监管的明确性“有助于开发人工智能优先产品的公司”,但同样重要的是要注意,像OpenAI或Anthropic这样的“大科技”的目标与种子期人工智能初创公司有很大不同。
“我希望看到这些早期公司的利益在政府和私营部门之间的对话中得到体现,因为这可以确保监管指导方针不会对世界上最大的公司过于有利。”
人工智能制造业的全球领导者Nanotronics的首席执行官兼联合创始人Matthew Putman也向Cointellectric表示,该命令表明需要监管框架,以确保消费者安全和人工智能在更大范围内的道德发展。
“这些监管框架现在如何实施取决于监管机构的解释和行动,”他说。
“正如我们在加密货币方面所看到的那样,严厉的限制阻碍了对潜在革命性应用的探索。”
Putman表示,对人工智能“世界末日”潜力的担忧“相对于其近期积极影响的前景而言,被夸大了”
他说,对于那些没有直接参与构建这项技术的人来说,在没有真正观察到“真正创新”的应用程序的情况下,围绕假设的危险构建叙事更容易,他说这些应用程序是在公众视野之外发生的。
用普特曼的话来说,包括先进制造业、生物技术和能源在内的行业正在“推动一场可持续发展革命”,新的自主过程控制显著提高了产量,减少了浪费和排放。
“如果没有有目的地探索新方法,这些创新就不会被发现。简单地说,人工智能更有可能造福我们,而不是摧毁我们。”
尽管这项行政命令仍然新鲜,业内人士也在争相分析其意图,但美国国家标准与技术研究所(NIST)和商务部已经开始为其新成立的人工智能安全研究所联盟招募成员。
杂志:“人工智能已经扼杀了这个行业”:EasyTranslate老板关于适应变化