白宫表示，七家人工智能领域的领先公司已承诺管理该技术带来的风险。


这将包括测试人工智能的安全性，并将这些测试的结果公开。


来自亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI 的代表与美国总统乔·拜登一起宣布了这一消息。


在此之前，有一些关于该技术功能的警告。

这些公司开发工具的速度引发了人们对虚假信息传播的担忧，尤其是在 2024 年美国总统大选临近之际。


乔·拜登总统在周五的讲话中表示：“我们必须对新兴技术带来的威胁保持清醒和警惕，这些威胁可能——不一定但可能——对我们的民主和价值观构成。”


周三，Facebook 母公司 Meta 发布了自己的人工智能工具 Llama 2。


Meta 全球事务总裁尼克·克莱格爵士 (Sir Nick Clegg) 告诉 BBC，“炒作在某种程度上领先于技术”。


作为周五签署的协议的一部分，两家公司同意：


在发布之前，内部和外部专家对其人工智能系统进行了安全测试。

确保人们能够通过实施水印来发现人工智能。

定期公开报告人工智能的能力和局限性。

研究偏见、歧视和侵犯隐私等风险。

白宫补充说，目标是让人们能够轻松辨别在线内容是由人工智能创建的。

拜登表示：“这是一项重大责任，我们必须把它做好。” “而且还有巨大的潜力。”

人工智能生成内容的水印是欧盟委员蒂埃里·布雷顿 (Thierry Breton) 在 6 月访问旧金山期间与 OpenAI 首席执行官萨姆·奥尔特曼 (Sam Altman) 讨论的话题之一。

“期待继续我们的讨论——特别是关于水印的讨论，”布雷顿在一条推文中写道，其中包括他和奥尔特曼先生的视频片段。

在视频剪辑中，Altman 先生表示，他“很乐意很快”展示 OpenAI 使用水印所做的事情。


周五签署的自愿保障措施是美国朝着更严格的人工智能监管迈出的一步。


政府在一份声明中表示，还在制定一项行政命令。


白宫表示，还将与盟友合作建立一个国际框架来管理人工智能的开发和使用。


针对这项技术的警告包括，它可能被用来产生错误信息并破坏社会稳定，甚至可能对人类构成生存风险——尽管一些开创性的计算机科学家表示，世界末日的警告有些言过其实。