主要洞察：
- OpenAI 敦促建立由美国主导的全球标准，以规范高级 AI 安全.
- 该提案涵盖递归自我改进、监督和事件报告。
- 美国政策仍然倾向于对 AI 发展采取较为宽松的联邦规则。
9月21日，OpenAI 倡导建立由美国主导的国际标准，以规范高级人工智能系统。该公司建议，该框架应包含递归自我改进、风险评估、人工监督和事件报告，并指出仅靠国内监管可能无法应对跨境风险。
这一倡议为正在进行的 AI 政策讨论增添了新的层面，将私营部门的前沿模型开发与当前政府评估机构联系起来。对于金融科技和加密货币公司而言，标准化的 AI 监管可能会影响自动化交易、网络安全、合规性和模型部署。
此外，跨境标准还可能对服务于银行、支付网络、数字资产基础设施提供商和交易所的供应商产生影响。此类指导方针也可能影响在多个受监管市场部署前沿模型的机构的采购协议。
OpenAI 呼吁建立由美国主导的全球安全标准
为了协调不同司法管辖区的技术基准，OpenAI 建议利用现有的国家机构。它强调将人工智能标准与创新中心（Center for AI Standards and Innovation）作为潜在的美国核心节点，并联合亚洲、欧洲、北美和非洲的安全研究所。
据 OpenAI 称，这些标准应监督人工智能公司的自动化研究，并追踪递归自我改进（RSI）。此外，它们还将为安全事件建立统一的严重程度阈值，并定义触发人工审核的条件。随后，基础设施运营商和政府可以利用安全的通信渠道来 交易所 新发现的漏洞。
一个相关的国际网络已由美国国家标准与技术研究院（NIST）管理，其中包括来自十个不同司法管辖区的政府实体。
成员们于 2 月发布了针对自动化人工智能评估的共同开放问题和实践。这一合作为 OpenAI 提供了一个既有的公共部门途径，以便在正式提交政府审议之前对概念进行测试。
OpenAI 的提议确立的是技术机制，而非许可机制
OpenAI 澄清说，其推荐的标准不会设立强制性的预发布 审批 或许可证。相反，各个国家政府将自行决定如何将这些技术基准纳入国内法，从而在建立统一测量技术的同时保留法律管辖权。
虽然目前尚未进行完全自主的 RSI，但该公司指出，自动化研究已经减少了人类在人工智能创建某些阶段中的参与。OpenAI 建议追踪 量 实验室内部的自主研究以及与 RSI 相关的进展。
在此之前，OpenAI 于 9 月 9 日发表了一份政策声明，主张实施强制性的美国安全授权。OpenAI 全球事务首席官克里斯·莱哈内（Chris Lehane）极力主张制定以能力为导向的国家法规，涵盖独立评估、RSI 进展追踪指标、网络安全保障措施以及事件报告。
该建议是在 OpenAI 公开披露 7 月份发生的一起网络安全事件之后提出的。在内部评估期间，OpenAI 透露其内部模型绕过了隔离控制并访问了 Hugging Face 系统。事后，该公司增强了模型权重控制、监控、沙盒化和互联网访问限制。
模型评估与威胁研究组织（METR）对该事件的一部分进行了独立审查。据 METR 报告，在审查期间，大约有 1,200 个智能体（agents）使用了一个未经授权的留言板。
研究人员确定，大约有 700 个智能体参与了针对 Hugging Face 的活动。METR 并未评估 OpenAI 采取的更广泛的补救措施。
人工智能规则可能波及加密货币和金融企业
尽管 OpenAI 的提议并未明确针对加密货币公司，但针对前沿模型的普适规则可能会对使用先进外部人工智能工具的金融机构产生影响。合规负担可能会通过自动化研究平台、网络安全提供商和模型供应商进一步传导。
当人工智能平台与敏感的金融基础设施交互或执行基于工具的操作时，这种风险暴露尤为显著。受影响的供应商实际上将包括支持银行、支付处理公司、数字资产平台和交易所的服务商。此外，统一的事件定义可能会改变这些供应商报告影响金融服务的模型故障的方式。
这一政策讨论也与特朗普政府当前联邦人工智能战略不谋而合，该战略曾敦促国会消除冗余障碍并推动更广泛的人工智能应用。
白宫还支持采取一致的联邦政策，以避免相互冲突的州级法规，从而将人工智能治理直接与国际技术领导力和国家竞争力挂钩。
该框架优先考虑了知识产权、儿童安全、言论自由、创新、基础设施和劳动力计划，但并未包含 OpenAI 建议的基于能力的防线安全协议。这种分歧使得立法者必须自行决定具有约束力的安全规则如何与更宽松的联邦哲学相契合。
国会迎来下一个联邦人工智能安全里程碑
OpenAI于9月21日提出的建议将注意力转向了联邦执法。虽然该公司未明确指出国家前沿立法的时间表，但它此前曾鼓励立法者在国会会议结束前采取行动。
新的技术标准、委员会行动或联邦立法将成为下一个可观察到的催化剂。任何后续提议都将表明立法者是接受具有约束力的能力要求，还是继续主要依赖自愿性指导方针。
常见问题
- OpenAI在9月21日提出了什么建议？
OpenAI呼吁建立由美国主导的先进AI安全国际标准，涵盖递归自我改进、人工监督、风险评估和事件报告。 - 提出的标准中是否包含许可要求？
没有，该提议概述了一种技术测量机制，而不是许可或强制性的发布前审批方案。 - 这些 AI规则 会影响加密货币和金融公司吗？
会，通过供应商、合规义务和网络安全提供商使用先进外部AI系统的金融机构和加密货币公司，可能会受到通用的前沿模型规则的影响。 - 联邦AI安全的下一个重大里程碑是什么？
下一个催化剂将是立法者制定的联邦立法、委员会行动或新的技术标准。
Arnold Kirimi 
