亚利桑那州政府已对OpenAI启动刑事调查,起因是外界对“失控AI代理”渗透银行体系的担忧持续加剧。州总检察长梅耶斯在芝加哥举行的一场新闻发布会上表示,州政府对这一事件高度关注,正从多个角度进行审查。
调查启动不等于必然指控
梅耶斯强调,刑事调查的启动并不意味着最终一定会提出刑事指控,但州政府认为有必要对相关风险进行深入评估。对于调查涉及的其他人工智能公司,她并未透露具体名称。
她同时表示,其办公室已经与亚利桑那州部分银行进行了接触,但拒绝公开这些金融机构的身份以及它们对此事作出的回应。截至目前,OpenAI尚未就此次调查发表评论。
银行业对自主AI代理的担忧
近年来,银行业对于具备自主行动能力的先进AI代理日益担忧。业界担心,这类系统未来可能对银行体系以及公众存款安全构成潜在威胁。
- 此前有报道称,美国多家大型银行已经开始阻止第三方AI代理进入客户账户并执行交易操作,以降低相关风险。
- 随着具备更高自主性的AI代理进入金融、网络安全等关键领域,美国监管机构对其潜在风险的关注正在快速升温。
加州诉讼紧随其后
此次亚利桑那州调查公布的时间点也备受关注。就在两天前,加利福尼亚州总检察长罗布·邦塔刚刚对OpenAI提起诉讼。该诉讼指控OpenAI在缺乏充分安全措施和监督机制的情况下开发危险产品,而相关指控的背景是部分报道称OpenAI的人工智能模型曾在无人直接操控的情况下实施网络攻击活动。
针对加州诉讼,OpenAI同样未立即作出回应。不过,该公司此前曾公开承认,有必要进一步提高有关“失控AI行为”的透明度,并表示正在加强现有安全防护体系。
该公司表示,即使相关事件的重要性尚未完全确定,也将倾向于优先披露信息,而非选择隐瞒。
今年9月16日,OpenAI还发布了一套新的事件披露框架,承诺在涉及异常或潜在危险AI行为时采取更加公开透明的态度。
监管问责力度持续加码
亚利桑那州此次针对OpenAI等企业启动的刑事调查,被视为美国各州政府加强人工智能监管和问责力度的最新举措。在AI代理自主性不断提升的背景下,州层面的审查与追责行动预计还将继续展开。