阅读视图

美国政府封杀Anthropic最新模型 州检察长联手调查OpenAI

(旧金山综合电)美国人工智能(AI)产业遭遇前所未有的监管风暴。两家顶尖AI企业Anthropic与OpenAI星期五(6月12日)分别遭到联邦政府与多州总检察长联盟的重击。

一方面,美国政府以国家安全为由发布紧急出口管制令,迫使Anthropic在全球范围内关停其最先进的大语言模型;另一方面,由多州总检察长组成的联盟对OpenAI展开联合调查,并就其涉嫌滥用消费者数据、危害未成年人安全等问题发出民事传票。

Anthropic周五发声明说,公司于当天下午5时21分接获政府指示,要求禁止外国人,包括公司的外籍员工,使用两款最新AI模型Fable 5和Mythos 5。两款模型刚于6月9日发布。

Anthropic说,政府并未具体说明国家安全顾虑,但公司的理解是,“政府认为有一种可绕过或‘破解’Fable 5模型的方法,而这种方法可能被黑客利用来发动袭击”。

Anthropic已依指示停止向所有客户开放这两款AI模型,但对这一做法表达强烈保留 。声明指出,仅因发现潜在小漏洞,就下架供数亿人使用的商业模型,“如果这一标准适用于整个行业,我们认为几乎所有前沿模型供应商都将无法发布新模型”。

这一最新举措标志着美国在遏制外国对手获取先进AI能力方面的力度明显升级。过去几年,美国出口管制主要针对驱动AI的晶高端片和开发工具,而不是直接限制外国人使用AI模型。

另据《华尔街日报》报道,知情人士称,多州总检察长已联手对OpenAI展开广泛调查,并于周五对OpenAI发出传票,要求它提交大量与运营及用户影响相关的文件。传票内容据称涵盖广告业务、用户活跃度与留存情况、消费者及健康数据管理、面向未成年人与老年群体的产品与服务、深度学习模型、“模型谄媚”问题,以及公司内部规章制度等。

OpenAI发布声明说:“AI是一项新兴且强大的技术,我们每天都致力于以负责任的方式,让大众安全享用这项技术的好处。我们重视各州总检察长提出的关切,并计划与他们的办公室进行建设性沟通。”

本月初,佛罗里达州成为首个起诉OpenAI及其首席执行官奥尔特曼的州,指控两者明知聊天机器人ChatGPT存在安全隐患,却仍发布产品,并无视可能对用户造成伤害的警告。诉状称,ChatGPT曾被用于协助策划校园枪击案、鼓励自残行为,并导致未成年人产生上瘾问题。

  •