PANews 8月29日消息,据The Verge报道,OpenAI和Anthropic已同意在发布前将其主要新AI模型共享给美国政府,以帮助提升模型安全性。两家公司已与美国AI安全研究所签署了谅解备忘录,将在模型发布前后提供访问权限,以便政府评估安全风险并缓解潜在问题。
此外,加利福尼亚州议会近日通过了《前沿人工智能模型安全创新法案》(SB 1047),要求AI公司在训练高级基础模型前采取特定安全措施,但该法案已引发包括OpenAI和Anthropic在内的公司反对,认为此举可能对小型开源开发者不利。