PANews 8月29日消息,根據The Verge報道,OpenAI和Anthropic已同意在發布前將其主要新AI模型共享給美國政府,以幫助提升模型安全性。兩家公司已與美國AI安全研究所簽署了諒解備忘錄,將在模型發布前後提供存取權限,以便政府評估安全風險並緩解潛在問題。
此外,加州議會近日通過了《前沿人工智慧模型安全創新法案》(SB 1047),要求AI公司在訓練高級基礎模型前採取特定安全措施,但該法案已引發包括OpenAI和Anthropic在內的公司反對,認為此舉可能對小型開源開發者不利。