美政府與 OpenAI 等籤協議測評人工智能

美國政府已與 Anthropic 以及微軟（MSFT）支持的 OpenAI 簽署協議，用於對其人工智能模型進行研究、測試和評估。

依據臨時協議，美國人工智能安全研究所將在每家公司的主要新模型公開發布之前和之後獲得訪問的權限。

美國商務部國家標準與技術研究院（NIST）旗下的美國人工智能安全研究所稱，這些協議將促進就如何評估能力和安全風險以及降低這些風險的方法開展合作研究。

“安全對於推動突破性技術創新至關重要。有了這些協議的達成，我們期待着開始與 Anthropic 和 OpenAI 進行技術合作，以推進人工智能安全方面的科學研究，”美國人工智能安全研究所所長伊麗莎白·凱利（Elizabeth Kelly）說道。

OpenAI 和 Anthropic——其得到了亞馬遜（AMZN）以及 Alphabet 旗下（GOOGL）（GOOG）谷歌的支持——一直在開發大型語言模型（即 LLMs）方面處於前沿位置。這些 LLMs 爲諸如 OpenAI 的 ChatGPT 和 Anthropic 的 Claude 之類的 AI 聊天機器人提供動力支持。

這些協議達成之時，在全球範圍內關於人工智能道德和安全使用的討論正在進行。

本週早些時候，OpenAI 公開表示支持一項正在加州州議會審議通過的法案，該法案旨在緩解人工智能生成內容的濫用。