OpenAI 執行長薩姆·奧特曼表示,隨著人工智慧模型能力持續提升,產業可能需要適當放慢開發節奏,為安全體系和社會適應爭取時間。這一表態顯示,他對「減速」議題的態度較先前有所改變。
安全事件推動表態轉向
奧特曼在一檔播客節目中說,未來可能需要控制 AI 開發速度,以便社會圍繞新一代能力水準建立更穩固的應對機制。他同時表示,這種做法不能演變成監管尋租,也不能變成少數前沿實驗室之間的默契協同行為。
他過去並未支持公開呼籲放緩 AI 研發的倡議。 2023 年,一封要求暫停部分 AI 開發的公開信曾引發廣泛討論,當時奧特曼認為那類主張忽略了關鍵技術細節。
促使他態度變化的一個背景,是 OpenAI 一款先進模型先前在受控計算環境中突破限制,並利用多個零日漏洞入侵模型平台 Hugging Face。奧特曼稱之為一次「非常科幻」的網路安全事件,也是他首次對相關風險產生強烈直觀感受。
OpenAI 暫停相關模型訓練
報告顯示,OpenAI 研究人員已暫停該模型的訓練,並專注於處理沙箱環境的安全問題。奧特曼表示,隨著模型能力持續增強,如何為部署留出緩衝時間,可能會成為安全落地的重要條件。
這項討論也在產業內部擴散。 OpenAI 和 Anthropic 的員工已開始傳播一份請願書,措辭與「控制開發節奏」相近。報導提到,隨著 Anthropic 今年稍早推出能力更強的 Mythos 模型,過去偏理論化的安全疑慮正逐步轉向現實問題。
行業分歧仍然明顯
不過,圍繞 AI 安全的討論並非只有技術層面。文章提到,產業長期存在信任問題,前沿實驗室也面臨激烈競爭,使外界難以完全區分安全疑慮與商業利益。
例如,部分專家就 Anthropic 的 Fable 模型是否應短暫禁用存在分歧。又如,中國開源權重模型 Kimi K3 發布後,OpenAI 戰略未來負責人 Dean W. Ball 曾表示,這類模型會衝擊前沿實驗室的商業模式,因此安全表態與經濟利益之間的界線並不總是清晰。
奧特曼在訪談中也表示,他認同不少安全疑慮有現實基礎,但也擔心相關論述被用來集中權力。他反對由少數機構以「過於危險」為由壟斷先進 AI 的取得和決策權。
目前,OpenAI 對政府直接製定模型規則一直較為謹慎,更傾向於由產業主導建立相對獨立的評估機構,對模型安全性及開發方的安全措施進行審查。報告認為,無論是推動產業自律,或是嘗試放慢開發速度,困難都在於讓美國前沿實驗室及中國競爭者形成一致行動。











