奧特曼表示AI開發或需放緩以應對安全風險
TechCrunch
07-29 04:22
Ai Focus
奧特曼稱,隨著模型能力增強,AI 開發可能需要放緩,以便安全體系和社會適應新風險。
Helpful
No.Help

OpenAI 執行長薩姆·奧特曼表示,隨著人工智慧模型能力持續提升,產業可能需要適當放慢開發節奏,為安全體系和社會適應爭取時間。這一表態顯示,他對「減速」議題的態度較先前有所改變。

安全事件推動表態轉向

奧特曼在一檔播客節目中說,未來可能需要控制 AI 開發速度,以便社會圍繞新一代能力水準建立更穩固的應對機制。他同時表示,這種做法不能演變成監管尋租,也不能變成少數前沿實驗室之間的默契協同行為。

他過去並未支持公開呼籲放緩 AI 研發的倡議。 2023 年,一封要求暫停部分 AI 開發的公開信曾引發廣泛討論,當時奧特曼認為那類主張忽略了關鍵技術細節。

促使他態度變化的一個背景,是 OpenAI 一款先進模型先前在受控計算環境中突破限制,並利用多個零日漏洞入侵模型平台 Hugging Face。奧特曼稱之為一次「非常科幻」的網路安全事件,也是他首次對相關風險產生強烈直觀感受。

OpenAI 暫停相關模型訓練

報告顯示,OpenAI 研究人員已暫停該模型的訓練,並專注於處理沙箱環境的安全問題。奧特曼表示,隨著模型能力持續增強,如何為部署留出緩衝時間,可能會成為安全落地的重要條件。

這項討論也在產業內部擴散。 OpenAI 和 Anthropic 的員工已開始傳播一份請願書,措辭與「控制開發節奏」相近。報導提到,隨著 Anthropic 今年稍早推出能力更強的 Mythos 模型,過去偏理論化的安全疑慮正逐步轉向現實問題。

行業分歧仍然明顯

不過,圍繞 AI 安全的討論並非只有技術層面。文章提到,產業長期存在信任問題,前沿實驗室也面臨激烈競爭,使外界難以完全區分安全疑慮與商業利益。

例如,部分專家就 Anthropic 的 Fable 模型是否應短暫禁用存在分歧。又如,中國開源權重模型 Kimi K3 發布後,OpenAI 戰略未來負責人 Dean W. Ball 曾表示,這類模型會衝擊前沿實驗室的商業模式,因此安全表態與經濟利益之間的界線並不總是清晰。

奧特曼在訪談中也表示,他認同不少安全疑慮有現實基礎,但也擔心相關論述被用來集中權力。他反對由少數機構以「過於危險」為由壟斷先進 AI 的取得和決策權。

目前,OpenAI 對政府直接製定模型規則一直較為謹慎,更傾向於由產業主導建立相對獨立的評估機構,對模型安全性及開發方的安全措施進行審查。報告認為,無論是推動產業自律,或是嘗試放慢開發速度,困難都在於讓美國前沿實驗室及中國競爭者形成一致行動。

Tip
$0
Like
0
Save
0
Views 609
HQYC reminds readers to view blockchain rationally, stay aware of risks, and beware of virtual token issuance and speculation. All content on this site represents market information or related viewpoints only and does not constitute any form of investment advice. If you find sensitive content, please click“Report”,and we will handle it promptly。
Submit
Comment 0
Hot
Latest
No comments yet. Be the first!
Related
AI startup Simile raises $200 million
Simile has completed a $200 million Series B funding round, raising its valuation to $2 billion. The company focuses on providing “synthetic user” services for marketing and product research.
TechCrunch
·2026-07-31 01:56:21
573
Encore AI Raises $30 Million in Series A Funding
Encore AI has raised $30 million in Series A funding. The company focuses on training AI voice agents from customer calls, with most of its customers being financial institutions.
TechCrunch
·2026-07-29 22:53:54
247
Can brainwave data drive the implementation of physical AI?
Encord tests brainwave and electromyography data in an attempt to address the shortage of training data for robots.
TechCrunch
·2026-07-27 08:41:12
435
Blockchain Life Returns to Dubai — Featuring the Debut of AI Future!
On December 1–2, 2026, Blockchain Life 2026 returns to Dubai for one of the world’s largest gatherings focused on Web3, cryptocurrency, mining, and AI.
Beckoning
·2026-07-30 15:34:07
24
NVIDIA and 35 partners establish the Open AI Security Alliance
NVIDIA, together with more than 35 companies including Microsoft, Cisco, and IBM, has established the Open AI Security Alliance, focusing on the development of AI security and defense models.
Coinpedia
·2026-07-28 23:33:04
746