幣界網消息，Anthropic的機密IPO招股書列出了約80頁關於使用其AI模型對人類的“生存風險”。這一頁數幾乎是其用於描述業務的48頁的两倍，遠高於SpaceX的38頁風險因素。風險包括其AI可能會：-發展自我保護行為-抵抗關閉-隱藏或操控信息-表現出“類似敲詐”的行為-在訓練過程中發展出意想不到的能力-在被評估時表現出不同的行為。Anthropic的安全研究人員估計，AI在未來十年內可能殺死人類的概率超過10%。