OpenAI联创John Schulman:AI对齐应成为公共科学,不能由少数科技公司主导
2026-11-18 19:19:15
币界网消息,OpenAI联创John Schulman在A16Z播客节目中表示,AI对齐不应成为少数几家科技公司的专属研究,而应发展为一门面向全球的公共科学,让更多人参与AI价值观的塑造,避免过度依赖少数公司的判断。随着递归自我改进(RSI)逐渐取得进展,AI已开始辅助模型研发。OpenAI首席研究官Mark Chen透露,AI研发流程已出现RSI加速效应的早期信号,目前进展约为25%至50%,但AI仍难以独立判断有价值的研究方向,尚未实现自主研发下一代模型。Mark Chen同时警告,随着模型自主性增强,若其目标与人类意图不一致,长时间运行可能产生意料之外的次级目标。不过,更强大的AI也有望反过来帮助研究人员监控模型行为、发现并修复对齐问题。John Schulman强调,AI对齐不仅是技术问题,也涉及由谁决定AI应遵循的价值观,用户和社会应拥有更多参与和塑造AI价值观的空间。
来源:互联网
本内容只为提供市场信息,不构成投资建议。
关注HQYC官方账号,及时关注最新动态









