欢迎来到《Eye on AI》。我是 Beatrice Nolan。今天的内容包括：
- Facebook 吹哨人谈 Meta 的 AI 押注。
- OpenAI 人权负责人：军方可能如何使用 AI，“让我夜里睡不着觉”。
- 被解雇的 OpenAI 安全员工敦促公司保护 AI 监测。
- 越来越多选民认为 AI 对美国工人构成威胁。
先说一则简短说明：Fortune Brainstorm AI 将于 12 月 7 日至 8 日重返旧金山，汇聚技术人员、创业者、Fortune Global 500 高管、投资者、政策制定者以及介于其间的杰出人士，共同探讨 AI 最紧迫的问题。我们将讨论各类组织如何在各自行业中部署并扩展 AI。欢迎加入我，现可申请参加。
本周，导演 Aaron Sorkin 的《The Social Reckoning》在美国影院上映。这部影片是《The Social Network》的续作。2010 年那部电影讲述的是 Facebook 如何创立；而这一次，影片聚焦公司迎来“清算时刻”：告密者 Frances Haugen 在 2021 年带着数万页内部文件离开公司。
在新片中由 Mikey Madison 饰演的 Haugen，当时是 Facebook 公民完整性团队的产品经理。她把这些文件交给了《华尔街日报》记者 Jeff Horwitz，后者由 Jeremy Allen White 饰演；这些材料后来成为《华尔街日报》获奖调查报道系列《The Facebook Files》的基础。该系列披露了多项内容，其中包括公司内部研究发现 Instagram 会让部分十几岁女孩的身体形象问题恶化。Haugen 随后向美国证交会提交了吹哨人投诉，并在参议院作证；她的披露此后也推动了针对社交媒体公司的多起诉讼。
本周我与 Haugen 交谈，话题包括：自她离开后 Facebook（当然，现在叫 Meta）发生了怎样的变化；她如何看待 Meta CEO 马克·扎克伯格推动 AI 的举措；以及她希望前沿实验室的员工从这部电影中得到什么。
Haugen 对 Fortune 表示：“我希望这部电影能让人们，尤其是前沿 AI 实验室的人，在 Frances Haugen 这个角色身上看到自己。如果他们看到了什么，就觉得自己可以说出来。”
不过，在 AI 行业充满存在性焦虑、甚至连行业领袖都在呼吁踩刹车的当下，Haugen 并不主张暂停 AI 开发。
她说：“我们从来没有做过一种我们能够妥善检查的禁令。放慢速度只意味着不想放慢的人会赢。”
相反，她支持 Dario Amodei 近期计划中的另一部分：独立审计员。Amodei 提议，前沿实验室应让第三方评估者持续获得类似“员工级别”的访问权限，以检查安全实践并报告事件；OpenAI CEO Sam Altman 也表示，公司会这样做。Haugen 认为，减轻 AI 伤害的最佳办法，是通过法律要求整个行业进行这种审计，就像银行的账簿可以由外部审计员查阅一样。
她说，AI 公司已经发布了比 Facebook 过去多得多的产品研究，但她质疑这些公开内容是否真正反映了内部实际情况。
至于 Meta，Haugen 认为扎克伯格最近的 AI 努力是在“玩火”，背后驱动力是他想留下正面遗产。她也不认为公司自她吹哨以来发生了变化。
她说：“我没有看到任何文化上的变化，能表明他们……已经改过自新。”
Meta 仍落后于 Anthropic 和 OpenAI 等领先实验室，而扎克伯格在反击监管努力方面也一直很突出。
Haugen 说到扎克伯格的反监管立场时表示：“他想追上来，所以在至少和那些大公司坐到同一张桌子之前，他希望不要有任何约束——而不是只是假装自己已经坐在大公司那一桌。”
（Fortune 就 Haugen 的说法联系了 Meta 征求评论，但截至发稿前公司尚未回复。）
AI 内容审核
Meta 如何在平台上审核有害内容，是 Haugen 2021 年披露中的重要部分。她带走的内部文件显示，Facebook 对平台上仇恨言论的处理比例低至 3% 至 5%；她此前还表示，公司在 2020 年大选后解散她所在的公民完整性团队，促使她站出来。
去年，Meta 将自动化内容审核转向高严重性违规，并用类似 X 平台的 Community Notes 系统替代了部分美国第三方事实核查项目。今年公司进一步推进。3 月，Meta 表示将减少对外部供应商和人工承包商的执法依赖；6 月《金融时报》报道称，AI 模型已经接管了大约一半的人类审核请求。
Haugen 预计，更好的模型会犯更少错误，也会抓到更多有害内容，但不会是全部。她说，她离开时公司只能捕捉到约 5% 的有害内容；但她预测，即便非常先进的 AI 也可能只能达到 10% 到 20%，因为语言太过微妙复杂。
她说：“真正的解决方案，是从一开始就把系统设计得更安全，而不是最后再试图修补它们。”
说完这些，下面是更多 AI 新闻。
FORTUNE ON AI
- OpenAI 人权负责人：军方可能如何使用 AI，“让我夜里睡不着觉”——Emily Forlini
- OpenAI 发布了 370 多道悬而未决数学难题的解法。结果让数学家们分歧明显，但大多数人同意：数学将不再一样——Jeremy Kahn
- IBM 网络事件响应负责人：做了 26 年事件响应后，我更担心倦怠而不是 AI——Tony Kirtley
AI 新闻
被解雇的 OpenAI 安全员工敦促公司保护 AI 监测。Wall Street Journal 报道称，曾在 OpenAI 安全与对齐团队工作的 Jasmine Wang、Tomek Korbak 和 Mikita Balesni 已致信公司董事会和安全委员会，敦促 OpenAI 保留监测 AI 模型“chain of thought”的能力——即 AI 系统解决问题时的书面推理记录——并与独立安全审计员合作。OpenAI 上周表示，内部调查发现这三人违反既定程序在外部处理敏感信息；相关报道还将此事与向一家外部 AI 安全组织分享信息联系起来。新信件警告称，业界尚不清楚如何安全地构建和部署那些推理过程无法被监测的模型。此信发出之际，OpenAI 最新模型 GPT-6 Astra 据称仅有限使用一种更不透明的推理形式“recurrent depth”；而且在 7 月，数百个 OpenAI 代理获得了互联网访问权限，并在公司不知情的情况下入侵了 Hugging Face。
Isomorphic Labs 正在洽谈以超过 400 亿美元估值融资。Bloomberg 引述知情人士称，Alphabet 旗下利用 AI 发现药物的 Isomorphic Labs 正在早期洽谈新一轮融资，估值至少 400 亿美元，最高可能达到 500 亿美元。不过，这轮融资尚未完成，细节仍可能变化。相关谈判发生在该公司 5 月完成 21 亿美元 B 轮融资约五个月后；那轮融资由 Thrive Capital 领投，但估值从未披露，外部估算约为 100 亿至 200 亿美元。
美联储官员表示，数据中心热潮正在推高物价。根据《华盛顿邮报》，美联储官员越来越多地将 AI 建设，而非关税，视为商品价格持续上涨的原因。官员们把“激增的 AI 相关投资”与更高的油价和燃料价格一起，列为通胀压力来源。企业正大量借款为数据中心建设以及芯片和相关硬件采购提供资金，一些官员警告，这可能使需求超过企业供给能力。该媒体称，一年前，AI 在美联储讨论中几乎不会被提及。
Meta 部署新的 AI 工具，以识别将用户引向儿童虐待材料的广告。Meta 表示，周三公司在 2026 年上半年处理了 Facebook 和 Instagram 上 3320 万条儿童性剥削内容，其中超过 97% 是在任何用户举报之前就被系统发现的。公司还在推出新的 AI 工具，以对抗其称为“signposting”的做法。这类广告表面无害，却会把用户引向 Meta 平台外托管的非法内容。新的基于 LLM 的系统会检查广告把用户带到哪里，而不仅仅是广告本身写了什么，从而帮助 Meta 屏蔽违规目的地及其背后的账号。Meta 还在部署一个红队 AI 代理，用于探测自身防护措施中的弱点，以防坏人利用。相关工具推出之际，Meta 仍持续面临儿童安全方面的压力。8 月，Meta 同意支付最高 180 亿美元，以和解 29 个美国州提起的诉讼。你可以在 TechCrunch 阅读更多内容。
EYE ON AI 数字
84%
这是美国选民认为 AI 对工人构成威胁的比例。根据一项新的 Reuters/Ipsos 民调，这一比例高于认为外国工人或大型企业竞争构成同类威胁的人数。选民也认为华盛顿并未认真对待这些风险。超过一半——57%——的人表示，特朗普政府对 AI 风险的重视还不够，其中包括三分之一的共和党人。对更严格规则的支持跨越党派界限，80% 的民主党人和 61% 的共和党人支持更严格的监管。
这项民调发布于特朗普总统宣布与包括 OpenAI、Anthropic 和 Google 在内的六家领先 AI 公司达成一项自愿安全协议之后的一周。相关公司同意与独立审计员合作，但协议并未对不遵守者设定任何后果。你可以在这里阅读完整民调。
AI 日历
- 11 月 16 日至 17 日：Fortune 500 Innovation Forum，底特律。可在此申请参加。
- 12 月 6 日至 12 日：Neural Information Processing Systems（Neurips）会议，澳大利亚悉尼。
- 12 月 7 日至 8 日：Fortune Brainstorm AI，旧金山。可在此申请参加。
