OpenAI高管称军方如何使用AI“让我夜不能寐”
Fortune
49分钟前
Ai 焦点
OpenAI负责人权与负责任部署的Sarah Yager表示,她担心军方会如何将AI用于目标识别和自主武器。她说,OpenAI在与美国军方签约后接触她,她也在努力推动模型对《日内瓦公约》等国际规则作出恰当回应。
有帮助
No.帮助

早上好。有人和我一样觉得 Mistral 给其新AI模型起的新名字很有意思吗?

我算是它的粉丝,这不只是因为我有两只法国斗牛犬,也同样值得拥有这样的称呼。

十年前,我们还会给新的消费科技产品取人名;而“智能时代”在这方面就没那么有创意了。不过情况正在变化:OpenAI今年早些时候开始在新模型后面加上拉丁语名称(Sol、Terra、Luna等),Anthropic自2024年以来也一直偏爱给模型的“配置档位”起艺术化名字(Fable、Opus、Sonnet、Haiku)。

不过,没有什么能比得上谷歌的 Nano Banana。为 Naina Raisinghani 点赞。

以下是今天的科技新闻。——Andrew Nusca

有想法?建议?独家线索?给我发消息。

头条故事

OpenAI高管称,军方可能如何使用AI“让我夜不能寐”

全球各国军队正迅速将AI纳入作战流程,并开发无人机、机器人等新武器和自主系统。

OpenAI首位人权与负责任部署负责人 Sarah Yager 表示,这让她感到担忧。

“每个人都非常担心,而且这种担心是有道理的,”Yager周二在纽约市举行的 ScaleUp:AI 会议上说。“这让我夜不能寐:‘军方会如何将AI用于目标识别?自主武器又会怎样?这一切最终会走向何方?’”

Yager于6月加入OpenAI。现在,她有机会从这家全球最强大的AI公司之一内部,去面对这些棘手问题。

“我一直想进入一些地方,说服那些并不一定把人权视为首要理念的人,”Yager说。

在OpenAI于2月底与美国军方签署合同、在保密环境中部署先进AI系统后不久,公司便向Yager发出了这份工作邀请。此项备受关注的交易,紧随五角大楼与OpenAI竞争对手 Anthropic 公开闹翻之后。Anthropic希望为军方如何使用其技术设置护栏;国防官员并不同意。

自加入以来,Yager已经在影响技术方向方面取得了一些成果。她能够直接与研究人员和工程师合作改进模型,例如确保模型对基本国际协议作出恰当回应,其中包括1949年二战后确立的《日内瓦公约》所规定的战争法。

但现实世界中的应用证明很棘手。例如,据CNN报道,今年早些时候,美国军方几乎基于一份不准确的AI生成情报报告,误将一艘中国军舰列为打击目标。

Yager表示,AI公司不应在“何为人性与道德”这件事上“重新发明轮子”。“社会已经在很多方面形成了共识,那就是人权。那应该是底线,”她说。“我不想让一家AI公司告诉我什么是好的。如果我们允许这个行业来决定什么是好的,那就会变成一场乱局。”——Emily Forlini

盲盒

“除非你亲自做过,否则你无法想象它是如何运作的。”

点击这里阅读完整故事。

速览

  • 波士顿动力聘请新任CEO:亚马逊前Alexa负责人 Rohit Prasad。
  • 苹果与LG合作推出家居产品。门铃、门锁、恒温器,样样都有。
  • 韩国近期银行黑客攻击是否使用了AI代理?官员正在试图查明。
  • Personal Agent Protocol:由Meta和Sierra与Shopify、Stripe、Walmart等共同制定的AI机器人与企业互动标准。
  • 据报道,中国的 DeepSeek 正在向宁德时代、腾讯等融资120亿美元。
  • FBI因数据泄露移除一名埃森哲承包商。据称数千名员工的数据遭到泄露。
  • Uber将以23亿美元收购 ezCater。这笔交易与面向企业客户的 Uber Eats 有关。
  • Lambda 正在融资最高40亿美元。这家即将IPO、获得英伟达支持的neocloud据称估值已超过140亿美元。

收尾一句

Mistral表示,其新AI模型 Le Chonk(抱歉)是“从零开始”训练的,使用了3800块英伟达 Grace Blackwell GPU,这些芯片部署在Mistral位于欧洲的数据中心。

这些AI芯片显然只是更大规模Blackwell GPU订单的一部分——更准确地说,是13800块GB300。Mistral今年3月公布了这笔订单,同时还宣布获得8.3亿美元(7.23亿欧元)债务融资。

那么,官方名称为 Mistral Large 4、也就是 ML4 的这款模型,训练硬件到底花了多少钱?考虑到每个英伟达 GB300 NVL72 企业机架包含72颗Blackwell芯片,按不同配置零售价约300万美元,这意味着 Le Chonk 的硬件成本大约为1.6亿美元——还不算电费。Le Chonk 确实名副其实。

打赏
$0
点赞
0
收藏
0
浏览量 17
HQYC提醒,请广大读者理性看待区块链,切实提高风险意识,警惕各类虚拟代币发行与炒作, 站内所有内容仅系市场信息或相关方观点,不构成任何形式投资建议。如发现站内内容含敏感信息,可点击“举报”,我们会及时处理。
提交
评论 0
最热
最新
还没有人评论哦~快抢沙发吧!
相关阅读
穆迪首次给予 Sky Protocol 发行人评级
Sky Frontier Foundation 表示,穆迪已给予 Sky Protocol B3 发行人评级,展望稳定。这是穆迪首次对任何稳定币协议给出评级;此前标普全球评级近期也给予 Sky Protocol B- 评级,使其成为目前唯一同时获得两家大型信用评级机构正式评级的稳定币协议。
PR Newswire
·2026-10-07 20:27:03
4
Edgescan推出Atomic,支持按需自主渗透测试
Edgescan宣布推出基于代理式AI的自主渗透测试能力Edgescan Atomic,可作为其持续安全平台的一部分运行,也可独立部署。公司称,该产品旨在弥补传统按排期进行渗透测试的不足,在两次计划内测试之间提供按需、持续、快速的攻击面验证。
PR Newswire
·2026-10-07 20:27:01
5
Keynova Group:Progressive在2026年第三季度移动保险评分卡中总排名第一
Keynova Group发布2026年第三季度半年期《移动保险评分卡》称,在美国12家最大汽车和财产保险公司中,Progressive在整体移动用户体验和移动网页端排名第一,Allstate则在移动应用端居首。报告还指出,保险公司正通过个性化节省方案、简化扩展保障流程和加强登录安全来提升移动端服务价值。
PR Newswire
·2026-10-07 20:27:00
5
美国退伍军人事务部选择CLEAR开展新试点 以现代化VA.gov上的退伍军人体验
CLEAR宣布,美国退伍军人事务部已将其安全身份平台CLEAR1纳入一项试点,旨在重塑退伍军人在数字和线下触点上的体验。该试点让退伍军人可在线或在指定退伍军人医疗中心创建或访问VA.gov账户,且验证为免费、可选。
PR Newswire
·2026-10-07 20:26:58
4
ICE来到镇上后,留下了疲弱的地方经济
明尼阿波利斯及其他美国城市在ICE移民执法行动后出现消费、客流和就业放缓。多项研究与地方数据指出,执法突袭会带来类似衰退的局部经济冲击,移民社区和本地小企业首当其冲。
CNBC
·2026-10-07 20:26:56
6
查看更多