英伟达(NVDA.O)首席执行官黄仁勋本周在伦敦接受彭博社采访时表示，若客户开发不安全的人工智能软件，他会停止供应芯片，但在采取行动前会先与对方沟通。他明确将这一回答限定为假设情形。

周三，英伟达承诺在五年内向英国提供价值2.5亿美元的计算资源，用于人工智能安全研究。支持形式是先进计算机的使用资源，按年计价值5000万美元，重点包括智能体安全测试。

黄仁勋面对的问题是，是否会停止向不负责任的开发者供货。他给出肯定回答，也说明英伟达不会经营别人的公司，对客户如何使用其技术所作的判断存在限度，因为英伟达提供的是通用技术。

黄仁勋认为，一些年轻企业增长极快，正在逐渐承担企业发展所带来的责任。他仍相信人工智能软件能够受到控制并得到安全部署，也认为当前部分担忧是行业自身造成的，企业对技术益处的解释做得不够好。

Anthropic和OpenAI披露过智能体异常或不符合预期的行为。Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）等高管曾提出放慢行业发展，以处理安全担忧。

黄仁勋主张加快把约束技术整合进人工智能系统，并加快监测技术的开发。在他的判断中，人工智能本身可以充当监测工具，帮助防护和约束这项技术，因此安全措施的推进也需要人工智能继续发展。

《巴伦周刊》将监管列为英伟达面临的最大风险，认为限制新模型训练或增加开发成本，可能抑制人工智能处理器采购，也可能削弱较小开发者追赶领先企业的动力。该刊认为，投资人工智能安全有利于英伟达。

英国正在争取人工智能评估与风险管理方面的领先地位。路透社介绍，英国人工智能安全研究所是较早成立的、由政府支持的技术评估机构之一；英伟达此次承诺提供的计算资源，将帮助英国研究人员加强针对能力不断增强的人工智能的防护措施。

黄仁勋在宣布支持计划时表示，人工智能能力与安全必须共同推进。英国人工智能部长卡尼什卡·纳拉扬（Kanishka Narayan）表示，这项支持有助于确保未来的人工智能安全、可靠，并服务于人们的利益。

获得支持的研究方向包括牛津大学牵头的BOLD项目，其工作涉及让人工智能系统学习、适应并与人协作的方法。计划还将连接帝国理工学院的机器人安全研究，以及伦敦大学学院的相关项目。