AI agents正开始在许多高科技办公场景中超过人类员工，而且它们也更难监控。

AI安全与治理初创公司Opsin周四宣布，已融资2100万美元，以应对这一趋势。随着企业员工把来自OpenAI、微软等公司的AI agents接入越来越多的工作流程，这家公司正帮助企业管理这批可能带来风险的新“闯入者”。

对于非技术员工来说，部署agents——这种基于AI、能够自主完成任务的软件——从未像现在这样容易。随着员工把这类软件接入公司的工作、代码和数据库，他们可能会逐渐失去对AI实际在做什么的掌握。

Opsin首席执行官兼联合创始人James Pham告诉Business Insider，当他意识到安全担忧正在拖慢AI应用时，他决定是时候扩大公司规模了。

“agents其实比你想象的更像人，”Pham说，“原因在于，你并不了解一个人脑子里在想什么，但你可以通过他们的行为来判断。”

Opsin的目标是提供一个全面视图，帮助企业了解AI agents在组织内部到底在做什么，以及这些行为可能带来的风险。SYN Ventures和Race Capital领投了这轮融资。该公司目前约有20名员工，这笔资金将用于扩充销售和工程团队。

安全专业人士需要清理AI agents带来的混乱

Pham是MIT校友，他与联合创始人Oz Wasserman曾在Abnormal Security共事，两人都于2022年离开该公司。决定创业时，Pham说他们采访了数百人，以了解企业引入AI时最担心什么。

敏感数据问题最为突出。Pham说，几乎每个人都提到，AI agents可能会访问并滥用个人或机密信息。

如今，Opsin帮助客户显示agents在哪些地方活跃、它们访问了哪些工具和数据、最初被设计来做什么，以及哪些agents可能需要清理。随后，该公司还会持续监控企业工作环境、观察agents，并标记风险行为。

“归根结底，关键都在于用户的行为、agent的行为，”Pham说。

他说，即便是在技术能力相对没那么强的公司，agents的规模也让一些客户感到震惊。Pham表示，在Opsin服务的一家公司里，一名首席财务官创建的agent无意中让其他员工获得了财务信息的最高级别访问权限。

AI的网络威胁可能带来繁荣

网络安全行业一直处于高度活跃状态，而agents的增长又为这股热潮添了一把火。为Opsin提供支持的SYN Ventures网络安全投资人Glenn Chisholm告诉Business Insider，随着企业使用更多AI产品，黑客也会找到更多目标。

“做这件事的人越多，攻击者就越容易获得访问权限并实施攻击，”Chisholm说。

网络防御类股票今年大幅上涨，Chisholm说他看到风险投资也在增加。Anthropic和OpenAI都在积极招聘网络安全人才。

Opsin希望能让企业在使用Microsoft Copilot、ChatGPT Enterprise以及其他产品时感到更安全。Chisholm对该行业适应AI持乐观态度。

“未来几年，我们要做的是学会如何最大化利用它，而不是一味害怕这个概念本身，”他说。