旧金山，10月28日 /PRNewswire/ -- Continuum AI 今日宣布推出 Orca Connect，这是 OrcaRouter 上的一项新功能，可将本地托管的 AI 模型在数秒内转换为全球可访问的 API。开发者现在可以把个人 GPU、工作站和本地部署服务器连接到 OrcaRouter 的统一 AI 基础设施，使本地推理能够从任何地方访问，且平台成本为零。

随着开源 AI 模型变得越来越强大、消费级 GPU 也更有能力，开发者正越来越多地在自己的硬件上运行复杂模型。然而，远程访问这些模型、将其与 AI 代理集成，或在团队之间共享推理资源，传统上都需要复杂的网络配置、基础设施管理和安全设置。

Orca Connect 消除了这些障碍。

主要功能

• 即时全球 API 访问：使用单个 OrcaRouter API 密钥，即可将本地运行的模型转换为可远程访问、兼容 OpenAI 的 API。
• 零平台费用：由用户自有硬件提供的推理服务通过 OrcaRouter 完全免费。只有明确启用的托管模型回退才会产生使用费用。

Orca Connect 还引入了仅限本地使用的 API 密钥、可配置的云端回退策略以及支出上限，让开发者能够精确控制模型运行位置，以及何时可以使用云资源。请求会通过 OrcaRouter 转发，而推理仍在用户选定的硬件上进行，除非明确授权使用云端回退。

让 AI 基础设施更普及

Orca Connect 代表着 OrcaRouter 朝其开放、去中心化 AI 基础设施生态愿景迈出的又一步，在这一生态中，开发者既能保留对算力资源的所有权，又能享受云平台带来的可访问性和互操作性。

OrcaRouter 并不是要求开发者在本地推理和托管 AI 服务之间二选一，而是将两者整合到一个统一的 API 中。

“你的 GPU。你的云。你的规则。”

可用性

Orca Connect 现已上线，所有 OrcaRouter 用户均可免费使用。了解更多：https://www.orcarouter.ai/solutions/orca-connect

关于 Continuum AI

Continuum AI 是一家 AI 研究和基础设施公司，开发 OrcaRouter 和 OrcaCyber。公司的使命是通过统一推理基础设施、智能路由和专用 AI 模型，让先进人工智能更易获取、更安全、更开放。

媒体联系：

SOURCE OrcaRouter