舊金山，10月28日 / PRNewswire / -- 今日宣布推出 Orca Connect，這是 OrcaRouter 上的一項新功能，可將本地托管的 AI 模型在數秒內轉換為全球可訪問的 API。開發者現在可以將個人 GPU、工作站和本地部署的伺服器連接到 OrcaRouter 的統一 AI 基礎設施，使本地推理能從任何地方訪問，且平台成本為零。

隨著開源 AI 模型變得越來越強大，消費級 GPU 也更有能力，開發者越來越多地在自己的硬體上運行複雜模型。然而，遠端存取這些模型、將其與 AI 代理集成，或在團隊之間共享推理資源，傳統上都需要複雜的網路配置、基礎設施管理及安全設定。

Orca Connect 消除了這些障礙。

主要功能

• 即時全球 API 访問：使用單一 OrcaRouter API 密鑰，即可將本地運行的模型轉換為可遠端訪問、兼容 OpenAI 的 API。
• 零平台費用：由用戶自有硬體提供的推理服務通過 OrcaRouter 完全免費。只有明確啟用的托管模型回退才會產生使用費用。

Orca Connect 還引入了僅限本地使用的 API 密鑰、可配置的雲端回退策略以及支出上限，讓開發者能夠精確控制模型運行位置，以及何時可以使用雲端資源。請求會通過 OrcaRouter 轉發，而推理仍是在用戶選定的硬體上進行，除非明確授權使用雲端回退。

讓 AI 基礎設施更普及

Orca Connect 代表 OrcaRouter 向其開放、去中心化的 AI 基礎設施生態願景邁出的又一步。在這一生態中，開發者既能保留對算力資源的所有權，又能享受雲平台帶來的可訪問性和互操作性。

OrcaRouter 并不是要求開發者在本地推理和託管 AI 服務之間二選一，而是將兩者整合到一個統一的 API 中。

「你的 GPU。你的雲。你的規則。」

可用性

Orca Connect 已經上線，所有 OrcaRouter 的用戶均可免費使用。欲了解更多訊息：https :// www.orcarouter.ai / solutions / orca-connect

關於 Continuum AI

Continuum AI 是一家 AI 研究和基礎設施公司，開發 OrcaRouter 和 OrcaCyber。該公司的使命是通過統一的推理基礎設施、智能路由和專用的 AI 模型，讓先進的人工智能更易於獲得、更安全、更開放。

媒體聯絡：

__BJW_BOLOKA_00001__