產品
我自己的產品 · 私人試行中
一個 AI 連線，服務每套客戶系統。
一個託管 AI 服務：讓我打造的系統只需一個連線就能使用 AI 模型，並為每位客戶設定上限與計費。
Modelvia 是我打造的軟體背後的 AI 層。各套系統不必各自持有 AI 帳戶，只要連接 Modelvia 一次。它為每個請求挑選合適的模型，讓每位客戶都待在自己的支出上限內，並記錄每個請求的成本。
- 適合
- 在自家軟體裡使用 AI、需要按客戶管理成本與上限的企業。
- 問題
- 每套 AI 系統都要有自己的模型帳戶、支出上限和用量紀錄，而且越來越不一致。
- 改變
- 一個連線，自動選擇模型，每位客戶有上限，每個請求都有成本紀錄。
每套 AI 系統都要重做的基礎工程。
每套使用 AI 的系統都需要同樣的基礎：模型供應商的帳戶、防止單一客戶花費失控的機制，以及準確到可以拿來開發票的紀錄。
每套系統各自重做一遍，既重複又容易出錯。漏掉一個上限或少了一筆紀錄，就會變成意料之外的帳單。
一個請求怎麼走。
連接一次
系統只要改掉網址和金鑰，就能把現有的 OpenAI 格式程式碼接到 Modelvia。
挑選模型
除非系統指定，Modelvia 會為每個請求挑選模型：快速省錢，或能力更強。
每個請求都有帳
每位客戶有自己的專案、金鑰和每月上限。超過上限的請求在執行前就會被拒絕，每個請求都留下成本收據。
用量入口網站。
每個客戶專案對照自己的上限，每個請求都能追溯到一張收據。
它能做什麼。
它是我所打造應用程式的共用服務，讓每套新的客戶系統一開始就有上限與紀錄。
一個連線
接受標準 OpenAI 格式和 Anthropic 格式的請求，現有程式碼只需換網址和金鑰。
自動選擇模型
三種模式：auto 自動、flash 快速省錢、max 使用能力最強的模型。
每位客戶的上限
每位客戶都有自己的專案、金鑰和每月支出上限。
每個請求都有收據
每個請求的成本事後都查得到，發票可以追溯到實際用量。
查看數字的入口網站
登入後可查看用量、金鑰、模型、團隊和帳務。
備份與還原
用量帳本以加密方式備份，並已測試過還原。
目前進度。
- 狀態
- 私人試行中，尚未開放公開註冊
- 收款
- 尚未開啟向客戶收款
- 執行環境
- 託管網路服務、API 和入口網站
- 我的角色
- 產品設計、開發與營運
怎麼管好成本與資料。
支出上限在請求執行前就會檢查，而不是事後。請求會送到為零資料保留而挑選的模型供應商。每個請求都留下成本紀錄，發票可以逐筆核對。
怎麼打造的。
- 閘道
- 託管的 Node 服務，帳本只有單一寫入者
- 帳本
- PostgreSQL，搭配加密備份
- 入口網站
- Next.js 網站，管理用量、金鑰和帳務
- 相容性
- OpenAI 格式與 Anthropic 格式的請求