複数のプロバイダファミリーをまとめる単一ゲートウェイ
単一のベースURLからOpenAI、Anthropic、Googleにまたがってリクエストをルーティングしつつ、Claude CodeやCursorのようなアプリに必要なモデルファミリー制約は維持します。
IQ Routing
IQ Routingは、各リクエストを品質基準を満たす最安のモデル層へ振り分けるモデルルーティングゲートウェイ。チャットボット、RAG、エージェントループ、金融ワークロードに対応。
概要
IQ Routingは、OpenAI、Anthropic、Google形式のエンドポイント経由で大規模言語モデルを呼び出すアプリケーション向けのモデルルーティングゲートウェイです。チャットボット、RAGパイプライン、エージェントループ、金融ワークロードの前段に配置され、各リクエストを品質基準を満たす最安のモデルへ送ります。
この製品は、エージェントのコードパスを変更せずにモデル費用を削減するよう設計されています。サイトでは、既存のSDKとエンドポイントに組み込めるドロップイン層として説明されており、ルーティング判断はプロンプトの複雑さ、リアルタイムのコストおよびレイテンシ信号、さらにモデルやプロバイダ経路が失敗した場合のフォールバック処理に基づいています。
料金ページとドキュメントページには、3つのライブなプロバイダファミリー、BYOK運用、レスポンスキャッシュ、チーム別予算、監査ログ、さらにアラートや組織スコープのアクセス権などのプラン固有の制御が示されています。Enterpriseでは、オンプレやVPCといったデプロイオプションに加え、要請に応じたSOC2証跡パックなどのサポート資料も提供されます。
機能
複雑さを考慮したルーティング
各プロンプトを複雑さで分類し、リクエストにフラッグシップモデルが不要な場合はより安価なモデル層を選択します。いずれかの विकल्पが失敗した場合は即座にフォールバックします。
設定可能なルーティングエイリアスとモデル境界
auto、frontier、その他のルーティングモードなどのエイリアスを使って、探索範囲をどの程度広くするかを制御できます。さらに、preferred-modelとallowed-modelのリストで階層を制約できます。
4方向の請求可視性
入力、出力、キャッシュ、thinkingトークン別に支出を追跡し、1回のリクエストがなぜそのコストになったのかを示す詳細も確認できます。
繰り返しリクエストのための応答キャッシュ
完全一致および意味ベースの応答キャッシュにより、繰り返しのリクエストを二重請求から防ぎます。エージェントループ向けの会話スコープ付きキャッシュやストリーミング再生にも対応します。
予算管理とチーム制御
有料プランでは、チーム別予算、キー別上限、監査ログ、アラート、組織スコープのアクセス制御を適用できます。
利用例
複雑さが混在するエージェントループ
低複雑度の分類、検索、クリーンアップ、検証ステップを安価なモデルへ振り分け、ワークフロー上で最も強力なモデルが必要な部分にだけそれを割り当てます。
本番チャットボットとRAGパイプライン
チャットボットやRAGサービスの前段にIQ Routingを配置し、アプリケーションは単一のベースURLを使いながら、裏側でルーターがモデル選択を処理できるようにします。
チーム間のコスト管理
チーム別予算、監査ログ、組織スコープのアクセス制御を使って、共有環境で誰が何に使ったかを追跡し、請求履歴の確認を容易にします。
繰り返しプロンプトの処理
ゲートウェイの応答キャッシュにより、プロバイダへの再呼び出しなしで完全一致または意味的に同等な繰り返しを返せます。ユーザーが少し違う表現で同じことを尋ねる場合に便利です。
制御されたEnterpriseデプロイ
ゲートウェイをホスト型サービスとしてだけでなく、クラウド、VPC、オンプレ環境で動かす必要がある場合に、Enterpriseのデプロイオプションを採用します。
Pros and Cons
Pros
- Enterprise料金はカスタムのため、そのプランについては営業への問い合わせが必要です。
- ERP連携は、完全提供ではなくロードマップ上の項目として言及されています。
- アラートや組織スコープのアクセス制御を含む一部のコントロールは、有料プランに限定されています。
Cons
- 品質を維持しつつ、各リクエストを最安のモデルへ振り分けるよう設計されています。
- 既存のOpenAI形式またはAnthropic形式のエンドポイントの背後で動作するドロップインゲートウェイとして機能します。
- 応答キャッシュを使って、繰り返しリクエストの二重請求を回避します。
- トークン種別、チーム、モデル、リクエスト詳細ごとの支出を確認してレビューできます。
- BYOK設定を含むため、プロバイダ請求は顧客自身のアカウントに残ります。
FAQ
IQ Routingは何をするものですか？
IQ Routingは、OpenAI、Anthropic、Google形式のエンドポイントの前に配置され、各リクエストを品質基準を満たす最安のモデル層へ振り分けます。チャットボット、RAGパイプライン、エージェントループ、金融ワークロード向けに設計されています。
どのように統合しますか？
この製品はドロップイン型のゲートウェイとして設計されています。サイトによると、既に使用しているOpenAIまたはAnthropicのSDKの背後で動作し、OpenAI形式またはAnthropic形式のエンドポイントは1つのベースURLを指すだけで利用できます。
利用可能なプランは何ですか？
はい。料金ページにはFree、Team、Enterpriseの各プランが表示されています。FreeはBYOKのセルフサーブ、Teamは月額70ドルの月次請求、EnterpriseはオンプレまたはVPCデプロイに対応したカスタム年額料金です。
モデル利用に対してIQ Routingへ支払う必要がありますか？
ドキュメントでは、すべてのプランがBring Your Own Key方式であると説明されています。つまり、独自のプロバイダー認証情報を接続し、プロバイダーに直接支払います。請求関連のドキュメントでは、402レスポンスはBYOKキーのプロバイダー残高枯渇を示すとも記載されています。
キャッシュはサポートされていますか？
請求関連のドキュメントでは、プロバイダーに再度問い合わせることなく、完全一致または意味的に同等な再リクエストを返せるゲートウェイ応答キャッシュが説明されています。またサイトでは、測定された本番キャッシュヒットが約11ミリ秒で、追加費用なしで返されたとも記載されています。
Quick Facts
- カテゴリ
- AIモデルルーティングゲートウェイ
- 主な利用者
- チャットボット、RAGパイプライン、エージェントループ、金融ワークロードを構築するチーム
- 対応プロバイダ
- OpenAI、Anthropic、Google
- デプロイ
- クラウド。EnterpriseではオンプレまたはVPCデプロイもサポート
- 料金モデル
- Free、月額70ドルの月次請求のTeam、カスタムのEnterprise
- Webサイト
- iq-routing.com
IQ Routingの代替品
AakarDev AI
AakarDev AIは、AIプロバイダーのアクセス管理、プロジェクト別設定、ログ、分析を1つのダッシュボードで管理できるチーム向けツールです。BYOKに対応し、OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AIをサポートします。
ByteAsk
ByteAskは、C/C++向けのターミナル起点AIコーディングエージェント。リポジトリを編集し、コンパイラやデバッガ、サニタイザ、テストで変更を検証してから差分を表示。無料枠あり。
CreateOS Sandbox
CreateOS Sandboxは、FirecrackerマイクロVM上でコードやエージェントのワークロードを実行できる分離型コンピュート環境です。SDK、CLI、MCPで制御可能。
hob
hobは、エージェントのセッション、ターミナル、履歴、後続作業を、既存のツールやプロバイダーに合わせて整理できる独立したコーディングエージェント向けワークスペース。ローカルでの制御を重視する開発者に最適。
Ably Chat
Ably Chatは、カスタムのリアルタイムチャットアプリを構築できるチャットAPIプラットフォームです。ルーム単位のメッセージ、入力中表示、プレゼンス、リアクション、メッセージ更新に対応し、利用量ベースの料金も選べます。
Manta AI
Manta AIは、URLからアプリの挙動を把握し、回帰を検出し、スクリプトやセレクタ管理なしでテストを生成できる自律型Webアプリテストツールです。