Mercury 3 icon

Mercury 3

Mercury 3は、Inceptionのフラッグシップ拡散型大規模言語モデル。高速応答、推論、長文脈処理に対応し、OpenAI互換ワークフローでブラウザエージェント、教育、リアルタイム検索、カスタマーサポートなどに活用できます。

Mercury 3

Mercury 3の概要

Mercury 3は、推論と低レイテンシの応答を同時に必要とする本番アプリケーション向けの、Inceptionによる拡散型大規模言語モデルです。InceptionのMercuryポートフォリオにおけるフラッグシップモデルであり、モデル出力を待つ時間がエージェントの各ステップで積み重なる可能性のある、複数ステップのシステム向けに位置付けられています。

このモデルは100万トークンのコンテキストウィンドウを提供し、NVIDIA GPU上で毎秒1,068トークンを報告しています。Inception API Platformおよび複数の外部アクセス経路から利用でき、既存のLLMアプリケーションに組み込みやすいOpenAI互換APIを備えています。Inceptionが挙げるユースケースには、ブラウザエージェント、インタラクティブ教育、リアルタイム検索、カスタマーサポートがあります。

主な機能

拡散ベースの生成

モデルは、出力を1トークンずつ確定するのではなく、拡散ベースの粗い段階から細かい段階へ進むプロセスで生成し、本番ワークフロー向けの高速な推論を実現します。

高スループット推論

公開ベンチマーク値は、NVIDIA GPU上で毎秒1,068トークンです。サイトでは、商用GPU環境で毎秒1,000トークンを超える性能と説明されています。

長いコンテキスト

Mercury 3は100万トークンのコンテキストウィンドウに対応し、Mercury 2.5で報告されている26万トークンのコンテキストよりも大幅に大きな入力をアプリケーションから提供できます。

互換APIワークフロー

モデルはOpenAI API互換で、AISuite、LiteLLM、LangChainを通じて利用できます。既存アプリケーションとの接続に必要な変更を抑えられます。

複数のデプロイ経路

モデルはInception API Platformに加え、OpenRouter、Baseten、Vercelなどのサードパーティ経由でも利用できます。エンタープライズ向けの経路にはAWS BedrockとAzure Foundryが含まれます。

本番運用

エンタープライズ環境では、選択した契約内容に応じて、専用キャパシティ、オートスケーリング、設定可能なデータ保持期間、コンプライアンス管理、サービスレベル契約を利用できます。

ユースケース

  • ブラウザおよびウェブナビゲーションエージェント

    ブラウザ利用エージェントは、ナビゲーション、調査、ログ分析の各ステップでモデルを呼び出せます。応答が速くなることで、複数ステップのエージェントワークフロー全体で蓄積する待ち時間を短縮できます。

  • インタラクティブ教育

    チュータリングや教育関連の製品では、学生がすぐにフィードバックを必要とする場面で、会話型の音声アシスタンス、採点、ヒント、定義、適応型応答にモデルを利用できます。

  • リアルタイム検索

    検索システムは、ユーザーが利用を続けている間に文書を処理し、回答を返せます。Inceptionは、リアルタイム検索エージェントやスマートグラス体験などのアプリケーションを挙げています。

  • カスタマーサポート

    サポートシステムでは、チャット、音声、メールを通じた会話型応答にMercury 3を利用できます。応答の正確性とタスク完了が重要なワークフローにも対応します。

  • 本番LLMアプリケーション

    本番AIアプリケーションを構築するチームは、OpenAI互換APIを通じて接続したり、キャパシティ、スケーリング、ガバナンス、データ保持管理が必要な場合にエンタープライズ向けデプロイ経路を利用したりできます。

Pros and Cons

Pros

  • NVIDIA GPU上で毎秒1,068トークンという、公開されている高速な推論性能。
  • 大規模なプロンプトや複数文書のワークフローに対応できる100万トークンのコンテキストウィンドウ。
  • AISuite、LiteLLM、LangChainに対応したOpenAI API互換性。
  • Inception API Platform、モデルルーター、クラウドプラットフォーム、エンタープライズ向けデプロイ経路を通じたアクセス。
  • 専用キャパシティ、オートスケーリング、設定可能なデータ保持期間、コンプライアンス管理などのエンタープライズ向けオプション。

Cons

  • 公開されている性能値と品質値はベンチマークまたはパートナーによる報告結果であり、ワークロード、サービング構成、アプリケーション設計によって変わる可能性があります。
  • 出典には、モデルの制限、対応モダリティ、あらゆるタスクにおける出力の信頼性についての詳細な情報はありません。
  • ローンチ時の料金はプロモーション価格であるため、割引後の料金が恒久的に適用されるとは限りません。

FAQ

Mercury 3とは何ですか?

Mercury 3は、高速な応答と推論能力を必要とする本番アプリケーション向けに設計された、拡散型大規模言語モデルです。

チームはMercury 3にどのようにアクセスできますか?

Inception API Platform、OpenRouter、Baseten、Vercelから利用できます。エンタープライズ向けのデプロイ विकल्पにはAWS BedrockとAzure Foundryも含まれ、モデルルーターとしてはOpenRouterとModels.devも利用できます。

Mercury 3は既存のLLMスタックに組み込めますか?

Mercury 3はOpenAI API互換で、AISuite、LiteLLM、LangChainなどのライブラリを通じて利用できます。また、従来のLLMワークフローのドロップイン置換としても説明されています。

Mercury 3の料金はいくらですか?

公開されている標準価格は、入力トークン100万個あたり$0.20、出力トークン100万個あたり$0.70です。ローンチ時には50%割引が掲載されており、それぞれ$0.10と$0.35になります。キャッシュ済み入力トークンは100万個あたり$0.02、ローンチ割引適用時は$0.01と記載されています。

利用できるエンタープライズ管理機能は何ですか?

エンタープライズ向けデプロイでは、専用キャパシティ、オートスケーリング、コンプライアンス管理、設定可能なデータ保持期間、サービスレベル契約、サポートオプションに対応しています。エンタープライズページでは、プロンプトと出力は顧客データとして扱われ、トレーニングには使用されないと記載されています。

Quick Facts

カテゴリ
AIモデル / 開発者ツール
モデルタイプ
拡散型大規模言語モデル
コンテキストウィンドウ
100万トークン
公開速度
NVIDIA GPU上で毎秒1,068トークン
API互換性
OpenAI互換
主なワークフロー
ブラウザエージェント、教育、リアルタイム検索、カスタマーサポート