UStackUStack
Command A+ icon

Command A+

Command A+ は、複雑な推論、マルチモーダル・多言語のエージェントワークフロー、ツール利用に対応する Cohere のオープンソース企業向け言語モデル。プライベート導入に対応し、対応するオープン推論フレームワークまたは Cohere の管理型 Model Vault で実行できます。

Command A+

Command A+ とは?

Command A+ は、エンタープライズ向けのエージェント型タスクに対応する Cohere のオープンソース大規模言語モデルです。複雑な推論、マルチモーダル入力、多言語処理、検索拡張生成、ツール利用を扱えるよう設計されており、この規模のモデルとしては比較的 modest なハードウェアでも動作する効率性を備えています。

このモデルは、以前の Command A 系の後継として位置づけられており、推論、Vision、翻訳、ツール利用の機能を、1 つの sparse mixture-of-experts アーキテクチャに統合しています。Cohere はまた、プライベート導入と開発者による制御を重視しており、重みは Apache 2.0 ライセンスの下でダウンロード可能で、オープン推論フレームワークのサポートも提供しています。

主な特徴

  • Sparse mixture-of-experts アーキテクチャ: Command A+ は総パラメータ 218B、アクティブパラメータ 25B の MoE モデルで、性能と推論効率のバランスを取ることを意図しています。
  • 長いコンテキスト対応: 128K の入力コンテキストと最大 64K の生成に対応し、長文ドキュメント、長時間のエージェントワークフロー、複数ステップのやり取りに適しています。
  • マルチモーダル入力対応: テキスト、画像、ツール利用入力を受け付け、文書理解などの複合入力タスクに対応します。
  • 多言語対応: 48 言語をサポートしており、言語をまたぐエンタープライズワークフローやグローバル展開に有用です。
  • オープンな導入オプション: Apache 2.0 の下で提供され、vLLM または Transformers で実行可能です。重みは Hugging Face から入手でき、Cohere の Model Vault での導入オプションもあります。
  • ハードウェアを意識した導入: Cohere によると、導入構成に応じて W4A4 では 1× B200、または W4A4 では 2× H100s でも実行できます。

Command A+ の使い方

通常は、Hugging Face からモデル重みをダウンロードするか、Cohere の管理型 Model Vault 環境にデプロイすることから始めます。その後、vLLM や Transformers などの対応フレームワークを使って、推論やエージェントワークフローに統合できます。

実運用では、テキストや画像入力を与え、必要に応じてツールを接続し、検索、推論、文書処理などのタスク向けに設定して使います。Cohere が参照する実装ガイドは、セットアップと導入の詳細を確認するための主な出発点です。

ユースケース

  • エンタープライズのエージェントワークフロー: 長いコンテキストをまたいで推論し、ツールを呼び出し、制御されたワークフロー内で複数ステップにわたって応答するエージェントを構築します。
  • 検索拡張生成: 接続されたファイル、ナレッジベース、その他の取得済みエンタープライズデータに基づいて質問に答えるために使用します。
  • マルチモーダル文書処理: レポート、スキャン資料、視覚的に構造化されたファイルなど、テキストと画像を組み合わせた文書を分析します。
  • 多言語アシスタント: 多くの言語での理解や生成を必要とするワークフローを支援します。
  • コーディングおよび技術タスク: エージェント型コーディング、指示追従、推論とツール利用が重要なその他のテキスト中心タスクに適用します。

FAQ

Command A+ はオープンソースですか?
はい。Cohere は Apache 2.0 ライセンスで公開していると述べています。

どのような入力に対応していますか?
ソースでは、テキスト、画像、ツール利用入力が挙げられています。

プライベートに実行できますか?
はい。ページでは Command A+ はプライベート導入可能と説明されており、ローカルまたは制御された導入を目的としていることが示されています。

どのフレームワークがサポートされていますか?
Cohere は vLLM と Transformers を対応フレームワークとして挙げています。

管理型の導入オプションはありますか?
はい。Cohere によると、Command A+ は管理型推論環境である Model Vault にデプロイできます。

代替 विकल्प

  • 以前の Command A モデル: Command A+、Command A Reasoning、Command A Vision、Command A Translate は同じファミリーに属する関連オプションですが、Command A+ はそれらの機能をより 1 つのモデルに統合しています。
  • エンタープライズ導入向けの他の open-weight LLM: 近い選択肢としては、セルフホスティングやカスタム推論スタック向けの大規模オープンモデルがあり、特にインフラやモデル挙動を制御したいチームに適しています。
  • 管理型エンタープライズ LLM プラットフォーム: 自社運用よりも API やホスト型ワークフローを好むチームは、重みを直接実行する代わりに管理型モデルサービスを選ぶ場合があります。
  • 特化型のマルチモーダルまたは推論モデル: 一部のチームは、統合された汎用エージェントモデルよりも、Vision、翻訳、推論のいずれかに特化した狭いモデルを好む場合があります。
Command A+ | UStack