Edgee Token Compression V2

EdgeeはCompression V2を、既存のAPIキーとプランで利用でき、コード変更なしで導入できるドロップイン型のCLIラッパーとして説明しています。完全なインストール手順や認証手順は提供されていないため、セットアップの詳細は製品ドキュメントで確認してください。

3つの技術は、ツール結果の圧縮、ツールサーフェスの削減、出力の簡潔化という、個別に切り替え可能な設定フラグとして提供されます。出力の簡潔化には、ライト、ミディアム、ハードのレベルがあります。

ツール結果の圧縮では、技術的な内容を保持しながら、ツール結果の冗長な定型部分を削除します。ツールサーフェスの削減では、タスクに基づいてモデルに表示するツール定義を厳選しますが、IDEでは引き続きツールセット全体を公開できます。出力の簡潔化では、モデルの応答の冗長さを削減します。

本番環境の数値は、Edgeeのアクティブな顧客全体を対象とした30日間の移動集計で、圧縮のみの場合にトークン料金が15～20%削減されたことを示しています。公開されているSWE-bench Liteの結果は別の管理されたベンチマークであり、3つの技術をすべて使用した場合に、1セッションのトークン数が18,420から9,210へ、つまり50%削減されました。これはすべての環境に対する予測ではありません。

圧縮はコード指向のタスクを対象としており、モデルの観点では意味を損なわないものとして説明されています。ドキュメントによると、極端に短いプロンプトは圧縮の効果が小さく、ツール使用のスキーマは変更せずにそのまま渡され、Edgeeは判断に迷う場合に圧縮をスキップすることがあります。