Heron icon

Heron

Heronは、AIエージェントとLLM API向けの受動的オブザーバビリティツール。SDK変更やインパクトパスのプロキシなしで、ネットワーク通信からターンやツール呼び出し、LLM連携を復元します。

Heron

概要

Heron は、AI エージェントと LLM API 向けの受動的オブザーバビリティツールです。SDK、プロキシ、またはインパスの計測を追加せずに、ネットワークトラフィックからエージェントのターン、ツール呼び出し、LLM のやり取りを再構成し、パフォーマンスを確認できます。

この製品は、トラフィックがすでに復号済みであるプロバイダー側の導入、または `.pcap` 再生、ライブインターフェースキャプチャ、cloud-probe からの ZMQ 取り込み、ホスト上の TLS キャプチャ向けの実験的な Linux eBPF ソースといった対応キャプチャモードを想定して設計されています。ホームページでは、オブザーバーをリクエスト経路の外に置いたまま、エージェントワークロードの挙動を理解する手段として位置づけられています。

Heron は観測したトラフィックを運用ビューにも変換します。ライブメトリクス、トポロジーグラフ、トレーニングワークフロー向けのエクスポート可能なターンデータです。ドキュメントとホームページでは、OpenAI、Anthropic、Gemini、Claude Code、Codex CLI など関連するエージェントトラフィックでの利用が説明されており、クライアント側の統合ではなくトラフィックそのものから動作する点が強調されています。

主な機能

エージェントターンの再構成

複数回の呼び出しを行うエージェントの動作を、追跡可能なターンとして再構成し、プランナー、ツール呼び出し、結果、後続アクションを個別の HTTP リクエストではなくまとめて確認できます。

受動的なパフォーマンス監視

オフワイヤで再構成したトラフィックから、TTFT、レイテンシ、スループット、エラー率、エージェント別の割合などのライブ指標を表示します。

複数のキャプチャモード

ライブネットワークインターフェース、`.pcap` ファイル、ZMQ cloud-probe 入力、またはホスト上の暗号化キャプチャ向けの実験的な Linux eBPF ソースからトラフィックを取り込みます。

サービスのトポロジービュー

ワイヤ上の観測バイトからサービスのトポロジーを分類し、vLLM、SGLang、Ollama、llama.cpp、LiteLLM などのエンドポイントを含む推論フリートを有向グラフとして描画します。

SFT 向けターンエクスポート

対応する場合はツール呼び出し、結果、推論を保持したまま、エージェントターンやセッションを OpenAI 形式の messages JSONL としてエクスポートし、ファインチューニングのワークフローに利用できます。

エージェントと API のデコード

Claude Code と OpenAI Codex CLI 向けの名前付きプロファイルに加え、他のエージェント向けの汎用プロファイルをサポートし、OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini AI Studio のトラフィックをデコードします。

実用的なユースケース

  • エージェントの挙動をデバッグする

    再構成されたターンとして個々のエージェント実行を確認し、結果を生んだツール呼び出し、LLM メッセージ、結果の流れを把握できます。

  • API パフォーマンスを追跡する

    送信側クライアントを変更せずに、プロバイダー側トラフィックからレイテンシ、TTFT、スループット、エラー率を監視できます。

  • 事後分析

    `.pcap` ファイルからキャプチャしたトラフィックを再生し、過去のインシデントを分析したり、ライブイベント終了後にエージェントのタイムラインを確認したりできます。

  • サービスのトポロジーを把握する

    推論環境をサービスグラフにマッピングし、クライアント、プロキシ、vLLM や SGLang などのバックエンドがどのように関係しているかを把握できます。

  • ファインチューニング用データセットを作成する

    ツール呼び出しと結果を保持した構造化フォーマットで学習データを作りたいときに、観測したターンを OpenAI 形式の JSONL としてエクスポートできます。

Pros and Cons

Pros

  • SDK 変更やワークロード側の協力なしで、トラフィックを受動的に観測できます。
  • 個別の HTTP 呼び出しではなく、完全なエージェントターンを再構成できます。
  • ライブキャプチャ、pcap 再生、cloud-probe 取り込み、実験的な eBPF ソースをサポートします。
  • ライブメトリクス、トポロジーグラフ、エクスポート可能なターンデータなどの運用ビューを提供します。
  • pcap 再生の完了後もコンソールを利用可能にでき、確認作業やバッチワークフローに便利です。

Cons

  • 一部のキャプチャモードは、ライブインターフェースキャプチャの `CAP_NET_RAW` や、実験的な eBPF ソースの `CAP_BPF` など、Linux 固有の機能に依存します。
  • ホームページでは、eBPF キャプチャ経路は実験的でオプトインであると明記されています。
  • この製品は、すでに復号済みまたは観測可能なトラフィックを前提としており、クライアント側 SDK やインパスプロキシとしては説明されていません。

FAQ

Heron はどのようにトラフィックを収集しますか?

Heron は、すでに復号済みまたは取得済みのトラフィックを観測するよう設計されており、リクエスト経路上には入りません。ドキュメントでは、ライブインターフェースでのキャプチャ、`.pcap` ファイルからの再生、cloud-probe からの ZMQ 取り込み、そしてホスト上の暗号化キャプチャ向けの実験的な Linux eBPF ソースが案内されています。

Heron はどのモデルやエージェント API をサポートしていますか?

ホームページとドキュメントでは、OpenAI Chat Completions、OpenAI Responses、Anthropic Messages、Gemini AI Studio のサポートが説明されています。ホームページでは、OpenClaw、Claude、Codex、DeepAgents などのパフォーマンス計測にも対応すると記載されています。

Heron はオフライン再生やバッチ実行に使えますか?

Heron は `.pcap` ファイルを再生でき、再生完了後も API とコンソールを利用可能にできます。また、パイプラインが空になり次第 `--exit-after-drain` で終了することもできます。ドキュメントには、取り込んだタイムスタンプが保持期間より古いバッチや CI 実行向けの `--no-retention` も記載されています。

Heron の価格はいくらですか?

Heron は GitHub リポジトリであり、サイトには Heron 自体の別途の商用価格ページは記載されていません。提供された情報の中で価格に触れているのは GitHub のプランページのみで、Heron のライセンスやサポート形態とは関係ありません。

プラットフォームや導入上の制約はありますか?

ホームページでは、Heron は SDK 変更なし、プロキシなしで動作できると案内されています。また、ドキュメントでは Linux のライブキャプチャ、pcap 再生、cloud-probe 取り込み、実験的な Linux eBPF ソースが説明されています。いくつかの導入形態は Linux 固有またはオプトインのため、対応構成は選択するキャプチャ経路によって異なります。

Quick Facts

カテゴリ
開発者向けツール / AI オブザーバビリティ
主な用途
エージェントと LLM API トラフィックの受動的監視
導入スタイル
プロバイダー側またはホスト上でのキャプチャ、SDK 変更不要
対応ソース
ライブインターフェース、`.pcap`、cloud-probe ZMQ、実験的な Linux eBPF
ソースドメイン
github.com
プロジェクト種別
オープンソースの GitHub リポジトリ

Heronの代替品

AakarDev AI icon

AakarDev AI

AakarDev AIは、AIプロバイダーのアクセス管理、プロジェクト別設定、ログ、分析を1つのダッシュボードで管理できるチーム向けツールです。BYOKに対応し、OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AIをサポートします。

ByteAsk icon

ByteAsk

ByteAskは、C/C++向けのターミナル起点AIコーディングエージェント。リポジトリを編集し、コンパイラやデバッガ、サニタイザ、テストで変更を検証してから差分を表示。無料枠あり。

PromptScout icon

PromptScout

PromptScoutは、ChatGPT、Gemini、Google AI Overviews、Perplexityで自社や競合がどう言及されるかを追跡し、ソース分析とサイト監査を組み合わせて、次に直すべき内容・訴求・サイト対応を判断できます。

CreateOS Sandbox icon

CreateOS Sandbox

CreateOS Sandboxは、FirecrackerマイクロVM上でコードやエージェントのワークロードを実行できる分離型コンピュート環境です。SDK、CLI、MCPで制御可能。

Sleek Analytics icon

Sleek Analytics

Sleek Analyticsは、Cookieバナー不要で導入も簡単なプライバシー重視のWeb解析ツール。リアルタイム訪問者追跡、Core Web Vitals、収益アトリビューションに対応。

hob icon

hob

hobは、エージェントのセッション、ターミナル、履歴、後続作業を、既存のツールやプロバイダーに合わせて整理できる独立したコーディングエージェント向けワークスペース。ローカルでの制御を重視する開発者に最適。