Twigg icon

Twigg

TwiggはLLMの会話を保存し、選択したモデル向けにコンテキストを組み立て、対応プロバイダーへリクエストを振り分けるステートフルHTTP APIです。履歴を再送せず、モデルに縛られない永続チャットやツール連携アプリを開発できます。

Twigg

保存された会話に対応するステートフルLLM API

Twiggは、大規模言語モデルを使用するアプリケーション向けのステートフルHTTP APIです。ホスト型の会話保存、コンテキストの組み立て、モデルルーティングを組み合わせており、アプリケーションがチャットを作成して次のプロンプトまたはイベントを送信すると、完全なトランスクリプトを再送せずにストリーミングレスポンスを受け取れます。

チャットは1つのモデルに固定されません。Twiggは各ターンで選択されたモデル向けに保存済みコンテキストを準備し、対応するプロバイダーネットワークへリクエストをルーティングします。エージェントループとツール実行は引き続きアプリケーションが担当し、Twiggは会話台帳、プロバイダー向け変換、ストリーミングレスポンス、リクエストコスト情報を提供します。

機能

ステートフルな会話保存

一度チャットを作成し、チャットIDで後続のターンを指定します。Twiggが会話台帳を保存するため、リクエストにはクライアント側で管理するトランスクリプトではなく、最新のイベントを含めます。

コンテキストの組み立てと制御

Twiggは保存された会話を、選択したモデルのコンテキストウィンドウに収まるよう組み立てます。ドキュメントでは、設定可能なプロンプト、保存済みツール、コンテキスト予算、保持設定についても言及されています。

ターンごとのモデルルーティング

会話を1つのモデルに固定するのではなく、レスポンスリクエストごとにモデルを選択します。サービスは、選択したプロバイダー向けに組み立てたコンテキストを変換します。

ストリーミングレスポンスとrunデータ

レスポンスは、run識別子、コンテンツの差分、警告、ツール呼び出しの状態、使用量、コスト、終了状態を含む`text/event-stream`として配信されます。ドキュメント化された非ストリーミングレスポンスモードはありません。

アプリケーション制御のツールループ

アプリケーションは、同じresponsesエンドポイントを通じてプロンプトイベントとツール結果イベントを送信できます。Twiggは保留中のツール呼び出しを報告しますが、ツールの実行はアプリケーションが担当します。

コスト報告とrunの復旧

Twiggはモデルカタログを公開し、各リクエストのコストを記録します。べき等性キー、永続化された履歴、runの検査機能により、接続が切断された場合やプロバイダーが失敗した場合の復旧を支援します。

ユースケース

  • 永続的な会話アプリケーション

    会話をIDで永続化するチャットやサポートワークフローを構築します。アプリケーションは新しいユーザーイベントを送信し、Twiggは以前の台帳を保持して次のレスポンス向けにコンテキストを組み立てます。

  • モデル比較とプロバイダーの柔軟性

    1つの会話インターフェースを使用しながら、要件やプロバイダーの利用可能状況の変化に応じてリクエストするモデルを変更するなど、ターンごとに異なるモデルを選択できます。モデル名はTwiggのライブカタログから取得してください。

  • ツールを使用するエージェント

    ツールを独自のアプリケーションで実行するエージェントを実装します。Twiggはツール呼び出しをストリーミングし、結果のツール出力を受け付けますが、実行とその周辺のループはコード側で制御します。

  • 直接API連携

    製品SDKを追加せず、既存のHTTPクライアントをステートフルなモデルバックエンドに接続します。Bearer認証とServer-Sent Eventリーダーを使用して、増分出力を処理できます。

Pros and Cons

Pros

  • 会話履歴が基盤となるLLMプロバイダーの外部に保存されるため、アプリケーションが毎回トランスクリプトを再送する必要を減らせます。
  • リクエストごとにモデルを選択できるため、カタログ内のモデルやプロバイダーネットワーク間で会話を切り替えられます。
  • 選択したモデルのコンテキストウィンドウに合わせたコンテキストの組み立てを処理し、プロンプト、ツール、予算、保持に関する文書化された制御機能を利用できます。
  • ストリーミングされる`done`データには使用量とコストのフィールドが含まれ、runおよび履歴エンドポイントにより、中断後も保存済みの結果を確認できます。

Cons

  • ドキュメント化されたワークフローではAPIはストリーミング専用です。クライアントはHTTPとServer-Sent Eventsに対応する必要があります。
  • SDKがないため、HTTP APIに直接接続して連携を構築します。
  • ツールの実行とエージェントループの管理はアプリケーションが担当する必要があります。Twiggはツール呼び出しを報告して受け付けますが、実行はしません。

FAQ

Twiggとは何ですか?

Twiggは、HTTP APIを通じて提供されるホスト型のコンテキストストア、コンテキストアセンブラー、モデルルーターです。アプリケーションでチャットを作成して新しいイベントを送信すると、Twiggが会話を保存してコンテキストを準備し、ストリーミングレスポンスを返します。

Twiggの一般的な連携方法を教えてください。

`POST /api/v1/chats`でチャットを作成し、返されたIDを保持してから、`/responses`にプロンプトを送信します。各リクエストにはモデルと新しい入力のみを含めます。Twiggが会話履歴を保持するためです。レスポンスにはServer-Sent Eventsを使用するため、クライアントはストリーミングに対応している必要があります。

会話中にモデルを切り替えられますか?

はい。モデルはチャットに固定されず、リクエストごとに選択されます。TwiggはAnthropic、OpenAI、Google、xAI、Fireworks、OpenRouterにリクエストをルーティングできるとしています。リクエストで指定するモデル名は、ライブカタログから選択してください。

Twiggはツールを実行したり、エージェントループを管理したりしますか?

いいえ。Twiggはツールを実行しません。アプリケーションがエージェントループとツールを実行し、同じresponsesエンドポイントにツール結果を送信してストリームの読み取りを続けます。また、完了データにリクエストのコストと使用量を記録します。

Quick Facts

カテゴリー
開発者向けツール
製品タイプ
ステートフルLLM API
APIベースURL
https://api.twigg.ai
認証
Bearer APIキー
レスポンス形式
Server-Sent Events(`text/event-stream`)
プロバイダールーティング
Anthropic、OpenAI、Google、xAI、Fireworks、OpenRouter

Twiggの代替品

AakarDev AI icon

AakarDev AI

AakarDev AIは、AIプロバイダーのアクセス管理、プロジェクト別設定、ログ、分析を1つのダッシュボードで管理できるチーム向けツールです。BYOKに対応し、OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AIをサポートします。

CreateOS Sandbox icon

CreateOS Sandbox

CreateOS Sandboxは、FirecrackerマイクロVM上でコードやエージェントのワークロードを実行できる分離型コンピュート環境です。SDK、CLI、MCPで制御可能。

GitBot icon

GitBot

GitBotは、Claude Code、Codex、OpenCodeを活用した再利用可能なコーディングボットを作成できるローカルブラウザワークスペースです。永続スレッドと権限設定で、リポジトリ内の作業を効率化します。

Trigger.dev chat agent icon

Trigger.dev chat agent

Trigger.dev chat agentは、リフレッシュやクラッシュ、長時間の会話も維持できる、開発者向けの耐久性あるAIチャットバックエンドです。AI SDKのuseChatに対応し、ターンにタイムアウトがありません。

ByteAsk icon

ByteAsk

ByteAskは、C/C++向けのターミナル起点AIコーディングエージェント。リポジトリを編集し、コンパイラやデバッガ、サニタイザ、テストで変更を検証してから差分を表示。無料枠あり。

Epherem icon

Epherem

Epheremは、Lovable、Bolt、v0、Replit、Cursor、Claude CodeなどのAIコーディングツールで構築したWebアプリ向け静的セキュリティスキャナーです。アプリを実行せず、ソースファイルと依存関係を検査し、一般的なセキュリティミスを分類して修正案を提示します。