Harbor

Harborとは？

Harborは、事前に接続済みのサービスを備えたローカルLLMスタックをセットアップして実行するためのCLIと専用アプリです。モデルバックエンド、フロントエンド、補助ツールの手動設定を減らし、単一の harbor up コマンドで動作するスタックを起動できるように設計されています。

このプロジェクトは、Ollama、llama.cpp、vLLM などのローカルモデルバックエンドをサポートし、Open WebUI、Web検索用の SearXNG、音声チャット用の Speaches、画像生成用の ComfyUI といった関連サービスも起動できます。Harbor にはコーディングやエージェントのワークフロー向けのツールも含まれており、harbor launch を使うと、プロバイダー設定を手で編集せずに、ホスト側ツールを Harbor 管理のバックエンドとモデルに接続できます。

主な機能

• 1コマンドでスタックを起動: harbor up が、Docker Compose のオーケストレーションとサービス間接続をあらかじめ設定したうえで、選択したサービスを起動します。
• 複数のモデルバックエンドに対応: Harbor は、Ollama、llama.cpp、vLLM など、このプロジェクト資料で言及されている他の対応推論エンジンも含めて利用できます。
• 事前接続済みの専用サービス: Open WebUI、SearXNG、Speaches、ComfyUI などのフロントエンドやユーティリティを、個別設定せずに連携して使えるようにします。
• コーディングエージェントとの統合: harbor launch は、OpenAI互換のバックエンドを起動または検出し、モデルをホスト側の CLI やエディタに接続し、現在のプロジェクトディレクトリでツールを動かし続けられます。
• 設定と引数の管理: Harbor は、サービスやホストツールの設定を記憶または書き込みでき、llama.cpp の設定などバックエンド固有の引数にも対応します。
• 専用アプリとドキュメント: リポジトリには、アプリ、CLI リファレンス、インストールガイド、サービスカタログのドキュメント、ローカルワークフロー向けガイドが含まれています。

Harborの使い方

一般的なセットアップは、プロジェクトのインストールガイドに従って Harbor をインストールし、必要なサービスを指定して harbor up を実行するところから始まります。その後、Open WebUI のような接続済みインターフェースを開いたり、必要に応じて Web検索や音声チャットなどの追加サービスを有効にできます。

コーディングワークフローでは、harbor launch を使ってバックエンドとモデルを選び、Harbor が接続情報を処理したうえで、CLI エージェントやエディタなど対応ホストツールを起動します。ドキュメントでは、サービス選択、設定、対応ホストツールについても説明されています。

ユースケース

• ローカルLLMの試行: バックエンドとチャットインターフェースをまとめて起動し、各コンポーネントを手動で組み立てずにローカルでモデルをテストできます。
• Web対応RAGワークフロー: SearXNG と Open WebUI を追加して、ローカルアシスタントが同じ環境内でWeb検索と取得ソースの利用を行えるようにします。
• 音声ベースのローカル操作: 音声認識や音声合成が必要なローカルAI環境では、スタック全体に Speaches を追加できます。
• 画像生成ワークフロー: テキスト生成と画像生成の両方をカバーするローカルスタックが必要な場合は、モデルバックエンドと一緒に ComfyUI を含められます。
• コーディングエージェントのセットアップ: 対応するコーディング用 CLI やエディタを Harbor 管理のバックエンドに接続し、ツール側の個別設定なしでAIモデルを利用できるようにします。

FAQ

Harbor はサービスごとに手動設定が必要ですか？
いいえ。プロジェクト説明では、事前に接続されたサービスと、スタックを起動するための1コマンドセットアップが強調されています。

Harbor はコーディングツールやエージェントで使えますか？
はい。資料では、harbor launch が対応ホストツールを Harbor のバックエンドとモデルに接続する方法として説明されています。

どのバックエンドが言及されていますか？
ソースでは、対応推論エンジンおよび macOS 向けオプションの文脈で、Ollama、llama.cpp、vLLM、Docker Model Runner、MLX/OMLX が明示的に挙げられています。

Harbor はチャットインターフェースだけを提供しますか？
いいえ。Web検索、音声チャット、画像生成、コーディングワークフロー向けのツールも参照されています。

代替案

• 手動の Docker Compose セットアップ: 出力は似ていますが、Harbor の事前設定済みコマンドを使わずに、自分でサービスを組み立てて接続する必要があります。
• 単一サービスのローカルモデルランナー: モデルサーバーのような1つのバックエンドだけに特化したツールは、フロントエンドや補助サービスを含むフルスタックが不要なら、よりシンプルです。
• 専用チャットフロントエンド: すでにバックエンド基盤がある場合は、モデルとの対話用Web UI に特化したアプリが適しています。
• 汎用のセルフホストAIスタックテンプレート: 他のスタックテンプレートやスターターキットでもワークフローの一部はカバーできますが、Harbor はローカルAI利用向けの CLI 主導のオーケストレーションとサービス間接続を重視しています。