BaseRT

BaseRTはBase ComputeによるApple Silicon向けLLMランタイムです。製品ページでは、Apple Silicon上で最速のランタイムとして紹介されており、自分のデバイス上でローカルモデルを実行するためのワンコマンドインストールの流れが示されています。

公開資料では、BaseRTはオンデバイス推論を中心に位置付けられています。モデルをローカルで配信し、コーディングエージェントのプラグインと組み合わせ、モデル実行を外部APIへのリクエスト送信ではなく自分のマシン上で完結させる構成です。研究ページでは、BaseRTはAppleハードウェア上のスループット向上を目的としたネイティブなMetalランタイムとして説明されています。

サイトの研究論文では、BaseRTが幅広いモデルファミリーと複数の量子化フォーマットをサポートするとされていますが、製品ページ自体は意図的に範囲が狭く、主にApple Siliconランタイムとローカルエージェントのワークフローを強調しています。そのためBaseRTは、Macハードウェア上でローカルなLLM実行を求める開発者やチームに最も適しているといえます。

Base Computeのエンタープライズ向け資料では、BaseRTは、自分のデバイス上でAIを運用する組織向けに、アプリ、制御、ルーティング、ポリシー、監視を含む、より広いオンデバイスAIスタックの一部として位置付けられています。公開ページには価格の詳細や完全な製品ガイドはないため、最も裏付けのある見方としては、BaseRTはローカルファーストのLLM構成の中核にある推論エンジンだということです。