MolmoAct 2 icon

MolmoAct 2

MolmoAct 2は、実世界の操作向けに3Dで行動を推論するAi2のオープンなロボティクス基盤モデル。研究用にデータセット、評価成果物、コードを公開し、Hugging FaceのLeRobotとも連携。

MolmoAct 2

操作向けのオープンなロボティクス基盤モデル

MolmoAct 2は、実世界のロボット操作向けのAi2のオープンな基盤モデルです。元のMolmoActから大きく進化したものとして位置づけられており、3Dでの行動推論、オープンな研究成果物、物理環境での実用的な展開に重点を置いています。

ページでは、MolmoAct 2は個別タスクごとのファインチューニングなしで、すぐに幅広い実世界タスクに対応でき、前モデルより最大37倍高速だと説明されています。Ai2はまた、MolmoAct 2-Bimanual YAMデータセット、更新されたVLAパイプライン、そして5月28日の更新後には、研究者が調査、再現、適応できるようにモデルの完全なコードと学習データも公開しました。

MolmoAct 2が提供するもの

3Dでの行動推論

MolmoAct 2は、実世界のロボット操作向けの基盤モデルとして説明されており、行動する前に3Dの環境を推論するように作られています。

推論と行動実行

Ai2によると、このモデルは専用のアクションエキスパートと適応的な深さの推論を使用しており、推論を効率的に保ちながら、システムの行動計画の精度向上を意図しています。

公開された学習・評価成果物

このリリースには、モデル重み、データセット、評価成果物、更新されたVLAパイプラインが含まれており、研究者がホストされたエンドポイントを利用するだけでなく、システムを検証・再現できるようになっています。

コードと学習データの公開

5月28日の更新では、ファインチューニングスクリプト、学習時に使用したすべてのデータセット、評価ロールアウト、トークナイザー学習レシピを含む、完全なコードと学習データが公開されたとされています。

LeRobotとの統合

Ai2は、MolmoAct 2の推論と学習がHugging FaceのLeRobotプラットフォームに統合されており、そのエコシステム内で使いやすくなっていると述べています。

大規模な付随データセット

このリリースにはMolmoAct 2-Bimanual YAMデータセットが付属しており、720時間を超えるデモを含む、これまでに公開された中で最大のオープンソースの両腕卓上操作ロボティクスデータセットとして説明されています。

MolmoAct 2の適用領域

  • 3D操作研究

    物体の位置、奥行き、そして行動の順序を3D空間で推論してから実行する必要がある操作ポリシーの研究にこのモデルを使用します。

  • 再現性とベンチマーク

    公開データセット、評価成果物、コードを使って公開済みシステムを再現し、新しいアプローチをベースライン版と比較するために使用します。

  • ハードウェアやタスクへの適応

    新しいロボットハードウェアや異なるタスク設定に操作挙動を適応させるための出発点としてこのモデルを使用します。Ai2は、このリリースがカスタマイズ可能なオープン提供であると述べています。

  • LeRobotベースの実験

    LeRobotとの統合を利用して、フルスタックを再構築することなく、既存のHugging FaceベースのロボティクスワークフローにMolmoAct 2を組み込みます。

Pros and Cons

Pros

  • 重み、データセット、評価成果物、コードを含む、研究用途向けに完全にオープンなリリースです。
  • 行動前に3Dで推論するよう設計されており、これは操作タスクに必要な中核能力です。
  • リリースによると、個別タスクごとのファインチューニングなしで実世界のタスクをそのまま扱えます。
  • 5月28日の更新では、ファインチューニングスクリプト、学習データ、評価ロールアウトを含む、幅広い再現性確保のための資料が追加されています。
  • 推論と学習はHugging FaceのLeRobotプラットフォームと統合されています。

Cons

  • 収集されたテキストには完全な技術レポートが含まれていないため、セットアップ、デプロイ、制約の詳細はここでは不完全です。
  • 提供されたソース内の価格ページは404を返すため、オープン公開という位置づけ以外に、利用可能な価格やライセンスの詳細はありません。
  • 公開されている情報は操作と具身推論に重点が置かれており、幅広い汎用ロボティクスワークフローや非ロボティクス用途は示されていません。

FAQ

MolmoAct 2とは何ですか?

MolmoAct 2は、実世界のロボット操作向けの完全にオープンなロボティクス基盤モデルとして紹介されています。ページでは、重み、データセット、評価成果物、更新されたVLAパイプラインが研究者向けに公開されており、調査や発展に利用できるとしています。

どのようなタスク向けに設計されていますか?

ページによると、MolmoAct 2は個別タスクごとのファインチューニングなしで実世界のタスクをそのまま扱えるように設計されており、実行前に3Dで推論するよう作られています。一般的なチャット製品や視覚製品というより、ロボット操作向けのモデルとして位置づけられています。

一般公開されているものは何ですか?

Ai2によると、モデル本体、MolmoAct 2-Bimanual YAMデータセット、更新されたVLAパイプラインが研究者向けに公開されています。5月28日の更新では、コード公開にファインチューニングスクリプト、学習に使われた全データ、評価ロールアウト、トークナイザー学習レシピも含まれるとされています。

MolmoAct 2に公開価格はありますか?

提供されたソースには、MolmoAct 2の商用価格は記載されていません。収集したソース内でリンクされている価格ページは404を返しているため、利用可能な情報からは、研究用途向けにオープンに公開されていることしか確認できません。

既存のロボティクスワークフローに組み込めますか?

Ai2は、MolmoAct 2の推論と学習がHugging FaceのLeRobotプラットフォームに統合されていると述べています。また、ページでは、このモデルは新しいハードウェアや異なるタスクに適応させたい研究者にも公開されているとしています。

Quick Facts

カテゴリ
ロボティクス基盤モデル
主な用途
実世界のロボット操作
提供元
Ai2(Allen Institute for Artificial Intelligence)
関連データセット
MolmoAct 2-Bimanual YAM
公開成果物
重み、データセット、評価成果物、コード、学習データ
プラットフォーム統合
Hugging Face LeRobot