Fugu-MT 論文翻訳(概要): CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model

論文の概要: CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model

arxiv url: http://arxiv.org/abs/2607.25487v1
Date: Tue, 28 Jul 2026 09:24:17 GMT
ステータス: 翻訳完了
システム内更新日: 2026-07-29 20:50:42.784121
Title: CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model
Title（参考訳）: CoTinyVLA:サブビリオン・パラメータ・ビジョン・ランゲージ・アクション・モデルのためのチェイン・オブ・サート蒸留
Abstract要約: CoTinyVLAはQwen3.5-0.8Bのバックボーン上のアクションモデルであり、モデルを大きくすることなく、監督を構造化することで堅牢性を得る。 LIBERO-Plusでは、7つの摂動次元で10,030の摂動タスクをこなし、CoTinyVLAは空間で90.8%、オブジェクトで87.3%、ゴールで86.6%、ロングで80.7%に達した。
参考スコア（独自算出の注目度）: 7.106499413931612
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Vision-Language-Action (VLA) models translate natural-language commands into robot action sequences, but leading systems on the LIBERO-Plus robustness benchmark use three- to seven-billion-parameter backbones whose memory demands can exceed embedded robotic budgets. We present CoTinyVLA, a 0.9B-parameter action model on a Qwen3.5-0.8B backbone that obtains that robustness by structuring supervision instead of enlarging the model. Three components target different axes of the problem: dual-view temporal input of 16 history frames per step with textual camera and time markers; hierarchical chain-of-thought (CoT) distillation from a 35B teacher into an episode-level Plan and a chunk-level Think span over task phase, gripper state and next subaction; and paraphrase augmentation expanding 40 base commands into 800 variants. On LIBERO-Plus, spanning 10,030 perturbed tasks across seven perturbation dimensions, CoTinyVLA reaches 90.8% on Spatial, 87.3% on Object, 86.6% on Goal and 80.7% on Long, leading the strongest 7B baseline on all four suites by 4.7, 2.8, 15.9 and 3.0 points, with every margin interval excluding zero. The gains concentrate on the hardest axes of the benchmark: across the eleven published baselines none exceeds 53.2% on Robot Initial States in any suite, whereas CoTinyVLA reaches 73.6% on Goal against 39.9% for the strongest baseline. Ablations show the three components to be separable by perturbation axis, and at a matched image budget how frames are divided between the two cameras and across time accounts for 8.6 points on its own. Closed-loop inference peaks at 2.25 GiB of allocated GPU memory, and paired interventions show the episode Plan to be load-bearing: replacing it with an empty or contradictory span costs 40 to 45 points of success. Structured supervision thus lets a 0.9B backbone exceed all of them. Code: https://github.com/BrainJellyPie/CoTinyVLA
Abstract（参考訳）: VLA(Vision-Language-Action)モデルでは、自然言語コマンドをロボットアクションシーケンスに変換するが、LIBERO-Plusのロバストネスベンチマークでは、メモリ要求が組込みロボット予算を超える3～7ビリオンのバックボーンを使用している。本稿では,Qwen3.5-0.8Bバックボーン上の0.9Bパラメータ動作モデルであるCoTinyVLAについて述べる。 3つのコンポーネントは、ステップ毎に16の履歴フレームをテキストカメラとタイムマーカーで2視点で入力すること、35B教師からエピソードレベルプランへの階層的連鎖(CoT)蒸留と、タスクフェーズ、グリップ状態と次のサブアクションを越えてチャンクレベルのシンク、40のベースコマンドを800の変種に拡張するパラフレーズ拡張である。 LIBERO-Plusでは、7つの摂動次元で10,030の摂動タスクをこなし、CoTinyVLAは空間で90.8%、オブジェクトで87.3%、ゴールで86.6%、ロングで80.7%に達した。 11のベースラインで、どのスイートでもロボット初期状態が53.2%を超えていないのに対して、CoTinyVLAはゴールで73.6%、最強ベースラインで39.9%に達している。アブレーションは3つのコンポーネントを摂動軸で分離可能で、一致した画像予算でフレームが2つのカメラの間でどのように分割され、時間的に8.6ポイントを占めるかを示す。クローズドループ推論は、割り当てられたGPUメモリの2.25 GiBでピークに達し、ペアの介入によって、エピソードプランがロードバリングであることを示す。構造的監督により、0.9Bのバックボーンがこれら全てを超える。コード:https://github.com/BrainJellyPie/CoTinyVLA

関連論文リスト

RefGuard: Identity-Aware Language-Guided Robot Manipulation via Joint Target-Anchor-Frame Grounding [11.774477485982958]
RefGuardは、3変数すべてに対して共同で後続を維持することでコミットメントを遅らせるフレームワークである。実際のUF850アームでは、RefGuardは曖昧性ストレストライアルではIDスイッチを記録せず、その90.0%で正しく実行される。 3200エピソードの手続きスイートでは、ターゲットの前にアンカーとフレームにコミットするアブレーションにおいて、解決可能な命令の正しい実行を56.6%から80.5%に引き上げている。
論文参考訳（メタデータ） (2026-09-05T18:39:50Z)
On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
論文参考訳（メタデータ） (2026-08-31T06:35:07Z)
ForeTime-VLA: Causal Future-Token Distillation from a World Action Model for Conveyor-Belt Manipulation [6.874305530359895]
本稿では,凍ったFast-WAMをベースとした教師から,未来を意識した行動等価表現を蒸留する高密度pi0.5ポリシーであるForeTime-VLAを紹介する。オンラインでは、8フレームの履歴エンコーダが操作フェーズと正規化された時間-遷移とともにこのターゲットを予測する。テストMAEは0.134119から0.130593 (2.63%)に減少し、ペアリングブートストラップ95%CI:0.82-4.48%の改善、テストL2は2.46-2.93%の遅延コストで3.02%減少する。
論文参考訳（メタデータ） (2026-08-21T04:40:41Z)
LocalNav: Distilling Frontier VLMs and Embodied RL for On-Device Object Goal Navigation [53.88286427894783]
視覚言語モデル(VLM)は、ロボット分野において、言語コンテキストによる環境認識を可能にする強力なツールとして登場した。しかし、彼らの計算フットプリントは、通常、それらをクラウド実行に制限し、リソースに制約のあるロボットへのローカルなデプロイによる低レイテンシの推論を妨げる。本稿では,大規模フロンティアモデルからの複雑な空間意味推論を,組み込みGPUデバイス上でエッジ実行を行うための軽量な4BパラメータローカルVLMに転送する蒸留戦略を提案する。
論文参考訳（メタデータ） (2026-06-26T09:11:59Z)
ProbeAct: Probe-Guided Training-Free Failure Recovery in Vision-Language-Action Models [23.3892541362594]
PROBEACTはトレーニング不要のランタイム介入フレーム6である。プレ-7の訓練されたVLAポリシーの把握と配置の失敗を検知し、回復する。
論文参考訳（メタデータ） (2026-06-08T17:04:24Z)
Architecture-Sensitive Supervised Fine-Tuning for Screen-Conditioned Action Prediction: A PiSAR Benchmark [4.626261940793026]
我々は,661列のPiSARのホールドアウトスライスのフロンティアゼロショットベースラインに対して,教師付き微調整モデル3つをベンチマークした。すべてのモデル、フロンティアまたは微調整は、同じスコアリングパイプラインを持つ661ロースライスで評価される。
論文参考訳（メタデータ） (2026-05-28T05:49:36Z)
Uni-LaViRA: Language-Vision-Robot Actions Translation for Unified Embodied Navigation [60.07205156194741]
身体的なナビゲーションでは、エージェントが言語や視覚的な観察を、実際に見たことのない環境を通して実際のロボットを駆動する空間的な行動の流れにマッピングする必要がある。統合エージェントアーキテクチャであるUni-LaViRAを4つのタスクファミリと4つの異種実ロボットに拡張する。
論文参考訳（メタデータ） (2026-05-26T18:52:04Z)
CrossVLA: Cross-Paradigm Post-Training and Inference Optimization for Vision-Language-Action Models [7.489020109808801]
われわれは,クロスパラダイム・ビジョン・ランゲージ・アクション(VLA)のポストトレーニングに関する実証的研究であるCrossVLAを報告する。 i) 確率フローODE統合なしでDPOを連続動作バックボーンで操作できる代理フローマッチングログ確率推定器、(ii) VLA DPOのパラメータ係数層としてのLoRAとDoRAの頭と頭の比較、(iii) ノイズループを示す推論時間解剖学は、サンプル_actions遅延の78.6%、プレフィックス-K/Vキャッシングのラを支配している。
論文参考訳（メタデータ） (2026-05-21T01:02:41Z)
3D-Anchored Lookahead Planning for Persistent Robotic Scene Memory via World-Model-Based MCTS [0.12891210250935145]
3D-ALPは、ロボット操作のためのシステム2推論エンジンである。モンテカルロ木探索(MCTS)と3D一貫性のある世界モデルをロールアウトオラクルとして組み合わせている。
論文参考訳（メタデータ） (2026-04-13T11:01:30Z)
Beyond Dominant Patches: Spatial Credit Redistribution For Grounded Vision-Language Models [0.7919969809015935]
VLM(Vision-Language Models)は、入力画像に存在しないオブジェクトを幻覚させる。本研究では,SCR (Spatial Credit Redistribution) を提案する。 SCRは幻覚の低減、生成品質、遅延のトレードオフを改善する。
論文参考訳（メタデータ） (2026-02-25T23:08:31Z)
Global Prior Meets Local Consistency: Dual-Memory Augmented Vision-Language-Action Model for Efficient Robotic Manipulation [95.89924101984566]
GPM(Global Prior Memory)とLCM(Local Consistency Memory)を備えたデュアルメモリVLAフレームワークOptimusVLAを紹介する。 GPMはガウスノイズを意味論的に類似した軌道から取得したタスクレベルの先行値に置き換える。 LCMは、時間的コヒーレンスと軌道の滑らかさを強制する学習された一貫性制約を注入する。
論文参考訳（メタデータ） (2026-02-22T15:39:34Z)
Step 3.5 Flash: Open Frontier-Level Intelligence with 11B Active Parameters [169.7981969517903]
Step 3.5 Flashは、フロンティアレベルのエージェントインテリジェンスと計算効率を橋渡しする。エージェントを構築する上で最も重要なもの、すなわち、シャープな推論と高速で信頼性の高い実行に重点を置いています。
論文参考訳（メタデータ） (2026-02-11T07:53:51Z)
STEP3-VL-10B Technical Report [115.89015065130127]
STEP3-VL-10Bは、コンパクト効率とフロンティアレベルのマルチモーダルインテリジェンスとのトレードオフを再定義する軽量基盤モデルである。そこで我々はPallel Coordinated Reasoning(PaCoRe)を実装して,テスト時間計算をスケールし,リソースをスケーラブルな知覚推論に割り当てる。 MMBenchでは92.2%、MMMUでは80.11%、AIME2025では94.43%、MathVisionでは75.95%である。
論文参考訳（メタデータ） (2026-01-14T17:58:24Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。