論文の概要: Compressing Onboard Language Models for Space Robots under a Behavioral-Fidelity Requirement

• arxiv url: http://arxiv.org/abs/2610.29302v1
• Date: Wed, 21 Oct 2026 06:59:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-23 00:40:06.26399
• Title: Compressing Onboard Language Models for Space Robots under a Behavioral-Fidelity Requirement
• Title（参考訳）: 行動忠実度要求下における宇宙ロボットの車載言語モデル圧縮
• Abstract要約: 宇宙ロボットがオペレーターコマンドを解釈し、検証されたスキルの中から選択するインターフェースとして言語モデルが検討されている。 低ビット圧縮の呼び出しでそれらを実行すると、一般的なトレーニング後の量子化が暗黙的に残す要件が追加される。 AWQ, GPTQ, AutoRoundのチェックポイントから1つの静的低ビットモデルを構成する。
• 参考スコア（独自算出の注目度）: 24.302104880579193
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Language models are being explored as the interface through which space robots interpret operator commands and select among verified skills. Running them onboard calls for low-bit compression, and flight use adds requirements that generic post-training quantization leaves implicit: a fixed memory budget and storage format, a static artifact under configuration control, and behavior close to the full-precision model validated on the ground. We treat compression as a ground-segment step and study QSelect, which composes one static low-bit model from compatible AWQ, GPTQ, and AutoRound checkpoints by assigning each linear module to one quantizer family and scoring every substitution at the final next-token distribution. The default fidelity mode needs no labels or tuned thresholds and accepts a substitution only when the forward KL divergence from the BF16 reference decreases; an optional target-adapted mode adds answer likelihood on a small labeled set. On DeepSeek-R1-Distill-Qwen-7B, Llama-3.1-8B, and Llama-3.2-3B at 3 and 4 bits, composed models reach lower mean held-out perplexity than every single-family model in all six settings, and the fidelity mode lowers perplexity and KL further. In a matched scaffold, final-output scoring gives lower held-out KL than representation-similarity scoring in all 12 paired runs. With labels from training or development splits of the evaluated task families, the target-adapted mode raises 3-bit pooled accuracy on the two Llama models by 4.3 and 4.5 points over the best single-family model. At 3 bits, unquantized embedding and output layers make up 43-46% of the packed artifact. All evaluations use general-domain benchmarks on a ground GPU; space-domain tasks and flight hardware are left to future work.
• Abstract（参考訳）: 宇宙ロボットがオペレーターコマンドを解釈し、検証されたスキルの中から選択するインターフェースとして言語モデルが検討されている。 低ビット圧縮の呼び出しを実行し、フライト使用により、一般的なトレーニング後の量子化が暗黙的に残す要件が追加される。固定メモリ予算とストレージフォーマット、設定管理下の静的アーティファクト、地上で検証された全精度モデルに近い振る舞い。 本稿では,各線形加群を1つの量子化器系に割り当て,次の次点分布ですべての置換をスコアリングすることで,AWQ,GPTQ,AutoRoundチェックポイントから1つの静的低ビットモデルを構成するQSelectについて検討する。 デフォルトのフィデリティモードではラベルや調整しきい値が不要で、BF16参照からの前方KL分岐が減少する場合のみ置換を受け付ける。 3ビットと4ビットのDeepSeek-R1-Distill-Qwen-7B、Llama-3.1-8B、Llama-3.2-3Bでは、構成されたモデルは6つの設定で全てのシングルファミリーモデルよりも平均的なパープレキシティが低く、フィデリティモードはパープレキシティとKLをさらに低くする。 マッチした足場では、最終出力スコアは、12対の全てのランで表現類似度スコアよりも低い保持アウトKLを与える。 評価されたタスクファミリーのトレーニングまたは開発分割のラベルにより、ターゲット適応モードは2つのLlamaモデルの3ビットプール精度を最高の単一ファミリーモデルよりも4.3ポイント、4.5ポイント向上させる。 3ビットでは、充填されたアーティファクトの43～46%を非定量な埋め込み層と出力層が占める。 評価はすべて、地上GPU上の一般ドメインベンチマークを使用し、スペースドメインタスクとフライトハードウェアは将来の作業に委ねられる。

関連論文リスト

• MJev-Spatial: System One Spatial Intelligence via Native Attention Matching [19.6013702995563]
  MJev-Spatialは3種類の空間理解タスクに対処するシステム1のマルチモーダル決定モデルである。 MJev-Spatialは各候補をクラスとして扱い、バックボーンの事前訓練されたクエリとキープロジェクションを使用してスコア付けする。 Qwen3.5-4Bをベースとして12.3Mの質問応答ペアで訓練され、MJev-Spatialは7つのテストされた自己回帰モデルで最高スコア(65.64%)を記録した。
  論文  参考訳（メタデータ） (2026-10-15T17:37:50Z)
• Benchmarking Self-Supervised 3D Medical Vision Foundation Models and Transferability Estimation [57.65266782182578]
  セルフ教師付き事前トレーニングは、3D医療基盤モデルのプールを拡張したが、異なるデータセット、エンドポイント、微調整プロトコルを使用した評価を公表した。 14のセグメンテーション、分類、回帰タスク、複数の解剖学とモダリティにまたがる23の候補をベンチマークした。 3モデルショートリストは、7つのセグメンテーションタスクで記録された抜粋+訓練ジョブ時間を85.8%削減した。
  論文  参考訳（メタデータ） (2026-10-13T01:52:19Z)
• On the Design of Qwen3.8-Next Architecture: Evaluation, Efficiency, and Training Stability [57.03393882933515]
  Qwen3.8-Flash-Nextは125Bパラメータ、トークンあたり6Bアクティベートされ、加速器から保持されるn-gram埋め込みテーブルの51Bパラメータを持つスパースミックス・オブ・エキスパートモデルである。 トレーニング前の14のベンチマークでは、このモデルは前モデルの397B-A17Bを8点、残りを少なくとも2.6ポイント、アクティベートされたパラメータが1/3、トレーニングトークンが1/3、トレーニング用FLOPが1/9であった。
  論文  参考訳（メタデータ） (2026-08-31T06:35:07Z)
• CG4AI: A Column Generation Framework for Training AI Models Under Constraints [0.9449650062296824]
  CG4AIはAIモデルの凸結合を構築し、組合せ出力に線形制約を課す。 カットプレーンプロシージャは、トレーニングセットを超えて実現可能性を保証する。 MNISTと標準SNDLIBベンチマークネットワークの実験は、CG4AIが確実に実現可能な予測器を生成することを示している。
  論文  参考訳（メタデータ） (2026-08-26T20:00:32Z)
• QuantWAMs: Calibrating at the Right Granularity for World Action Models [34.540026172139406]
  World Action Modelsは、将来の観測とアクションを共同で予測するが、反復的なデノゲーションとクローズドループの実行は、デプロイメントにコストがかかる。 我々は,量子化決定をモデル構造,ロールアウト分布,タスク目標によって定義されたキャリブレーションコンテキストと整合するPTQフレームワークQuantWAMを提案する。 我々は,RoboTwin 2.0,LIBERO,AgiBot G2を用いた実ロボット操作において,Fast-WAMおよびLingBot-VA上のQuantWAMを評価した。
  論文  参考訳（メタデータ） (2026-07-30T15:54:29Z)
• Beyond the Current Observation: Evaluating Multimodal Large Language Models in Controllable Non-Markov Games [69.57330692969543]
  RNG-Benchは、過去の観測を再構築するベースモデルの能力を分離するために設計されたベンチマークスイートである。 RNG-Benchには2つの補完ゲームがある: マッチングペア(英語版) - 特定の場所でカードのIDを短期間明らかにする) と、エゴセントリックなビューを空間地図に統合する3D Maze である。 最も難しい構成では、約128Kのトークンと350のイメージ入力のコンテキストが必要であり、フロンティアMLLMによる飽和には程遠いままである。
  論文  参考訳（メタデータ） (2026-06-17T17:59:34Z)
• StereoFactory: A Unified Merging Framework for Robust Stereo Matching [61.973843344605655]
  ステレオマッチングは、大規模なデータセットでトレーニングされた基礎モデルを通じて進歩しているが、このパラダイムはスケーラビリティのボトルネックに悩まされている。 モデルマージは、ソースチェックポイントが利用可能になった後、特別なモデルからの知識を統合することで、スケーラブルなポストホックな代替手段を提供する。 本稿では,適応モデルマージのための粗大な進化的フレームワークであるStereoFactoryを提案する。
  論文  参考訳（メタデータ） (2026-06-16T03:36:59Z)
• Three Roles, One Model: Role Orchestration at Inference Time to Close the Performance Gap Between Small and Large Agents [0.4666493857924357]
  複雑なマルチステップ環境において,推論時足場のみに追加のトレーニング計算を使わずに,小さなモデルの性能を向上させることができるかどうかを検討した。 我々は,AppWorldベンチマークのQwen3-8Bを,完全精度と4ビット量子化構成の両方で評価した。 本格的な推測では、私たちの足場付き8Bモデルは、オリジナルのAppWorld評価からDeepSeek-Coder 33Bインストラクション(7.1%)を上回っています。
  論文  参考訳（メタデータ） (2026-04-13T13:40:33Z)
• MERGETUNE: Continued fine-tuning of vision-language models [77.8627788911249]
  微調整視覚言語モデル(VLM)は、しばしば事前訓練された知識を破滅的に忘れてしまう。 ゼロショットモデルに適応した後に事前学習した知識を回復するための新しいパラダイムである連続微調整(CFT)を導入する。
  論文  参考訳（メタデータ） (2026-01-15T15:15:53Z)
• AvgOut: A Simple Output-Probability Measure to Eliminate Dull Responses [97.50616524350123]
  機能エンジニアリングなしで、どの発話やトークンが退屈であるかを動的に認識する対話モデルを構築します。 最初のモデルMinAvgOutは、各バッチの出力分布を通して、ダイバーシティスコアを直接最大化する。 第2のモデルであるラベルファインチューニング(LFT)は、多様性スコアによって連続的にスケールされたラベルをソースシーケンスにプリペイドし、多様性レベルを制御する。 3つ目のモデルであるRLは強化学習を採用し、多様性スコアを報奨信号として扱う。
  論文  参考訳（メタデータ） (2020-01-15T18:32:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。