論文の概要: Just Noticeable Difference Modeling for Token Compression in Vision-Language-Action Models

• arxiv url: http://arxiv.org/abs/2608.21247v1
• Date: Fri, 21 Aug 2026 15:59:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.632358
• Title: Just Noticeable Difference Modeling for Token Compression in Vision-Language-Action Models
• Title（参考訳）: 視覚・言語・行動モデルにおけるトーケン圧縮の注意すべき差分モデル
• Abstract要約: 本稿では,単に目立った差分(JND)の原理を具体化するためのアクションJNDを紹介する。 トークンの変化は、誘導された行動偏差が許容範囲内に留まっている場合にのみ許容できると考えられる。 結果として生じるアクション耐性スコアは、VLA圧縮パラダイムのプラグアンドプレイ基準として機能する。
• 参考スコア（独自算出の注目度）: 62.522141464687195
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Token compression has become a key technique for reducing the inference cost of large foundation models, with approaches such as token pruning and KV-cache reuse widely adopted in vision-language models and recently explored for embodied agents. In embodied agents, tokens not only support perception and semantic understanding but also directly affect latency-sensitive closed-loop robot action prediction. Existing schemes typically guide compression using redundancy or importance cues, such as visual similarity, attention scores, and saliency. However, these cues only indirectly measure the key factor for safe compression: how much a token can change before causing an unacceptable deviation in downstream actions. This receiver-dependent tolerance is closely related to the principle of just noticeable difference (JND). Classical JND characterizes signal tolerance in the human visual system, while machine-oriented JND extends this concept to downstream machine responses. Building on this progression, we introduce Action-JND, which extends JND modeling to embodied perception by defining noticeability through the language-conditioned action response of a vision-language-action (VLA) policy in closed-loop control. A token change is considered admissible only when the induced action deviation remains within a tolerated margin. To realize this concept, we develop a lightweight token-wise JND estimator in deep visual-feature space to predict the maximum tolerable perturbation while preserving policy responses. The resulting action-tolerance score serves as a plug-and-play criterion for VLA compression paradigms, including stale-KV reuse and token pruning, prioritizing action-tolerant tokens for compression. Experiments on the LIBERO benchmark with OpenVLA and OpenVLA-OFT demonstrate that Action-JND consistently improves compression reliability, especially under aggressive compression ratios.
• Abstract（参考訳）: トークンプルーニングやKV-cacheの再利用といったアプローチが視覚言語モデルで広く採用され、近年ではエンボディエージェントとして研究されている。 エンボディエージェントでは、トークンは知覚や意味理解だけでなく、遅延に敏感なクローズドループロボットの動作予測にも直接影響を与える。 既存のスキームは、視覚的類似性、注意スコア、サリエンシといった、冗長性や重要度を使った圧縮を導くのが一般的である。 しかしながら、これらのキューは、安全な圧縮の鍵となる要素を間接的に測定するだけである。 このレシーバ依存耐性は、単に目立った差分(JND)の原理と密接に関連している。 古典的なJNDは人間の視覚系における信号耐性を特徴付け、機械指向のJNDはこの概念を下流の機械応答にまで拡張する。 本稿では,JNDモデリングを具体化するために,閉ループ制御における視覚言語行動(VLA)ポリシーの言語条件による動作応答を通じて,認識性を定義することで,JNDモデリングを具体化するためのアクションJNDを提案する。 トークンの変化は、誘導された行動偏差が許容範囲内に留まっている場合にのみ許容できると考えられる。 この概念を実現するために、我々は、ポリシー応答を保ちながら最大許容摂動を予測するために、深い視覚空間における軽量なトークン単位のJND推定器を開発した。 結果として生じるアクション耐性スコアは、古いKVの再利用やトークンプルーニング、圧縮のためのアクション耐性トークンの優先順位付けなど、VLA圧縮パラダイムのプラグアンドプレイ基準として機能する。 OpenVLAとOpenVLA-OFTによるLIBEROベンチマークの実験では、Action-JNDは圧縮信頼性を、特に攻撃的な圧縮比で一貫して改善することを示した。

関連論文リスト

• VisCo: Leveraging Large Language Models as Intrinsic Encoders for Visual Token Compression [52.23010472235226]
  視覚言語モデル(VLM)は大量の視覚トークンを処理し、かなりの推論とオーバーヘッドレイテンシをもたらす。 本稿では,VLM自体を固有圧縮機として再利用する,トレーニング効率のよい自己圧縮フレームワークであるVisCoを提案する。
  論文  参考訳（メタデータ） (2026-07-14T13:21:36Z)
• ERA: Entropy-Guided Visual Token Pruning with Rectified Attention for Efficient MLLMs [77.57757084153083]
  本稿では,効率的なMLLMを実現するために,Rectified Attention を用いたエントロピー誘導型ビジュアルトークン解析フレームワーク ERA を提案する。 ERAはDEP(Dual-view Entropy Pruning)、BTR(Bias-Aware Tokencycle)、LAR(Logit-Reserving Attention Rectification)の3つの重要な構成要素から構成される。
  論文  参考訳（メタデータ） (2026-06-30T17:20:29Z)
• Towards Joint Quantization and Token Pruning of Vision-Language Models [53.978753457744055]
  トークンプルーニングと低ビット量子化は、推論コストの削減を補完する。 我々は、低ビット推論と決定論的視覚トーケンプルーニングを統一する協調量子化&プルーニングフレームワークを提案する。 標準VLMベンチマークの実験では、同じ低ビット状態下でのステージワイドベースラインよりもロバスト性が改善された。
  論文  参考訳（メタデータ） (2026-04-19T08:18:29Z)
• The Compression Gap: Why Discrete Tokenization Limits Vision-Language-Action Model Scaling [0.0]
  ビジョンエンコーダのアップグレードによるVLAモデルのスケールアップにより,下流操作性能が向上することが期待される。 この期待は、アクションが離散トークンとして表現されるときに失敗することを示す。 任意のビジュモータパイプラインでは、スケーリングの振る舞いは、最も厳しい情報のボトルネックの位置によって管理される。
  論文  参考訳（メタデータ） (2026-04-03T17:06:31Z)
• Reasoning as Compression: Unifying Budget Forcing via the Conditional Information Bottleneck [12.360124156284305]
  既存の「予算強制」手法は、本質的な推論と冗長なフィラーの両方を抑える。 Information Bottleneck (IB) の原理により, 効率的な推論を損失のある圧縮問題として再放送する。 単純トークンカウントに基づくアプローチとは対照的に,先行する言語モデルの下でトークンコストを代入的に測定するセマンティック・プリミティブを導入する。
  論文  参考訳（メタデータ） (2026-03-09T14:56:57Z)
• Understanding the Physics of Key-Value Cache Compression for LLMs through Attention Dynamics [22.98826013817833]
  トークンレベルのルーティングの制御摂動として,KV圧縮を物理に着想を得た視点を提案する。 適度な圧縮は、内部表現をほとんど精度の低下なく劣化させ、冗長性を明らかにする。 トークンサバイバルにもかかわらず、過度なヘッドレベルのコンセンサスによってルーティングの柔軟性が崩壊する表現剛性を特定する。
  論文  参考訳（メタデータ） (2026-03-02T04:16:36Z)
• Arbitrary Ratio Feature Compression via Next Token Prediction [52.10426317889982]
  Arbitrary Ratio Feature Compression (ARFC)フレームワークは、任意の圧縮比を単一のモデルでサポートする。 ARCは、次の回帰予測によって圧縮を行う自動回帰モデルである。 MoSモジュールは複数の圧縮結果を利用して圧縮トークンを洗練する。 ERGCは、圧縮中の意味的および構造的関係を維持するために、トレーニングプロセスに統合される。
  論文  参考訳（メタデータ） (2026-02-12T02:38:57Z)
• On the Adversarial Robustness of Large Vision-Language Models under Visual Token Compression [22.436953683970007]
  既存のエンコーダベースの攻撃は、圧縮視覚言語モデル(LVLM)の堅牢性を大幅に過大評価できることを示す。 本稿では, 圧縮機構やトークンの予算を仮定することなく, 摂動最適化と圧縮推論を一致させる圧縮-AliGnEd攻撃(CAGE)を提案する。
  論文  参考訳（メタデータ） (2026-01-29T10:47:21Z)
• Less Is More -- Until It Breaks: Security Pitfalls of Vision Token Compression in Large Vision-Language Models [69.84867664371826]
  視覚トークン圧縮はLVLM(Large Vision-Language Models)のロバスト性を大幅に低下させることを示す。 小さくて知覚不能な摂動はトークンの重要度を著しく変更し、圧縮機構が誤ってタスククリティカル情報を破棄する。 我々は,この脆弱性を体系的に研究し,活用するための圧縮認識攻撃を提案する。
  論文  参考訳（メタデータ） (2026-01-17T13:02:41Z)
• UNComp: Can Matrix Entropy Uncover Sparsity? -- A Compressor Design from an Uncertainty-Aware Perspective [85.08718140718707]
  UNCompは不確実性を認識したフレームワークで、適応圧縮に使用できる空間パターンを明らかにする。 スパーシティパターンを詳細に分析する不確実性に注目して、UNCompはKVキャッシュサイズを4.74%に削減し、6%のプリフィルスピードアップを実現し、スループットを6.4倍改善した。
  論文  参考訳（メタデータ） (2024-10-04T02:32:36Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。