論文の概要: MoR-MLLM: Mixture of Recursions for Efficient Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2610.08830v1
• Date: Sun, 27 Sep 2026 08:33:26 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-11 16:33:44.548219
• Title: MoR-MLLM: Mixture of Recursions for Efficient Multimodal Large Language Models
• Title（参考訳）: MoR-MLLM:効率的な多モード大言語モデルのための再帰の混合
• Abstract要約: MoR-MLLMは、最近のMixture-of-Recursionsフレームワークに基づく計算スパースMLLMである。 提案したMoR-MLLMは、様々な視覚言語タスクにおいて高い性能を維持しながら、トレーニングメモリと計算の複雑さを大幅に低減することができる。
• 参考スコア（独自算出の注目度）: 49.239139725676516
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Multimodal Large Language Models (MLLMs) have demonstrated remarkable reasoning capabilities across vision and language tasks. However, their massive computational and memory demands hinder real-world deployment. While recent efforts reduce costs by employing lightweight language backbones, existing paradigms remain computation-dense due to their static sparsity and depth allocation, which cannot adapt to the semantic complexity of each token. To this end, we propose MoR-MLLM, a computation-sparse MLLM based on the recent Mixture-of-Recursions (MoR) framework. MoR-MLLM introduces adaptive per-token recursion, allowing the model to dynamically adjust its recursive depth and allocate more computation to visually or linguistically challenging tokens while skipping redundant operations for simpler ones. To stabilize the training of recursive sparsity in multimodal settings, we further design a three-stage MoR-Tuning strategy and an entropy-regularized loss to encourage diverse routing distributions. Extensive experiments show that compared with recent advanced tiny MLLMs, our proposed MoR-MLLM can greatly reduce the training memory and computation complexity while retaining high performance on various vision-language tasks.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)は、視覚と言語タスクにまたがる顕著な推論能力を示す。 しかし、その膨大な計算とメモリ要求は、現実世界の展開を妨げる。 最近の取り組みでは、軽量な言語バックボーンを使用することによるコスト削減が試みられているが、既存のパラダイムは、それぞれのトークンの意味的な複雑さに適応できない静的な間隔と深さの割り当てのため、計算に精通している。 そこで本研究では,最近のMixture-of-Recursions (MoR) フレームワークに基づく計算スパースMLLMであるMoR-MLLMを提案する。 MoR-MLLMは適応的な1トーケン再帰を導入し、モデルがその再帰深さを動的に調整し、より単純なトークンに対して冗長な操作をスキップしながら、視覚的または言語的に困難なトークンにより多くの計算を割り当てることを可能にする。 マルチモーダル環境における再帰的間隔のトレーニングを安定させるため、3段階のMoR-Tuning戦略とエントロピー規則化損失を設計し、多様なルーティング分布を促進させる。 近年の小型MLLMと比較して、MoR-MLLMは、様々な視覚言語タスクにおいて高い性能を維持しながら、トレーニング記憶と計算の複雑さを大幅に低減できることを示す。

関連論文リスト

• Prompting Is All You Need: Multi-view Prompting Large Language Models for Aspect-Based Sentiment Analysis [5.3558051475405515]
  マルチビュー・プロンプト(LLM-MvP)を導入し,複数要素の順序付けをLLMプロンプトに適用する多視点原理を適用した。 LLM-MvPは、計算オーバーヘッドを大幅に削減しつつ、微調整されたアプローチよりも性能が優れている。
  論文  参考訳（メタデータ） (2026-05-27T07:04:39Z)
• A Comprehensive Study on Visual Token Redundancy for Discrete Diffusion-based Multimodal Large Language Models [85.30893355216486]
  我々は,異なるdMLLMアーキテクチャとタスクを用いて,視覚的トークン冗長性がどのように進化するかを検討する。 本研究により, 視覚的冗長性は, 長時間のタスクを処理しながら, オフスクラッチdMLLMでのみ現れることが明らかとなった。 層スキッピングはAR-to-diffusion dMLLMの加速に有効であるのに対し、プログレッシブプルーニングやレイトステッププルーニングはストクラッチdMLLMよりも効果的である。
  論文  参考訳（メタデータ） (2025-11-19T04:13:36Z)
• Sparse Training Scheme for Multimodal LLM [26.81140959413325]
  MLLM(Multimodal Large Language Models)は、様々な領域において優れた性能を示す。 スパース・トレーニング・スキーム(STS)と呼ばれるスパース表現に基づく新しい学習効率向上フレームワークを提案する。 このスキームは、ビジュアルトークンを圧縮することで情報負荷を削減するVisual Tokenと、前方および後方の両方で言語モデルの不要なレイヤをスキップすることで計算オーバーヘッドを軽減するLayer Dynamic Skipperの2つの重要なコンポーネントで構成されている。
  論文  参考訳（メタデータ） (2025-09-16T11:33:20Z)
• Reasoning-Aligned Perception Decoupling for Scalable Multi-modal Reasoning [95.44766931218896]
  MLLM(Multi-modal large language model)は、テキストベースの推論に遅れを取っている。 本稿では,MLLMの推論コンポーネントをモジュール化し,容易に置き換え可能なパーセプション推論デカップリングを提案する。 本稿では,視覚知覚最適化(VPO)と呼ばれる新しい強化学習アルゴリズムを提案する。
  論文  参考訳（メタデータ） (2025-06-05T02:28:07Z)
• LFTR: Learning-Free Token Reduction for Multimodal Large Language Models [3.368594680297987]
  MLLM(Multimodal Large Language Models)用に設計されたLFTR(Learning-free token reduction)手法を提案する。 視覚表現の冗長性に乗じて,MLLMの一般的な推論性能を維持しつつトークンを効果的に削減する。 その結果、LFTRは最大16倍の視覚トークンの削減を実現し、メインストリームの視覚質問応答ベンチマークの性能を維持したり、向上させることができた。
  論文  参考訳（メタデータ） (2025-01-29T02:52:32Z)
• LLaVA-KD: A Framework of Distilling Multimodal Large Language Models [72.68665884790002]
  本稿では,l-MLLMからs-MLLMへ知識を伝達する新しいフレームワークを提案する。 本稿では,教師モデルの頑健な表現を視覚的,言語的両面で伝達するために,MDist(Multimodal Distillation)を導入する。 また,提案した蒸留戦略の可能性をフル活用するための3段階学習手法を提案する。
  論文  参考訳（メタデータ） (2024-10-21T17:41:28Z)
• Duo-LLM: A Framework for Studying Adaptive Computation in Large Language Models [16.16372459671255]
  大規模言語モデル(LLM)は通常、固定された計算予算を使用してトークンによって出力トークンを生成する。 LLMの各フィードフォワードネットワーク層に小さな補助モジュールを統合する新しいフレームワークを提案する。 訓練されたルータがオーラクルと異なる動作をしており、しばしば準最適解が得られることを示す。
  論文  参考訳（メタデータ） (2024-10-01T16:10:21Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。