論文の概要: Evaluating Stochastic Collapse and Implicit Bias in Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2606.05874v1
• Date: Thu, 04 Jun 2026 08:47:15 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-06 06:55:34.641843
• Title: Evaluating Stochastic Collapse and Implicit Bias in Multimodal Large Language Models
• Title（参考訳）: マルチモーダル大言語モデルにおける確率的崩壊と帰属バイアスの評価
• Authors: Huiyuan Zheng, Houtao Zhang, Boyang Wang, Qingyi Si, Hongcheng Guo,
• Abstract要約: MLLM(Multimodal Large Language Models)の現在の評価は、ユーティリティ駆動の目的に圧倒的に重点を置いている。 我々は,MLLMが等価な選択肢を選択する際に,分布中立性を維持することができるかどうかを評価するためのベンチマークであるRandomBenchを提案する。 実験では、MLLMが明示的なランダム命令の下で一様ランダム性を維持するのに失敗する「Collapse」と呼ばれる広汎な現象が明らかになった。
• 参考スコア（独自算出の注目度）: 18.3126095869841
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Current evaluations for Multimodal Large Language Models (MLLMs) overwhelmingly focus on utility-driven objectives, leaving model behavior under logic-neutral scenarios largely underexplored. Stochasticity is essential in scenarios where multiple actions are equally valid, such as recommending travel itineraries or daily schedules where multiple options have similar utility. In such settings, deterministic policies may lead to repetitive behaviors and reduced coverage of valid alternatives. To bridge this gap, we propose RandomBench, a benchmark designed to evaluate whether MLLMs can maintain distributionally neutral behavior when selecting among equivalent options. We further introduce three metrics, including RI, BCI, BII, to quantify entropy and distributional bias. Experiments reveal a pervasive phenomenon termed Stochastic Collapse, where MLLMs fail to maintain uniform randomness under explicit random instructions, with top-1 probabilities reaching 97% from the ideal one quarter baseline and RI dropping to 0.068 in Claude Sonnet 4.6. Extensive ablation studies further demonstrate that these deviations persist across languages and representation formats, highlighting the robustness of distributional collapse in logic-neutral decision settings.
• Abstract（参考訳）: MLLM(Multimodal Large Language Models)の現在の評価は、ユーティリティ駆動の目的に圧倒的に焦点を合わせ、論理ニュートラルなシナリオ下でのモデルの振る舞いは、ほとんど探索されていない。 確率性は、旅行イテナリや、複数のオプションが同様のユーティリティを持つ日程を推奨するなど、複数のアクションが等しく有効であるシナリオにおいて不可欠である。 このような設定では、決定論的ポリシーは反復的な振る舞いをもたらし、有効な選択肢のカバレッジを減少させる。 このギャップを埋めるため,MLLMが等価な選択肢を選択する際に,分布中立性を維持することができるかどうかを評価するベンチマークであるRandomBenchを提案する。 さらに、エントロピーと分布バイアスを定量化するために、RI、BCI、BIIを含む3つの指標を導入する。 実験では、Stochastic Collapseと呼ばれる広汎な現象が示され、MLLMは明示的なランダム命令の下で一様ランダム性を維持することができず、トップ1確率は理想的な1/4のベースラインから97%に達し、RIはClaude Sonnet 4.6で0.068に低下した。 大規模なアブレーション研究により、これらの偏差は言語や表現形式にまたがって持続し、論理ニュートラルな決定設定における分布崩壊の堅牢性を強調している。

関連論文リスト

• Stochastic MeanFlow Policies: One-Step Generative Control with Entropic Mirror Descent [53.828537014796574]
  オンラインの非政治強化学習(RL)は、ポリシークラスと更新ルールの2つの選択肢によって構成されている。 我々は、MeanFlow変換を通じてノイズをアクションにマッピングする一段階生成ポリシークラスであるMeanFlow Policiesを提案する。 7つのMuJoCoベンチマークで、Sは1ステップの推論効率を維持しながら、ガウスおよび生成ベースラインを改善する。
  論文  参考訳（メタデータ） (2026-05-20T15:14:14Z)
• D-Models and E-Models: Diversity-Stability Trade-offs in the Sampling Behavior of Large Language Models [91.21455683212224]
  大規模言語モデル(LLMs)では、次の情報の関連性確率は、次の製品の関連性確率に関連付けられる。 しかし、きめ細かいサンプリング確率がタスク要求に忠実に適合するかどうかは未解決の問題だ。 P_tokenが大きなステップ・ツー・ステップの変動を示し、P_taskとの整合性が低いDモデルと、P_tokenがより安定してP_taskに整合するEモデルである。
  論文  参考訳（メタデータ） (2026-01-25T14:59:09Z)
• SCOPE: Stochastic and Counterbiased Option Placement for Evaluating Large Language Models [0.27309692684728604]
  大規模言語モデル(LLM)は、選択肢の位置やラベルに固有のバイアスを生かして、複数の選択タスクの膨らませたスコアを達成できる。 本研究では,データセットに依存しない方法で選択バイアスを計測・緩和するSCOPEを提案する。
  論文  参考訳（メタデータ） (2025-07-24T08:28:17Z)
• Relaxed Quantile Regression: Prediction Intervals for Asymmetric Noise [51.87307904567702]
  量子レグレッション(Quantile regression)は、出力の分布における量子の実験的推定を通じてそのような間隔を得るための主要なアプローチである。 本稿では、この任意の制約を除去する量子回帰に基づく区間構成の直接的な代替として、Relaxed Quantile Regression (RQR)を提案する。 これにより、柔軟性が向上し、望ましい品質が向上することが実証された。
  論文  参考訳（メタデータ） (2024-06-05T13:36:38Z)
• Amortizing intractable inference in large language models [56.92471123778389]
  難治性後部分布のサンプルとして, 償却ベイズ推定を用いる。 我々は,LLMファインチューニングの分散マッチングパラダイムが,最大習熟の代替となることを実証的に実証した。 重要な応用として、チェーン・オブ・ソート推論を潜在変数モデリング問題として解釈する。
  論文  参考訳（メタデータ） (2023-10-06T16:36:08Z)
• $K$-Nearest-Neighbor Resampling for Off-Policy Evaluation in Stochastic Control [0.6906005491572401]
  歴史的データからポリシーの性能を推定するための,新規な$K$-nearest 隣人パラメトリック手法を提案する。 私たちの分析は、ほとんどのアプリケーションで一般的なプラクティスであるように、エピソード全体のサンプリングを可能にします。 他のOPE手法と比較して、我々のアルゴリズムは最適化を必要とせず、木に基づく近接探索と並列化によって効率的に実装することができ、環境のダイナミクスのパラメトリックモデルを明示的に仮定することはない。
  論文  参考訳（メタデータ） (2023-06-07T23:55:12Z)
• Stacking for Non-mixing Bayesian Computations: The Curse and Blessing of Multimodal Posteriors [8.11978827493967]
  MCMCの並列実行, 変動型, モードベースの推論を用いて, できるだけ多くのモードをヒットさせる手法を提案する。 重み付き推論プロセスが真のデータを近似する例と理論的整合性を示す。 いくつかのモデルファミリで実践的な実装を示す。
  論文  参考訳（メタデータ） (2020-06-22T15:26:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。