論文の概要: ReFrame: Evidence-Guided Test-Time Safety Alignment in Multimodal Large Language Models

• arxiv url: http://arxiv.org/abs/2608.21100v1
• Date: Fri, 21 Aug 2026 13:47:21 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-24 14:49:32.558563
• Title: ReFrame: Evidence-Guided Test-Time Safety Alignment in Multimodal Large Language Models
• Title（参考訳）: ReFrame: マルチモーダル大言語モデルにおけるエビデンスガイドによるテスト時間安全アライメント
• Abstract要約: マルチモーダルな安全アライメント手法は、クロスモーダルなジェイルブレイク、セーフティ・アウェアネスの失敗、過敏な拒絶に対処する必要がある。 既存の方法は、しばしばリトレーニングや内部検査に依存し、デプロイされたクローズドソースMLLMに適用性を制限する。 本稿では,2つのエージェントが軽量なローカルにデプロイされたMLLMを共有する,トレーニング不要なマルチモーダル入力リフレーミングフレームワークであるReFrameを提案する。
• 参考スコア（独自算出の注目度）: 19.730586833276032
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: While multimodal large language models (MLLMs) extend model capabilities beyond text, they also make safety alignment increasingly challenging. Multimodal safety alignment methods must address cross-modal jailbreaks, safety-awareness failures, and over-sensitive refusals. However, existing methods often rely on retraining or internal-state inspection, limiting their applicability to deployed closed-source MLLMs and motivating test-time safety alignment. We analyze this setting and identify two key obstacles, utility dominance and reasoning inertia, which cause models to overlook latent risks or follow malicious reasoning trajectories. Guided by these insights, we propose ReFrame, a training-free multimodal input reframing framework where two agents share a lightweight locally deployed MLLM: the evidence-generation agent constructs complementary risk and utility evidence, and the rewrite-and-routing agent converts it into a safe proxy prompt and image-routing decision before calling the downstream MLLM, without modifying it or accessing its internal information. Experiments across multiple MLLMs and benchmarks show that ReFrame improves jailbreak defense, safety awareness, and oversensitivity reduction while preserving multimodal utility.
• Abstract（参考訳）: マルチモーダルな大言語モデル(MLLM)は、テキストを超えてモデル機能を拡張する一方で、安全性の整合性もますます困難にしている。 マルチモーダルな安全アライメント手法は、クロスモーダルなジェイルブレイク、セーフティ・アウェアネスの失敗、過敏な拒絶に対処する必要がある。 しかし、既存の手法は、しばしば再訓練や内部検査に頼り、デプロイされたクローズドソースMLLMに適用可能であり、テスト時の安全性の調整を動機付けている。 この設定を分析し、実用性優位性と推論慣性という2つの重要な障害を特定し、モデルが潜伏リスクを見落としたり、悪意のある推論軌跡を辿ったりする。 これらの知見に導かれて、我々は2つのエージェントが軽量なローカルにデプロイされたMLLMを共有する訓練不要なマルチモーダル入力リフレーミングフレームワークであるReFrameを提案し、エビデンス生成エージェントは補完的なリスクとユーティリティエビデンスを構築し、リフレッシュ・アンド・ルーティングエージェントはそれを下流MLLMを呼び出す前に安全なプロキシプロンプトとイメージ・ルーティング決定に変換する。 複数のMLLMとベンチマークの実験により、ReFrameはマルチモーダルユーティリティを保ちながら、ジェイルブレイク防御、安全意識、過敏性低下を改善することが示されている。

関連論文リスト

• COMIC: Reference-Aware Safety Gating for Multimodal Large Language Models [9.772233159718601]
  マルチモーダルな大言語モデル(MLLM)は、スクリーンショット、スキャンされた文書、図、その他の視覚的に接地された入力と対話するために、ますます使われるようになっている。 安全でない振る舞いは、モデルが局所化された視覚的ターゲットに要約、翻訳、追従のような明らかに良質な操作を結び付ける場合にのみ現れる。 MLLMのための参照対応プレジェネレーション安全ゲートであるCOMICを提案する。
  論文  参考訳（メタデータ） (2026-08-18T00:45:29Z)
• Harnessing Textual Refusal Directions for Multimodal Safety [70.16764304975675]
  マルチモーダルセーフティデータを必要とせずにマルチモーダルセーフティを注入する軽量なトレーニングフリーアプローチであるModality-Agnostic Refusal Steering (MARS)を導入する。 MARSは、アクティベーションリセンタによるモダリティの不整合を補正し、幾何的に定義された信頼領域内でステアリング強度を適応的にスケーリングし、最適な介入層を選択する。
  論文  参考訳（メタデータ） (2026-06-30T15:57:50Z)
• AgentLens: Interpretable Safety Steering via Mechanistic Subspaces for Multi-Turn Coding Agent [53.82005364479556]
  大規模言語モデル(LLM)に基づく符号化エージェントは、驚くべき自律性を示す。 既存の安全機構は主に外部ガードレールに依存している。 我々は,ランタイムの安全性検出と表現レベルの緩和を行う,ホワイトボックスの防御フレームワークであるAgentLensを提案する。
  論文  参考訳（メタデータ） (2026-06-21T21:13:55Z)
• Safety Geometry Collapse in Multimodal LLMs and Adaptive Drift Correction [43.59114552026716]
  MLLM(Multimodal large language model)は、テキストモダリティで学習した安全性機能を意味的に等価な非テキスト入力に転送するのに失敗することが多い。 本研究は,テキストアライメントされた拒絶方向とモダリティによるドリフト方向を解析することにより,このギャップについて検討する。 本稿では,自己修正によるモダリティドリフトを適応的に補正するトレーニングフリー推論時間法であるReGapを提案する。
  論文  参考訳（メタデータ） (2026-05-18T09:16:55Z)
• Robust Multimodal Safety via Conditional Decoding [52.92816441364308]
  マルチモーダル大規模言語モデル(MLLM)は、有害なクエリが相互モーダル相互作用を悪用した場合、しばしば安全性の低下を経験する。 本稿では,MLLMの内部表現を利用して応答生成前の二項安全トークンを予測する,シンプルな条件付きデコード戦略であるCASAを提案する。
  論文  参考訳（メタデータ） (2026-03-31T23:19:50Z)
• Beyond Over-Refusal: Scenario-Based Diagnostics and Post-Hoc Mitigation for Exaggerated Refusals in LLMs [10.896368527058714]
  大きな言語モデル(LLM)は、しばしば偽の拒絶を発生させ、安全でないクエリに似た用語を含む良質な要求を減少させる。 単一ターンプロンプトに対するXSB(Exaggerated Safety Benchmark)、リファイン誘導トリガを識別する"Focus"キーワードのアノテーション、マルチターンシナリオベースのExaggerated Safety Benchmark(MS-XSB)の2つの総合ベンチマークを紹介した。 ベンチマークの結果,近年の多種多様なLCMにおいて過大な拒絶が持続し,特に複雑なマルチターンシナリオで顕著であることが判明した。
  論文  参考訳（メタデータ） (2025-10-09T12:38:16Z)
• COSMO-RL: Towards Trustworthy LMRMs via Joint Safety and Stability [101.80200069234377]
  COSMO-RLは,マルチモーダル・マルチタスク・マルチオブジェクト信号下でLMRMを学習する混合強化学習フレームワークである。 我々のアプローチは、アライメント中に競合するのではなく、安全と能力をひとつの安定したパイプラインで一緒に成長させることを目的としています。
  論文  参考訳（メタデータ） (2025-10-05T13:30:03Z)
• Automating Steering for Safe Multimodal Large Language Models [58.36932318051907]
  基礎モデルの微調整を必要とせず,モジュール型かつ適応型推論時間介入技術であるAutoSteerを導入する。 AutoSteerは,(1)モデル内部層間の最も安全性に関連のある識別を自動的に行う新しい安全意識スコア(SAS),(2)中間表現から有害な出力の可能性を推定するために訓練された適応安全プローバ,(3)安全性のリスクが検出された場合に生成を選択的に介入する軽量な拒絶ヘッドの3つのコアコンポーネントを組み込んだ。
  論文  参考訳（メタデータ） (2025-07-17T16:04:55Z)
• MIRAGE: Multimodal Immersive Reasoning and Guided Exploration for Red-Team Jailbreak Attacks [85.3303135160762]
  MIRAGEは、物語駆動型コンテキストとロール没入を利用して、マルチモーダル大規模言語モデルにおける安全性メカニズムを回避する新しいフレームワークである。 最先端のパフォーマンスを達成し、最高のベースラインよりも攻撃成功率を最大17.5%向上させる。 役割の浸漬と構造的セマンティック再構築は、モデル固有のバイアスを活性化し、モデルが倫理的保護に自発的に違反することを実証する。
  論文  参考訳（メタデータ） (2025-03-24T20:38:42Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。