論文の概要: A$^2$Safe: Counterfactual Evidence-Aligned Adaptive Agent Collaboration for Safe and Effective Visual Question Answering

• arxiv url: http://arxiv.org/abs/2609.24098v1
• Date: Mon, 21 Sep 2026 04:34:58 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-22 20:29:01.069365
• Title: A$^2$Safe: Counterfactual Evidence-Aligned Adaptive Agent Collaboration for Safe and Effective Visual Question Answering
• Title（参考訳）: A$2$Safe: 安全で効果的な視覚質問応答のためのアダプティブエージェントコラボレーション
• Abstract要約: 安全かつ効果的なVQAのための対実的証拠整合型エージェント協調フレームワークであるA$2$Safeを提案する。 A$2$Safeは、グラウンドド・セーフ・エビデンス・ボードを通じて、局所的な視覚的観察、テキストの意図、およびモダクティブ・リスク関係を組織している。 補完的な安全性と一般的なVQAプロトコルの下で、A$2$Safeは95.72SIUOの安全スコアを達成し、MOSSBenchの良質な拒絶率を14.67%に下げ、平均的な一般VQAスコアは78.34で、トークンオーバーヘッドは27.8%である。
• 参考スコア（独自算出の注目度）: 38.3788891187295
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Visual Question Answering (VQA) with Multimodal Large Language Models (MLLMs) requires not only producing safe and effective responses, but also grounding safety decisions in the multimodal evidence that determines risk. Recent safety-alignment methods improve refusal behavior and contextual risk awareness, yet correct safety outcomes may still rely on superficial textual or visual correlations, particularly when risk emerges from interactions between individually benign image and question content. To address this issue, we propose A$^2$Safe, a counterfactual evidence-aligned adaptive agent collaboration framework for safe and effective VQA. A$^2$Safe organizes localized visual observations, textual intent, and cross-modal risk relations through a Grounded Safety Evidence Board, making the basis of safety decisions explicit. Counterfactual safety evidence alignment enforces invariance to safety-irrelevant changes while requiring appropriate safety-state and response-mode transitions when risk-critical evidence is minimally altered. The resulting evidence state further supports adaptive collaboration, enabling direct answering when grounded evidence is sufficient and invoking policy critique and response revision when evidence is risky, uncertain, or conflicting. Under complementary safety-critical and general VQA protocols, A$^2$Safe achieves a 95.72 SIUO safety score, reduces the benign refusal rate on MOSSBench to 14.67%, and maintains an average general VQA score of 78.34 with 27.8% token overhead. These results support counterfactual evidence-aligned adaptive collaboration for safe and effective multimodal question answering.
• Abstract（参考訳）: VQA (Visual Question Answering) with Multimodal Large Language Models (MLLMs) は、安全で効果的な応答を生成するだけでなく、リスクを決定するマルチモーダルエビデンスに安全性の判断を下す必要がある。 近年の安全アライメント手法は、拒絶行動や文脈的リスク認識を改善するが、正しい安全結果は表層的なテキストや視覚的相関、特に個々の良心的イメージと質問内容の相互作用からリスクが出現する場合に引き続き依存する可能性がある。 この問題に対処するため、我々は、安全かつ効果的なVQAのための反実的エビデンス対応エージェント協調フレームワークであるA$^2$Safeを提案する。 A$^2$Safeは、グラウンドド・セーフ・エビデンス・ボードを通じて、局所的な視覚的観察、テキスト・インテンション、およびクロスモーダル・リスク関係を組織し、安全判断の基礎を明示している。 偽の安全証拠のアライメントは、リスククリティカルな証拠が最小限に変化した場合に、適切な安全状態と応答モードの遷移を要求しながら、安全に関係のない変更に対する不変性を強制する。 得られたエビデンスステートは、アダプティブなコラボレーションをさらに支援し、根拠のあるエビデンスが十分であれば直接答えることを可能にし、エビデンスが危険、不確実、あるいは矛盾する場合にポリシー批判と対応のリビジョンを呼び起こす。 一般的なVQAプロトコルでは、A$^2$Safeは95.72SIUOの安全スコアを達成し、MOSSBenchの良心的な拒絶率を14.67%に下げ、平均的な一般VQAスコアは78.34で、トークンオーバーヘッドは27.8%である。 これらの結果は、安全かつ効果的なマルチモーダル質問応答のための反実的エビデンス整合型協調を支援する。

関連論文リスト

• EviSafe: Evidence-Grounded Safety Evaluation for Vision-Language Models [3.659020283346239]
  VLM安全性のためのエビデンス基盤フレームワークであるEviSafeを紹介する。 自然なユーザ向け行動、テキストおよび視覚的証拠の明確な根拠、および反事実的変化に対する行動感受性を共同で評価する。 EviSafeBenchは、フレームワークを1,181金の画像テキストシナリオで制御されたベンチマークとしてインスタンス化する。
  論文  参考訳（メタデータ） (2026-08-24T14:32:25Z)
• SafeRelBench: A Spatial-Relation-Aware Benchmark for Process-Level Safety in VLM-Driven Embodied Agents [29.05559307748216]
  SFERELBENCHは,507個の実測値を持つ空間相関型安全ベンチマークである。 SAFERELBENCHを用いて、7つのオープンソースおよびクローズドソースなVLM駆動型エンボディエージェントの評価を行い、タスク成功とプロセスレベルの安全コンプライアンスの間に大きなギャップを見出した。
  論文  参考訳（メタデータ） (2026-07-16T03:59:44Z)
• Towards Safe Reasoning in Large Reasoning Models via Corrective Intervention [53.25106308403173]
  既存の手法は、安全推論の独特な重要性を軽視し、信頼性を損なうとともに、悪質なユーザに対して安全でない推論がアクセス可能で、悪質なユーザによって悪用された場合、アプリケーションに潜在的なリスクを生じさせることを示す。 我々は、安全トリガー付きコンプライアンスステップを代入し、強い信号による優先学習のためのペアを構築することで、安全推論を強制するアライメント手法であるIntervened Preference Optimization (IPO)を提案する。
  論文  参考訳（メタデータ） (2025-09-29T07:41:09Z)
• SafeKey: Amplifying Aha-Moment Insights for Safety Reasoning [76.56522719330911]
  大規模推論モデル(LRM)は、応答する前に明示的に推論する新しい世代パラダイムを導入する。 LRMは有害なクエリや敵の攻撃に対して大きな安全リスクをもたらす。 キー文中の安全アハモーメントをより活性化するSafeKeyを提案する。
  論文  参考訳（メタデータ） (2025-05-22T03:46:03Z)
• Agent-SafetyBench: Evaluating the Safety of LLM Agents [72.92604341646691]
  我々は,大規模言語モデル(LLM)の安全性を評価するベンチマークであるAgent-SafetyBenchを紹介する。 Agent-SafetyBenchは349のインタラクション環境と2,000のテストケースを含み、安全リスクの8つのカテゴリを評価し、安全でないインタラクションで頻繁に発生する10の一般的な障害モードをカバーする。 16 名の LLM エージェントを評価した結果,いずれのエージェントも 60% 以上の安全性スコアを達成できないことがわかった。
  論文  参考訳（メタデータ） (2024-12-19T02:35:15Z)
• Safe Inputs but Unsafe Output: Benchmarking Cross-modality Safety Alignment of Large Vision-Language Model [73.8765529028288]
  我々は、モダリティ間の安全アライメントを評価するために、セーフインプットとアンセーフアウトプット(SIUO)と呼ばれる新しい安全アライメントの課題を導入する。 この問題を実証的に調査するため,我々はSIUOを作成した。SIUOは,自己修復,違法行為,プライバシー侵害など,9つの重要な安全領域を含むクロスモダリティベンチマークである。 以上の結果から, クローズドおよびオープンソース両方のLVLMの安全性上の重大な脆弱性が明らかとなり, 複雑で現実的なシナリオを確実に解釈し, 応答する上で, 現行モデルが不十分であることが示唆された。
  論文  参考訳（メタデータ） (2024-06-21T16:14:15Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。