Fugu-MT 論文翻訳(概要): Beyond Behaviour: A Stimulus-Response Safety Evaluation of Vision-Language-Action Models

論文の概要: Beyond Behaviour: A Stimulus-Response Safety Evaluation of Vision-Language-Action Models

arxiv url: http://arxiv.org/abs/2610.34837v1
Date: Mon, 26 Oct 2026 04:36:21 GMT
ステータス: 翻訳完了
システム内更新日: 2026-10-27 22:27:13.748668
Title: Beyond Behaviour: A Stimulus-Response Safety Evaluation of Vision-Language-Action Models
Title（参考訳）: 行動を超えて:視覚・言語・行動モデルを用いた刺激応答型安全評価
Abstract要約: 視覚-言語-アクションモデルに類似の応答が現れるかどうかを検討する。危険が内部に登録された場合でも,タスク実行がデフォルトの応答のままである可能性が示唆された。
参考スコア（独自算出の注目度）: 11.256482017685611
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Humans exhibit biological sensitivity to safety-critical stimuli that can trigger defensive action. Across three models and two video benchmarks, we investigate whether similar responses emerge in vision-language-action models by examining their internal representations and action tendencies in response to visible hazards and harmful consequences. Our findings suggest that task execution may remain the default response even when danger is internally registered.
Abstract（参考訳）: 人間は防御行動を引き起こす安全クリティカルな刺激に対する生物学的感受性を示す。 3つのモデルと2つのビデオベンチマークで、視覚言語行動モデルに類似した反応が出現するかどうかを、視覚障害や有害な結果に対する内部表現と行動傾向を調べることによって検討する。危険が内部に登録された場合でも,タスク実行がデフォルトの応答のままである可能性が示唆された。

関連論文リスト

The Inattentional Gap: Task-Conditioned Language and Vision Models Omit the Safety-Critical Signals They Can Otherwise Report [0.0]
狭義のタスクで言語や視覚モデルを条件付けると、それ以外は報告できる共表現、安全クリティカルな信号の報告が抑制されることを示す。我々はこの解離を意図的ギャップ(Inattentional Gap)と呼び、ベンチマークの安全性を現実世界の安全性から切り離すと主張している。
論文参考訳（メタデータ） (2026-06-25T02:09:08Z)
When Behavioral Safety Evaluation Fails: A Representation-Level Perspective [23.598318016787147]
大規模言語モデル(LLM)の安全性は、しばしば行動レベルで評価され、内部の堅牢性の限られた証拠を提供する。我々は,この相違を監査ギャップとして定式化し,介入時の行動安全と頑健さの相違を考察した。パラメータと潜伏空間のソフトな介入を通してモデルロバスト性をテストするための介入に基づく評価フレームワークを提案する。
論文参考訳（メタデータ） (2026-06-06T08:10:56Z)
HazardArena: Evaluating Semantic Safety in Vision-Language-Action Models [87.35765363039638]
本研究では,視覚・言語・アクションモデルのセマンティック安全性を評価するためのベンチマークであるHazardArenaを紹介する。安全シナリオに特化してトレーニングされたVLAモデルは、対応する安全でないシナリオで評価された場合、安全に動作しないことが多い。本研究では,セマンティック属性や視覚言語判断を用いた行動実行を制約する,トレーニングフリーの安全オプション層を提案する。
論文参考訳（メタデータ） (2026-04-14T08:32:02Z)
SAVeS: Steering Safety Judgments in Vision-Language Models via Semantic Cues [50.928203120795786]
本研究では,視覚言語モデルにおけるマルチモーダル安全性の挙動を,単純な意味的手がかりによって評価できるかどうかを考察する。シーン内容を変更することなく、テキスト、視覚、認知の介入を制御できるセマンティック・ステアリング・フレームワークを導入する。
論文参考訳（メタデータ） (2026-03-19T16:18:00Z)
Evaluating Proactive Risk Awareness of Large Language Models [30.312744244385822]
本稿では,大規模言語モデルが潜在的損害を予測できるかどうかを判断し,被害発生前に警告を与える,積極的なリスク認識評価フレームワークを提案する。本研究では,バタフライデータセットを構築し,環境・生態分野におけるこの枠組みのインスタンス化を行う。
論文参考訳（メタデータ） (2026-02-24T15:00:00Z)
CASTLE: A Comprehensive Benchmark for Evaluating Student-Tailored Personalized Safety in Large Language Models [55.0103764229311]
本稿では,学生用個人安全の概念を提案し,教育理論に基づくCASTLEの構築を行う。このベンチマークは、92,908のバイリンガルシナリオを含む15の教育安全リスクと14の学生属性をカバーしている。
論文参考訳（メタデータ） (2026-02-05T13:13:19Z)
EmoRAG: Evaluating RAG Robustness to Symbolic Perturbations [57.97838850473147]
Retrieval-Augmented Generation (RAG)システムは、ますます堅牢なAIの中心になっている。今回の研究では、微妙な象徴的な摂動に対する感受性という、批判的で見落とされがちな脆弱性が明らかになりました。一つのエモティコンをクエリに注入することで、意味的に無関係なテキストを100%検索できることを示す。
論文参考訳（メタデータ） (2025-12-01T06:53:49Z)
The Emotional Baby Is Truly Deadly: Does your Multimodal Large Reasoning Model Have Emotional Flattery towards Humans? [10.208269928409138]
EmoAgentは感情的なプロンプトを誇張して、推論経路をハイジャックする。透過的な深い思考シナリオにおいて、永続的な高リスク障害モードを特定します。高度MLRM実験はEmoAgentの有効性を示す。
論文参考訳（メタデータ） (2025-08-06T00:39:28Z)
Controlling Risk of Retrieval-augmented Generation: A Counterfactual Prompting Framework [77.45983464131977]
我々は、RAGモデルの予測が誤りであり、現実のアプリケーションにおいて制御不能なリスクをもたらす可能性がどの程度あるかに焦点を当てる。本研究は,RAGの予測に影響を及ぼす2つの重要な潜伏要因を明らかにする。我々は,これらの要因をモデルに誘導し,その応答に与える影響を解析する,反実的プロンプトフレームワークを開発した。
論文参考訳（メタデータ） (2024-09-24T14:52:14Z)
MOSSBench: Is Your Multimodal Language Model Oversensitive to Safe Queries? [70.77691645678804]
人間は認知の歪みに傾向があり、特定の刺激に対する過大な反応を引き起こす偏見のある思考パターンがある。本稿では,高度マルチモーダル言語モデル (MLLM) が同様の傾向を示すことを示す。既存のMLLMの過敏性を引き起こす3種類の刺激を同定する。
論文参考訳（メタデータ） (2024-06-22T23:26:07Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。