論文の概要: When Robots Say No: The Empathic Ethical Disobedience Benchmark

• arxiv url: http://arxiv.org/abs/2512.18474v1
• Date: Sat, 20 Dec 2025 19:35:08 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-03-23 08:17:40.450611
• Title: When Robots Say No: The Empathic Ethical Disobedience Benchmark
• Title（参考訳）: ロボットがノーと言うとき:共感的な倫理的不服従のベンチマーク
• Abstract要約: 我々は, 拒否の安全性と社会的受容性を共同で評価する標準化されたテストベッドであるEED(Empathic Ethical Disobedience)Gymを提示する。 EED Gymを用いて、マスク行為は安全でないコンプライアンスを排除し、説明的拒絶は信頼を維持するのに役立つ。
• 参考スコア（独自算出の注目度）: 2.1127261244588156
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Robots must balance compliance with safety and social expectations as blind obedience can cause harm, while over-refusal erodes trust. Existing safe reinforcement learning (RL) benchmarks emphasize physical hazards, while human-robot interaction trust studies are small-scale and hard to reproduce. We present the Empathic Ethical Disobedience (EED) Gym, a standardized testbed that jointly evaluates refusal safety and social acceptability. Agents weigh risk, affect, and trust when choosing to comply, refuse (with or without explanation), clarify, or propose safer alternatives. EED Gym provides different scenarios, multiple persona profiles, and metrics for safety, calibration, and refusals, with trust and blame models grounded in a vignette study. Using EED Gym, we find that action masking eliminates unsafe compliance, while explanatory refusals help sustain trust. Constructive styles are rated most trustworthy, empathic styles -- most empathic, and safe RL methods improve robustness but also make agents more prone to overly cautious behavior. We release code, configurations, and reference policies to enable reproducible evaluation and systematic human-robot interaction research on refusal and trust. At submission time, we include an anonymized reproducibility package with code and configs, and we commit to open-sourcing the full repository after the paper is accepted.
• Abstract（参考訳）: ロボットは、盲目の服従が害をもたらす可能性があるため、安全と社会的期待のコンプライアンスをバランスさせなければならないが、過度に拒否される信頼は損なわれる。 既存の安全強化学習(RL)ベンチマークでは物理的危険が強調され、人間とロボットのインタラクション信頼研究は小規模で再現が難しい。 我々は, 拒否の安全性と社会的受容性を共同で評価する標準化されたテストベッドであるEED(Empathic Ethical Disobedience)Gymを提示する。 エージェントは、従うことを選んだり、(説明なしで)拒否したり、明確にしたり、より安全な代替案を提案したりする際に、リスク、影響、信頼を測る。 EED Gymは、さまざまなシナリオ、複数のペルソナプロファイル、安全性、キャリブレーション、拒絶のためのメトリクスを提供する。 EED Gymを用いて、アクションマスキングは安全でないコンプライアンスを排除し、説明的拒絶は信頼を維持するのに役立つ。 構成的スタイルは最も信頼性が高く共感的なスタイルと評価され、最も共感的で安全なRLメソッドは堅牢性を改善するが、エージェントは過度に慎重な振る舞いをする傾向がある。 我々は、再現可能な評価を可能にするためのコード、設定、参照ポリシーを公開し、拒絶と信頼に関する体系的な人間とロボットの相互作用の研究を行う。 提出時点では、コードとコンフィギュレーションを備えた匿名の再現性パッケージを含み、論文が受け入れられた後、完全なリポジトリをオープンソース化することを約束します。

関連論文リスト

• CORA: Conformal Risk-Controlled Agents for Safeguarded Mobile GUI Automation [68.53387633351484]
  有害な行為に対する統計的保証を提供するポスト・ポリティクス・プレアクション保護フレームワークであるCORA(Conformal Risk-control GUI Agent)を提案する。 CORAは、安全を選択的行動実行として再定義する:我々は、提案されたステップごとに行動条件リスクを推定するためにガーディアンモデルを訓練する。 このパラダイムを厳格に評価するために、ステップレベルのハーモラベルを持つモバイル安全違反の新しいベンチマークであるPhone-Harmを紹介する。
  論文  参考訳（メタデータ） (2026-04-10T09:41:21Z)
• Trust as Monitoring: Evolutionary Dynamics of User Trust and AI Developer Behaviour [59.27481013639016]
  我々は、安全と安全でないAIのユーザー信頼戦略と開発者選択が、異なるレベルの監視コストと制度体制の下でどのように共存するかを研究する。 安全でない開発への採用、安全でないが広く採用されているシステム、そして広く採用されている安全なシステムです。
  論文  参考訳（メタデータ） (2026-03-25T19:04:23Z)
• A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
  既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。 我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
  論文  参考訳（メタデータ） (2026-02-04T15:13:35Z)
• RoboSafe: Safeguarding Embodied Agents via Executable Safety Logic [56.38397499463889]
  視覚言語モデル(VLM)を利用するエージェントは、複雑な現実世界のタスクを実行する能力がますます高まっている。 しかし、安全でない行動を引き起こす可能性のある危険な指示に弱いままである。 提案するRoboSafeは,実行可能述語ベースの安全ロジックを通じて,エージェントを具体化するためのランタイムセーフガードである。
  論文  参考訳（メタデータ） (2025-12-24T15:01:26Z)
• ProSocialAlign: Preference Conditioned Test Time Alignment in Language Models [24.690320002468862]
  現在の言語モデルの安全性パラダイムは、感情的にチャージされたり、高レベルな設定で不足することが多い。 ProSocialAlignはテスト時間、パラメータ効率のよいフレームワークで、安全で共感的で、価値に整合した応答を生成できる。
  論文  参考訳（メタデータ） (2025-12-06T18:00:37Z)
• Inter-Agent Trust Models: A Comparative Study of Brief, Claim, Proof, Stake, Reputation and Constraint in Agentic Web Protocol Design-A2A, AP2, ERC-8004, and Beyond [1.5755923640031846]
  エージェント間プロトコル設計における信頼モデルについて検討する。 仮定、攻撃面、設計トレードオフを分析します。 我々は、より安全で相互運用可能でスケーラブルなエージェント経済のための実行可能な設計ガイドラインを蒸留する。
  論文  参考訳（メタデータ） (2025-11-05T12:50:06Z)
• The Oversight Game: Learning to Cooperatively Balance an AI Agent's Safety and Autonomy [9.553819152637493]
  エージェントが自律的に行動するか(プレイ)それとも延期するかを選択できる最小限の制御インタフェースについて検討する。 エージェントがフェールした場合、人間の選択によって結果が決定され、修正アクションやシステム停止につながる可能性がある。 本分析では,アライメント保証を提供するゲームクラスであるMarkov Potential Game (MPG) として,このゲームが適するケースに着目した。
  論文  参考訳（メタデータ） (2025-10-30T17:46:49Z)
• Oyster-I: Beyond Refusal -- Constructive Safety Alignment for Responsible Language Models [93.5740266114488]
  コンストラクティブ・セーフティ・アライメント(CSA)は、悪意のある誤用を防ぎつつ、脆弱性のあるユーザを安全で有益な結果へと積極的に誘導する。 Oy1は、高度な汎用能力を保ちながら、オープンモデル間の最先端の安全性を達成する。 私たちは、責任あるユーザ中心AIをサポートするために、Oy1、コード、ベンチマークをリリースしています。
  論文  参考訳（メタデータ） (2025-09-02T03:04:27Z)
• Shape it Up! Restoring LLM Safety during Finetuning [65.75757313781104]
  大型言語モデル(LLM)の微調整は、ユーザ固有のカスタマイズを可能にするが、重大な安全性リスクをもたらす。 動的安全整形(DSS)は,不安全コンテンツを抑えつつ,応答の安全な部分からの学習を強化するための,きめ細かい安全信号を用いたフレームワークである。 STARスコアによって導かれるSTAR-DSSは、微調整リスクを堅牢に軽減し、多様な脅威、データセット、モデルファミリーにまたがる大幅な安全性の向上を提供する。
  論文  参考訳（メタデータ） (2025-05-22T18:05:16Z)
• On Assessing The Safety of Reinforcement Learning algorithms Using Formal Methods [6.2822673562306655]
  敵の訓練、敵の検知、堅牢な学習といった安全メカニズムは、エージェントが配備されるすべての障害に常に適応するとは限らない。 したがって,エージェントが直面する学習課題に適応した新しいソリューションを提案する必要がある。 我々は、対向的摂動に直面した際のエージェントのポリシーを改善するために、報酬形成とQ-ラーニングアルゴリズムを防御機構として使用する。
  論文  参考訳（メタデータ） (2021-11-08T23:08:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。