論文の概要: Reasoning and Planning with Dynamically Changing Norms
- arxiv url: http://arxiv.org/abs/2605.27622v1
- Date: Tue, 26 May 2026 19:39:43 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-05-28 17:38:55.486603
- Title: Reasoning and Planning with Dynamically Changing Norms
- Title（参考訳）: 動的に変化するノルムによる推論と計画
- Authors: Taylor Olson, Roberto Salas-Damian, Kenneth D. Forbus,
- Abstract要約: 本稿では,人間-AI環境における規範を動的に変化させたプランニングを導くためのアプローチを提案する。
我々は,規範的対立を解決するためのデファシブルな計算と,計画上のガードレールとして動的に変化する規範を使用するためのアプローチに寄与する。
我々は、我々のアプローチを形式的証明で理論的に実証し、自然言語対話タスクにおいて、AIエージェントであるSocialBotと経験的に実証する。
- 参考スコア（独自算出の注目度）: 7.923270106311363
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: To safely interact with humans, AI agents must both know our norms and consider them during planning. However, such norm-guided planning has been less explored, only within communities of artificial agents, and has ignored the dynamic nature of norms. This paper instead presents an approach to guiding planning with dynamically changing norms in a human-AI setting. We contribute a defeasible calculus for resolving normative conflicts and an approach to using such dynamically changing norms as guard rails on plans. We theoretically demonstrate our approach with formal proofs and empirically with an AI agent, SocialBot, on a natural language dialogue task.
- Abstract（参考訳）: 人間と安全に対話するには、AIエージェントは私たちの規範を知り、計画中にそれらを考慮しなければなりません。
しかし、そのようなノルム誘導計画は、人工エージェントのコミュニティ内でのみ研究されておらず、ノルムの動的な性質を無視している。
そこで本論文では,人間-AI環境における規範を動的に変化させるプランニングの指針を提案する。
我々は,規範的対立を解決するためのデファシブルな計算と,計画上のガードレールとして動的に変化する規範を使用するためのアプローチに寄与する。
我々は、我々のアプローチを形式的証明で理論的に実証し、自然言語対話タスクにおいて、AIエージェントであるSocialBotと経験的に実証する。
関連論文リスト
- Normative Common Ground Replication (NormCoRe): Replication-by-Translation for Studying Norms in Multi-agent AI [4.033017316711126]
我々は,人体実験の設計をMAAI環境に体系的に翻訳するために,ノルマティブ・コモン・グラウンド・レプリケーション(NormCoRe)を提案する。
本稿では,AIエージェント研究における規範的判断が人事基準と異なる可能性を示し,エージェントペルソナのインスタンス化に使用される基礎モデルと言語の選択に敏感であることを示す。
論文 参考訳（メタデータ） (2026-03-12T14:24:29Z) - Cultural Compass: A Framework for Organizing Societal Norms to Detect Violations in Human-AI Conversations [29.660677031436308]
我々は、モデルが認識すべき人間-AIの規範と、人間-AIの相互作用そのものに適用すべき人間-AIの相互作用規範とを区別する規範の分類法を導入する。
我々は,自然主義的,オープンエンドな環境下でのモデルのノルム順守を自動的に評価するために,我々の分類をいかに運用するかを示す。
論文 参考訳（メタデータ） (2026-01-12T20:11:40Z) - Resource Rational Contractualism Should Guide AI Alignment [69.07915246220985]
契約主義的アライメントは、多様な利害関係者が支持する合意の中で決定を下すことを提案する。
我々は、AIシステムが合理的な当事者が形成する合意を近似する枠組みであるリソース・リアリズムを提案する。
RRC対応エージェントは、効率的に機能するだけでなく、変化する人間の社会世界への適応と解釈を動的に行うことができる。
論文 参考訳（メタデータ） (2025-06-20T18:57:13Z) - EgoNormia: Benchmarking Physical Social Norm Understanding [52.87904722234434]
EGONORMIAは、安全性、プライバシ、プロキシ、丁寧さ、協力性、コーディネーション/プロアクティビティ、コミュニケーション/レポータビリティの7つの標準カテゴリにまたがる。
我々の研究は、現在の最先端のビジョン言語モデル(VLM)は、堅固な標準理解が欠如していることを示し、EGONORMIAでは最大54%、EGONORMIAでは65%と評価された。
論文 参考訳（メタデータ） (2025-02-27T19:54:16Z) - Technology as uncharted territory: Contextual integrity and the notion of AI as new ethical ground [51.85131234265026]
私は、責任と倫理的AIを促進する努力が、確立された文脈規範に対するこの軽視に必然的に貢献し、正当化することができると論じます。
私は、道徳的保護よりも道徳的革新のAI倫理における現在の狭い優先順位付けに疑問を呈する。
論文 参考訳（メタデータ） (2024-12-06T15:36:13Z) - Measuring Value Alignment [12.696227679697493]
本稿では,AIシステムと人的価値の整合性を定量化する新しいフォーマリズムを提案する。
このフォーマリズムを利用することで、AI開発者と倫理学者は、人間の価値と調和して動作するように、AIシステムを設計し、評価することができる。
論文 参考訳（メタデータ） (2023-12-23T12:30:06Z) - Shaping New Norms for AI [0.0]
記事は、AIの普及拡大に対する社会の反応を理解するための解釈ツールを読者に提供することを目的としている。
AIが将来の社会規範の形成にどのような影響を及ぼすかについての展望は、オープンで包括的で透明な公開談話において、オープンな社会が正式な審議プロセスを維持することの重要性を強調している。
論文 参考訳（メタデータ） (2023-07-17T15:31:58Z) - Norm Identification through Plan Recognition [22.387008072671005]
社会的なルールは、マルチエージェント社会に行動的安定性の度合いを提供することを目的としている。
規範的システムの多くの実装は、以下の仮定の様々な組み合わせを仮定する。
解析に基づく計画認識と階層型タスクネットワーク(HTN)計画機構を組み合わせたノルム識別機構を開発する。
論文 参考訳（メタデータ） (2020-10-06T11:18:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。