論文の概要: Toward Constraint Compliant Goal Formulation and Planning

• arxiv url: http://arxiv.org/abs/2405.12862v1
• Date: Tue, 21 May 2024 15:26:06 GMT
• ステータス: 処理完了
• システム内更新日: 2024-05-22 12:50:33.594302
• Title: Toward Constraint Compliant Goal Formulation and Planning
• Title（参考訳）: 制約のあるゴールの定式化と計画に向けて
• Authors: Steven J. Jones Robert E. Wray,
• Abstract要約: 異なる倫理的枠組みにおける知識の符号化がエージェントの目的の定式化と計画処理にどのように影響するかを示す。 倫理的規範に従うための非オントロジ的フレーミングと実用的フレーミングのトレードオフについて検討する。 本研究は,目標定式化・計画中の倫理的対立を解決する上で,メタ認知的判断に重要な役割を担っていることを示唆する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: One part of complying with norms, rules, and preferences is incorporating constraints (such as knowledge of ethics) into one's goal formulation and planning processing. We explore in a simple domain how the encoding of knowledge in different ethical frameworks influences an agent's goal formulation and planning processing and demonstrate ability of an agent to satisfy and satisfice when its collection of relevant constraints includes a mix of "hard" and "soft" constraints of various types. How the agent attempts to comply with ethical constraints depends on the ethical framing and we investigate tradeoffs between deontological framing and utilitarian framing for complying with an ethical norm. Representative scenarios highlight how performing the same task with different framings of the same norm leads to different behaviors. Our explorations suggest an important role for metacognitive judgments in resolving ethical conflicts during goal formulation and planning.
• Abstract（参考訳）: 規範、規則、嗜好に従うことの1つは、目標の定式化と計画処理に制約(倫理の知識など)を取り入れることである。 異なる倫理的枠組みにおける知識の符号化がエージェントの目的の定式化と計画処理にどのように影響するかを簡単なドメインで検討し、関連する制約の集合が様々なタイプの「ハード」と「ソフト」の制約の混合を含む場合、エージェントが満足し満足する能力を示す。 エージェントが倫理的制約にどう従おうとするかは倫理的枠組みに依存しており、我々は倫理的規範に従うための非倫理的枠組みと実用的枠組みのトレードオフを調査する。 代表的なシナリオは、同じ規範の異なるフレーミングで同じタスクを実行することが、どのように異なる振る舞いをもたらすかを強調する。 本研究は,目標定式化・計画中の倫理的対立を解決する上で,メタ認知的判断に重要な役割を担っていることを示唆する。

関連論文リスト

• Ethical and Scalable Automation: A Governance and Compliance Framework for Business Applications [0.0]
  本稿では、AIが倫理的で、制御可能で、実行可能で、望ましいものであることを保証するフレームワークを紹介する。 異なるケーススタディは、学術と実践の両方の環境でAIを統合することで、このフレームワークを検証する。
  論文  参考訳（メタデータ） (2024-09-25T12:39:28Z)
• Normative Requirements Operationalization with Large Language Models [3.456725053685842]
  規範的な非機能要件は、社会的、法的、倫理的、共感的、文化的規範の違反を避けるために、システムが観察しなければならない制約を規定する。 近年の研究では、規範的要件を特定するためにドメイン固有言語を使用してこの問題に対処している。 本稿では,システム機能の抽象表現間の意味的関係を抽出するために,大規模言語モデルを用いた補完的アプローチを提案する。
  論文  参考訳（メタデータ） (2024-04-18T17:01:34Z)
• Resolving Ethics Trade-offs in Implementing Responsible AI [18.894725256708128]
  初歩的なものから複雑なものまで、トレードオフを通じて緊張に対処するための5つのアプローチをカバーします。 いずれのアプローチも、すべての組織、システム、アプリケーションに適していない可能性が高い。 i)緊張の積極的な識別、(ii)倫理的側面の優先順位付けと重み付け、(iii)トレードオフ決定の正当化と文書化からなる枠組みを提案する。
  論文  参考訳（メタデータ） (2024-01-16T04:14:23Z)
• Informed AI Regulation: Comparing the Ethical Frameworks of Leading LLM Chatbots Using an Ethics-Based Audit to Assess Moral Reasoning and Normative Values [0.0]
  倫理に基づく監査は、急速に成長するAIの安全性と規制において重要な役割を担っている。 本稿では,GPT-4を含む8つの主要な商用およびオープンソースの大規模言語モデルについて,倫理に基づく監査を行う。
  論文  参考訳（メタデータ） (2024-01-09T14:57:30Z)
• Code Models are Zero-shot Precondition Reasoners [83.8561159080672]
  シーケンシャルな意思決定タスクのために、コード表現を使ってアクションの前提条件を推論します。 本稿では,政策によって予測される行動が前提条件と一致していることを保証する事前条件対応行動サンプリング戦略を提案する。
  論文  参考訳（メタデータ） (2023-11-16T06:19:27Z)
• Fairness in Agreement With European Values: An Interdisciplinary Perspective on AI Regulation [61.77881142275982]
  この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。 私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。 我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
  論文  参考訳（メタデータ） (2022-06-08T12:32:08Z)
• Towards a multi-stakeholder value-based assessment framework for algorithmic systems [76.79703106646967]
  我々は、価値間の近さと緊張を可視化する価値に基づくアセスメントフレームワークを開発する。 我々は、幅広い利害関係者に評価と検討のプロセスを開放しつつ、それらの運用方法に関するガイドラインを提示する。
  論文  参考訳（メタデータ） (2022-05-09T19:28:32Z)
• Transparency, Compliance, And Contestability When Code Is(n't) Law [91.85674537754346]
  技術的なセキュリティ機構と法的なプロセスの両方が、一連の規範に従って誤った行動を扱うメカニズムとして機能する。 彼らは一般的な類似点を共有しているが、どう定義されているか、行動し、被験者に与える影響にも明確な違いがある。 本稿では,両機構の類似点と相違点を,誤動作の対処方法として考察する。
  論文  参考訳（メタデータ） (2022-05-08T18:03:07Z)
• Active Inference in Robotics and Artificial Agents: Survey and Challenges [51.29077770446286]
  我々は、状態推定、制御、計画、学習のためのアクティブ推論の最先端理論と実装についてレビューする。 本稿では、適応性、一般化性、堅牢性の観点から、その可能性を示す関連する実験を紹介する。
  論文  参考訳（メタデータ） (2021-12-03T12:10:26Z)
• Normative Disagreement as a Challenge for Cooperative AI [56.34005280792013]
  典型的な協調誘導学習アルゴリズムは、問題の解決に協力することができないと論じる。 我々は,ノルム適応政策のクラスを開発し,これらが協調性を著しく向上させることを示す実験を行った。
  論文  参考訳（メタデータ） (2021-11-27T11:37:42Z)
• Computability, Complexity, Consistency and Controllability: A Four C's Framework for cross-disciplinary Ethical Algorithm Research [1.8275108630751844]
  倫理的アルゴリズム文学における関連する問題に関する学際的理解の促進に有用な枠組みを考案した。 アルゴリズムの研究と設計に関わる科学において,倫理学,哲学学,集団倫理学の知見がいかに関連し,翻訳可能であるかを示す。
  論文  参考訳（メタデータ） (2021-01-30T17:03:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。