論文の概要: Information-Theoretic Aggregation of Ethical Attributes in Simulated-Command
- arxiv url: http://arxiv.org/abs/2507.12862v1
- Date: Thu, 17 Jul 2025 07:34:24 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-07-18 20:10:24.388481
- Title: Information-Theoretic Aggregation of Ethical Attributes in Simulated-Command
- Title（参考訳）: 模擬コマンドにおける倫理属性の情報理論集約
- Authors: Hussein Abbass, Taylan Akay, Harrison Tolley,
- Abstract要約: 生成シミュレーションにおいて、エージェントが倫理的意味を持つ決定オプションに直面したとき、倫理的属性を動的に重み付けする方法を検討する。
我々は、シミュレーションベースのテストおよび評価において、倫理的属性の重みを自動計算するための異なるアプローチを文献から引き出す。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In the age of AI, human commanders need to use the computational powers available in today's environment to simulate a very large number of scenarios. Within each scenario, situations occur where different decision design options could have ethical consequences. Making these decisions reliant on human judgement is both counter-productive to the aim of exploring very large number of scenarios in a timely manner and infeasible when considering the workload needed to involve humans in each of these choices. In this paper, we move human judgement outside the simulation decision cycle. Basically, the human will design the ethical metric space, leaving it to the simulated environment to explore the space. When the simulation completes its testing cycles, the testing environment will come back to the human commander with a few options to select from. The human commander will then exercise human-judgement to select the most appropriate course of action, which will then get executed accordingly. We assume that the problem of designing metrics that are sufficiently granular to assess the ethical implications of decisions is solved. Subsequently, the fundamental problem we look at in this paper is how to weight ethical decisions during the running of these simulations; that is, how to dynamically weight the ethical attributes when agents are faced with decision options with ethical implications during generative simulations. The multi-criteria decision making literature has started to look at nearby problems, where the concept of entropy has been used to determine the weights during aggregation. We draw from that literature different approaches to automatically calculate the weights for ethical attributes during simulation-based testing and evaluation.
- Abstract（参考訳）: AIの時代、人間の指揮官は、非常に多くのシナリオをシミュレートするために、今日の環境で利用可能な計算能力を使用する必要があります。
各シナリオ内では、異なる決定設計オプションが倫理的な結果をもたらす可能性のある状況が発生します。
これらの決定を人間の判断に頼らせることは、非常に多くのシナリオをタイムリーに探索する目的と、それぞれの選択に人間を巻き込むために必要な作業負荷を考える場合の両方に反生産的である。
本稿では,シミュレーション決定サイクルの外に人間の判断を移動させる。
基本的には、人間は倫理的距離空間を設計し、空間を探索するためにシミュレーションされた環境に任せる。
シミュレーションがテストサイクルを完了すると、テスト環境は人間のコマンドに戻され、そこから選択するオプションがいくつかある。
人間の指揮官は人間の判断を行使し、最も適切な行動方法を選択し、それに従って処刑される。
意思決定の倫理的意味を評価するのに十分な粒度のメトリクスを設計する問題は解決されていると仮定する。
次に、本論文では、これらのシミュレーションの実行中に倫理的決定を重み付けする方法、すなわち、生成シミュレーション中に倫理的意味を持つ決定オプションに直面したエージェントに対して、倫理的属性を動的に重み付けする方法について述べる。
複数基準の意思決定文献は、エントロピーの概念が集約中の重みを決定するために使われている近くの問題に注目し始めている。
我々は、シミュレーションベースのテストおよび評価において、倫理的属性の重みを自動計算するための異なるアプローチを文献から引き出す。
関連論文リスト
- The Odyssey of the Fittest: Can Agents Survive and Still Be Good? [10.60691612679966]
この研究は、軽量で適応的なテキストベースの冒険ゲームであるOdysseyを紹介した。
オデッセイは、生物学的ドライブを3つの異なるエージェントに実装することの倫理的意味を調べている。
分析によると、危険が増すと、エージェントの倫理的行動は予測不能になる。
論文 参考訳（メタデータ） (2025-02-08T04:17:28Z) - Does AI help humans make better decisions? A statistical evaluation framework for experimental and observational studies [0.43981305860983716]
我々は、人間とAI、AIの3つの代替意思決定システムのパフォーマンスを比較する方法を示す。
リスクアセスメントの勧告は、現金保釈を課す裁判官の決定の分類精度を向上しないことがわかった。
論文 参考訳（メタデータ） (2024-03-18T01:04:52Z) - User Behavior Simulation with Large Language Model based Agents [116.74368915420065]
LLMベースのエージェントフレームワークを提案し,実際のユーザ動作をシミュレートするサンドボックス環境を設計する。
実験結果から,本手法のシミュレーション行動は実人の行動に非常に近いことが判明した。
論文 参考訳（メタデータ） (2023-06-05T02:58:35Z) - Learning signatures of decision making from many individuals playing the
same game [54.33783158658077]
我々は、個人の「行動スタイル」を符号化する表現を学習する予測フレームワークを設計する。
我々は,3本腕のバンディットタスクを行う1,000人の人間による大規模行動データセットに本手法を適用した。
論文 参考訳（メタデータ） (2023-02-21T21:41:53Z) - Randomized Classifiers vs Human Decision-Makers: Trustworthy AI May Have
to Act Randomly and Society Seems to Accept This [0.8889304968879161]
我々は、人的決定に似て、人工エージェントの判断は必然的に道徳的な原則に根ざすべきであると感じている。
しかし、意思決定者が真に倫理的(倫理的理論に基づく)かつ公正(公平性の概念による)な決定を行うことができるのは、決定を根拠とするすべての関連する要因に関する完全な情報が意思決定時に利用可能である場合のみである。
論文 参考訳（メタデータ） (2021-11-15T05:39:02Z) - CausalCity: Complex Simulations with Agency for Causal Discovery and
Reasoning [68.74447489372037]
本稿では,因果探索と反事実推論のためのアルゴリズムの開発を目的とした,高忠実度シミュレーション環境を提案する。
私たちの作業の中核となるコンポーネントは、複雑なシナリオを定義して作成することが簡単になるような、テキストの緊急性を導入することです。
我々は3つの最先端の手法による実験を行い、ベースラインを作成し、この環境の可利用性を強調する。
論文 参考訳（メタデータ） (2021-06-25T00:21:41Z) - Learning Optimal Decision Making for an Industrial Truck Unloading Robot
using Minimal Simulator Runs [15.208516853395453]
私たちのような高忠実なロボットシミュレータのほとんどは、時間がかかる。
トラックの降ろし問題に対して, 実験により, シミュレーター走行の大幅な削減が達成できることが示唆された。
論文 参考訳（メタデータ） (2021-03-13T06:22:23Z) - Indecision Modeling [50.00689136829134]
AIシステムは人間の価値観に合わせて行動することが重要である。
人々はしばしば決定的ではなく、特に彼らの決定が道徳的な意味を持つときです。
論文 参考訳（メタデータ） (2020-12-15T18:32:37Z) - Generating Human-Like Movement: A Comparison Between Two Approaches
Based on Environmental Features [4.511923587827301]
環境特性に基づいて人間のような軌道を生成するための2つの新しいアルゴリズムが提示されている。
人間の類似性は、最終生成軌道を現実的なものと判断する人間の専門家によってテストされている。
予め定義した基準により,実際の軌道に近い軌道を生成するにもかかわらず,特徴ベースA*アルゴリズムは,アトラクションベースA*アルゴリズムと比較して時間効率が低いことを示す。
論文 参考訳（メタデータ） (2020-12-11T16:45:32Z) - A User's Guide to Calibrating Robotics Simulators [54.85241102329546]
本稿では,シミュレーションで学習したモデルやポリシーを現実世界に伝達することを目的とした,様々なアルゴリズムの研究のためのベンチマークとフレームワークを提案する。
我々は、様々なアルゴリズムの性能に関する洞察を特徴付け、提供するために、広く知られたシミュレーション環境の実験を行う。
我々の分析は、この分野の実践者にとって有用であり、sim-to-realアルゴリズムの動作と主特性について、より深い選択をすることができる。
論文 参考訳（メタデータ） (2020-11-17T22:24:26Z) - A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous
Algorithmic Scores [85.12096045419686]
本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。
まず、ツールがデプロイされたときに人間が行動を変えることを示します。
表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
論文 参考訳（メタデータ） (2020-02-19T07:27:32Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。