論文の概要: Reflexive Design for Fairness and Other Human Values in Formal Models
- arxiv url: http://arxiv.org/abs/2010.05084v2
- Date: Wed, 16 Jun 2021 22:24:05 GMT
- ステータス: 処理完了
- システム内更新日: 2023-04-29 11:13:17.806743
- Title: Reflexive Design for Fairness and Other Human Values in Formal Models
- Title(参考訳): フォーマルモデルにおけるフェアネスとその他の人的価値の反射設計
- Authors: Benjamin Fish, Luke Stark
- Abstract要約: 公平さなどの人的価値を取り入れたアルゴリズムやその他の形式モデルは、コンピュータ科学でますます人気が高まっている。
人間の価値を形式モデルに適切に組み込むための4つの反射的値 - 値の忠実さ、適切な精度、値の正当性、および値の競合 - を開発する。
- 参考スコア(独自算出の注目度): 2.8935588665357077
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: Algorithms and other formal models purportedly incorporating human values
like fairness have grown increasingly popular in computer science. In response
to sociotechnical challenges in the use of these models, designers and
researchers have taken widely divergent positions on how formal models
incorporating aspects of human values should be used: encouraging their use,
moving away from them, or ignoring the normative consequences altogether. In
this paper, we seek to resolve these divergent positions by identifying the
main conceptual limits of formal modeling, and develop four reflexive
values--value fidelity, appropriate accuracy, value legibility, and value
contestation--vital for incorporating human values adequately into formal
models. We then provide a brief methodology for reflexively designing formal
models incorporating human values.
- Abstract(参考訳): 公平さなどの人的価値を取り入れたアルゴリズムやその他の形式モデルは、コンピュータ科学でますます人気が高まっている。
これらのモデルの使用における社会技術的課題に応えて、デザイナーと研究者は、人間の価値の側面を取り入れた形式的なモデルがどのように使われるべきかについて、広く異なる立場を取ってきた。
本稿では,フォーマルなモデリングの主要な概念的限界を同定し,人間の価値を形式的なモデルに適切に組み込むための4つの反射的値 – 値の忠実さ,適切な正確性,価値の正当性,価値の競合性 – を求める。
次に、人間の価値を取り入れた形式モデルを反射的に設計するための簡単な方法論を提案する。
関連論文リスト
- Rethinking Model Evaluation as Narrowing the Socio-Technical Gap [34.08410116336628]
モデル評価の実践は、この均質化によってもたらされる課題や責任に対処するために、重要なタスクを負わなければならない、と我々は主張する。
我々は,現実世界の社会要求に基づく評価手法の開発をコミュニティに促す。
論文 参考訳(メタデータ) (2023-06-01T00:01:43Z) - Bridging the Gap: A Survey on Integrating (Human) Feedback for Natural
Language Generation [68.9440575276396]
この調査は、人間のフィードバックを利用して自然言語生成を改善した最近の研究の概要を提供することを目的としている。
まず、フィードバックの形式化を包括的に導入し、この形式化に続いて既存の分類学研究を特定・整理する。
第二に、フィードバックを形式や目的によってどのように記述するかを議論し、フィードバック(トレーニングやデコード)を直接使用したり、フィードバックモデルをトレーニングしたりするための2つのアプローチについて取り上げる。
第3に、AIフィードバックの生まれたばかりの分野の概要を紹介します。これは、大きな言語モデルを利用して、一連の原則に基づいて判断し、必要最小限にします。
論文 参考訳(メタデータ) (2023-05-01T17:36:06Z) - Minimal Value-Equivalent Partial Models for Scalable and Robust Planning
in Lifelong Reinforcement Learning [56.50123642237106]
モデルに基づく強化学習における一般的な実践は、エージェントの環境のあらゆる側面をモデル化するモデルを学ぶことである。
このようなモデルは、生涯にわたる強化学習シナリオにおいて、スケーラブルで堅牢な計画を実行するのに特に適していない、と我々は主張する。
我々は,「最小値部分モデル」と呼ぶ,環境の関連する側面のみをモデル化する新しい種類のモデルを提案する。
論文 参考訳(メタデータ) (2023-01-24T16:40:01Z) - Are Neural Topic Models Broken? [81.15470302729638]
トピックモデルの自動評価と人的評価の関係について検討する。
ニューラルトピックモデルは、確立された古典的手法と比較して、両方の点においてより悪くなる。
論文 参考訳(メタデータ) (2022-10-28T14:38:50Z) - Mimetic Models: Ethical Implications of AI that Acts Like You [5.843033621853535]
人工知能研究における新たなテーマは、特定の人々の決定と振る舞いをシミュレートするモデルの作成である。
われわれは, 倫理的, 社会的問題に対処するための枠組みを構築した。
論文 参考訳(メタデータ) (2022-07-19T16:41:36Z) - Exploring Alignment of Representations with Human Perception [47.53970721813083]
モデルによって類似した表現にマッピングされた入力は、人間によっても同様に認識されるべきであることを示す。
我々のアプローチは、モデルが人間の知覚に合致する程度を測ります。
アーキテクチャやトレーニングパラダイム,トレーニング損失,データ拡張といったモデルのさまざまな特性が,人間の知覚に整合した表現の学習において重要な役割を担っていることが分かりました。
論文 参考訳(メタデータ) (2021-11-29T17:26:50Z) - On the Opportunities and Risks of Foundation Models [256.61956234436553]
これらのモデルの基礎モデルは、批判的に中心的だが不完全な性格を根底から立証するものです。
本報告では,基礎モデルの可能性とリスクについて概説する。
これらの疑問に対処するためには、基礎モデルに関する重要な研究の多くは、深い学際的なコラボレーションが必要であると信じている。
論文 参考訳(メタデータ) (2021-08-16T17:50:08Z) - Human-Understandable Decision Making for Visual Recognition [30.30163407674527]
モデル学習プロセスに人間の知覚の優先順位を組み込むことにより,深層ニューラルネットワークを訓練する新たなフレームワークを提案する。
提案モデルの有効性を2つの古典的視覚認識タスクで評価する。
論文 参考訳(メタデータ) (2021-03-05T02:07:33Z) - On the model-based stochastic value gradient for continuous
reinforcement learning [50.085645237597056]
モデルベースエージェントは,サンプル効率と最終報酬の両方の観点から,最先端のモデルフリーエージェントより優れていることを示す。
以上の結果から,モデルに基づく政策評価がより注目に値することが示唆された。
論文 参考訳(メタデータ) (2020-08-28T17:58:29Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。