論文の概要: AI loyalty: A New Paradigm for Aligning Stakeholder Interests
- arxiv url: http://arxiv.org/abs/2003.11157v1
- Date: Tue, 24 Mar 2020 23:55:59 GMT
- ステータス: 処理完了
- システム内更新日: 2023-05-28 00:47:54.926994
- Title: AI loyalty: A New Paradigm for Aligning Stakeholder Interests
- Title(参考訳): AIへの忠誠 - 利害関係の調整のための新しいパラダイム
- Authors: Anthony Aguirre, Gaia Dempsey, Harry Surden, and Peter B. Reiner
- Abstract要約: 我々は、AI倫理における他の重要な価値と共に、技術設計プロセスにおいてAIの忠誠心が考慮されるべきであると主張する。
我々は、将来のAIシステムにAI忠誠を組み込むための様々なメカニズムについて論じる。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: When we consult with a doctor, lawyer, or financial advisor, we generally
assume that they are acting in our best interests. But what should we assume
when it is an artificial intelligence (AI) system that is acting on our behalf?
Early examples of AI assistants like Alexa, Siri, Google, and Cortana already
serve as a key interface between consumers and information on the web, and
users routinely rely upon AI-driven systems like these to take automated
actions or provide information. Superficially, such systems may appear to be
acting according to user interests. However, many AI systems are designed with
embedded conflicts of interests, acting in ways that subtly benefit their
creators (or funders) at the expense of users. To address this problem, in this
paper we introduce the concept of AI loyalty. AI systems are loyal to the
degree that they are designed to minimize, and make transparent, conflicts of
interest, and to act in ways that prioritize the interests of users. Properly
designed, such systems could have considerable functional and competitive - not
to mention ethical - advantages relative to those that do not. Loyal AI
products hold an obvious appeal for the end-user and could serve to promote the
alignment of the long-term interests of AI developers and customers. To this
end, we suggest criteria for assessing whether an AI system is sufficiently
transparent about conflicts of interest, and acting in a manner that is loyal
to the user, and argue that AI loyalty should be considered during the
technological design process alongside other important values in AI ethics such
as fairness, accountability privacy, and equity. We discuss a range of
mechanisms, from pure market forces to strong regulatory frameworks, that could
support incorporation of AI loyalty into a variety of future AI systems.
- Abstract(参考訳): 医師、弁護士、財務顧問と相談する時、一般的に彼らは最善の利益のために行動していると仮定します。
しかし、人工知能(AI)システムが私たちの代理として機能していると仮定すればどうだろう?
Alexa、Siri、Google、CortanaといったAIアシスタントの初期の例は、すでにWeb上の消費者と情報の間の重要なインターフェースとして機能しており、ユーザーはこのようなAI駆動システムを使って自動アクションや情報提供を行っている。
表面的には、そのようなシステムはユーザーの興味に応じて機能しているように見える。
しかし、多くのAIシステムは興味の衝突を埋め込んで設計されており、ユーザーを犠牲にしてクリエイター(あるいは資金提供者)に微妙に利益をもたらすように振舞っている。
この問題に対処するために,本稿では,AI忠誠の概念を紹介する。
AIシステムは、関心の衝突を最小限に抑え、透明性を保ち、ユーザーの利益を優先する方法で行動するように設計された程度に忠実である。
適切に設計されていると、そのようなシステムは、倫理的に言うまでもなく、かなり機能的で競争力がある。
ローヤルなAI製品はエンドユーザーにとって明らかな魅力であり、AI開発者と顧客の長期的な関心の一致を促進するのに役立つ。
この目的のために、私たちは、AIシステムが関心の対立に対して十分に透明であるかどうかを評価するための基準を提案し、ユーザーにとって忠実な方法で行動し、公正性、説明責任のプライバシー、株式といったAI倫理における他の重要な価値と並行して、技術設計プロセスにおいてAIの忠誠を考慮すべきである、と論じる。
我々は、純粋な市場勢力から強力な規制フレームワークに至るまで、さまざまなAIシステムにAI忠誠を組み込むための様々なメカニズムについて論じる。
関連論文リスト
- Fairness in AI and Its Long-Term Implications on Society [68.8204255655161]
AIフェアネスを詳しく見て、AIフェアネスの欠如が、時間の経過とともにバイアスの深化につながるかを分析します。
偏りのあるモデルが特定のグループに対してよりネガティブな現実的な結果をもたらすかについて議論する。
問題が続くと、他のリスクとの相互作用によって強化され、社会不安という形で社会に深刻な影響を及ぼす可能性がある。
論文 参考訳(メタデータ) (2023-04-16T11:22:59Z) - Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。
本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。
43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
論文 参考訳(メタデータ) (2022-11-12T21:54:05Z) - Never trust, always verify : a roadmap for Trustworthy AI? [12.031113181911627]
我々はAIベースのシステムのコンテキストにおける信頼を検証し、AIシステムが信頼に値するものとなることの意味を理解する。
我々は、AIに対する信頼(resp. zero-trust)モデルを提案し、AIシステムの信頼性を保証するために満足すべき特性のセットを提案する。
論文 参考訳(メタデータ) (2022-06-23T21:13:10Z) - Fairness in Agreement With European Values: An Interdisciplinary
Perspective on AI Regulation [61.77881142275982]
この学際的立場の論文は、AIにおける公平性と差別に関する様々な懸念を考察し、AI規制がそれらにどう対処するかについて議論する。
私たちはまず、法律、(AI)産業、社会技術、そして(道徳)哲学のレンズを通して、AIと公正性に注目し、様々な視点を提示します。
我々は、AI公正性の懸念の観点から、AI法の取り組みを成功に導くために、AIレギュレーションが果たす役割を特定し、提案する。
論文 参考訳(メタデータ) (2022-06-08T12:32:08Z) - Cybertrust: From Explainable to Actionable and Interpretable AI (AI2) [58.981120701284816]
Actionable and Interpretable AI (AI2)は、AIレコメンデーションにユーザの信頼度を明確に定量化し視覚化する。
これにより、AIシステムの予測を調べてテストすることで、システムの意思決定に対する信頼の基盤を確立することができる。
論文 参考訳(メタデータ) (2022-01-26T18:53:09Z) - Rebuilding Trust: Queer in AI Approach to Artificial Intelligence Risk
Management [0.0]
信頼できるAIは、AIシステムとそのクリエイターに対する信頼が失われたり、そもそも存在しないため、重要なトピックになっている。
私たちは、信頼できるAI開発、デプロイメント、監視のフレームワークは、フェミニストと非エクスプロイト的デザインの原則の両方を取り入れなければならないと論じています。
論文 参考訳(メタデータ) (2021-09-21T21:22:58Z) - Trustworthy AI: A Computational Perspective [54.80482955088197]
我々は,信頼に値するAIを実現する上で最も重要な6つの要素,(i)安全とロバスト性,(ii)非差別と公正,(iii)説明可能性,(iv)プライバシー,(v)説明可能性と監査性,(vi)環境ウェルビーイングに焦点をあてる。
各次元について、分類学に基づく最近の関連技術について概観し、実世界のシステムにおけるそれらの応用を概説する。
論文 参考訳(メタデータ) (2021-07-12T14:21:46Z) - Building Bridges: Generative Artworks to Explore AI Ethics [56.058588908294446]
近年,人工知能(AI)技術が社会に与える影響の理解と緩和に重点が置かれている。
倫理的AIシステムの設計における重要な課題は、AIパイプラインには複数の利害関係者があり、それぞれがそれぞれ独自の制約と関心を持っていることだ。
このポジションペーパーは、生成的アートワークが、アクセス可能で強力な教育ツールとして機能することで、この役割を果たすことができる可能性のいくつかを概説する。
論文 参考訳(メタデータ) (2021-06-25T22:31:55Z) - Socially Responsible AI Algorithms: Issues, Purposes, and Challenges [31.382000425295885]
技術者とAI研究者は、信頼できるAIシステムを開発する責任がある。
AIと人間の長期的な信頼を構築するためには、アルゴリズムの公正性を超えて考えることが鍵だ、と私たちは主張する。
論文 参考訳(メタデータ) (2021-01-01T17:34:42Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。