論文の概要: From decision aiding to the massive use of algorithms: where does the responsibility stand?

• arxiv url: http://arxiv.org/abs/2406.13140v1
• Date: Wed, 19 Jun 2024 01:10:34 GMT
• ステータス: 処理完了
• システム内更新日: 2024-06-21 23:38:44.265837
• Title: From decision aiding to the massive use of algorithms: where does the responsibility stand?
• Title（参考訳）: 意思決定の補助からアルゴリズムの大量使用に至るまで、責任はどこにあるのか?
• Authors: Odile Bellenguez, Nadia Branuer, Alexis Tsoukiàs,
• Abstract要約: 私たちが示すのは、彼らが完全な使用状況や結果を受け入れることができないという事実が、到達不可能な限界につながっているという事実です。 一方、技術の使用は、たとえその特性に制限があるとしても、決して責任を負わない。 記事は、その限界が徐々に進化してきたことを示し、未考の問題と責任共有の失敗を残しているように構成されている。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: In the very large debates on ethics of algorithms, this paper proposes an analysis on human responsibility. On one hand, algorithms are designed by some humans, who bear a part of responsibility in the results and unexpected impacts. Nevertheless, we show how the fact they cannot embrace the full situations of use and consequences lead to an unreachable limit. On the other hand, using technology is never free of responsibility, even if there also exist limits to characterise. Massive uses by unprofessional users introduce additional questions that modify the possibilities to be ethically responsible. The article is structured in such a way as to show how the limits have gradually evolved, leaving unthought of issues and a failure to share responsibility.
• Abstract（参考訳）: 本稿では,アルゴリズムの倫理に関する非常に大きな議論の中で,人間の責任に関する分析を提案する。 一方、アルゴリズムは、結果と予期せぬ影響に責任を負う人間によって設計されている。 それでも、彼らが使用と結果の完全な状況を受け入れることができないという事実が、到達不可能な限界につながっていることを示す。 一方、技術の使用は、たとえその特性に制限があるとしても、決して責任を負わない。 非専門のユーザによる大量使用は、倫理的に責任を持つ可能性を変更するための追加の質問を導入します。 記事は、その限界が徐々に進化してきたことを示し、未考の問題と責任共有の失敗を残しているように構成されている。

関連論文リスト

• Causal Responsibility Attribution for Human-AI Collaboration [62.474732677086855]
  本稿では,人間のAIシステムにおける責任を体系的に評価するために,構造因果モデル(SCM)を用いた因果的枠組みを提案する。 2つのケーススタディは、多様な人間とAIのコラボレーションシナリオにおけるフレームワークの適応性を示している。
  論文  参考訳（メタデータ） (2024-11-05T17:17:45Z)
• The Illusion of Competence: Evaluating the Effect of Explanations on Users' Mental Models of Visual Question Answering Systems [6.307898834231964]
  我々は、AIシステムの限界が、完璧に実行できないタスクに遭遇したとき、ユーザーがどのように認識するかを検討する。 我々は、視覚的な入力を操作することでAIシステムの制限を制御する視覚的質問応答と説明タスクを採用する。 私たちのゴールは、参加者がシステムの限界を認識できるかどうかを決定することです。
  論文  参考訳（メタデータ） (2024-06-27T13:44:03Z)
• What's my role? Modelling responsibility for AI-based safety-critical systems [1.0549609328807565]
  開発者や製造業者は、AI-SCSの有害な振る舞いに責任を負うことは困難である。 人間のオペレータは、作成に責任を負わなかったAI-SCS出力の結果に責任を負う"信頼性シンク"になる可能性がある。 本稿では,異なる責任感(ロール,モラル,法的,因果関係)と,それらがAI-SCSの安全性の文脈でどのように適用されるかを検討する。
  論文  参考訳（メタデータ） (2023-12-30T13:45:36Z)
• Seamful XAI: Operationalizing Seamful Design in Explainable AI [59.89011292395202]
  AIシステムのミスは必然的であり、技術的制限と社会技術的ギャップの両方から生じる。 本稿では, 社会工学的・インフラ的ミスマッチを明らかにすることにより, シームレスな設計がAIの説明可能性を高めることを提案する。 43人のAI実践者と実際のエンドユーザでこのプロセスを探求します。
  論文  参考訳（メタデータ） (2022-11-12T21:54:05Z)
• Mitigating Covertly Unsafe Text within Natural Language Systems [55.26364166702625]
  制御されていないシステムは、怪我や致命的な結果につながるレコメンデーションを生成する。 本稿では,身体的危害につながる可能性のあるテキストのタイプを識別し,特に未発見のカテゴリを確立する。
  論文  参考訳（メタデータ） (2022-10-17T17:59:49Z)
• When to Make Exceptions: Exploring Language Models as Accounts of Human Moral Judgment [96.77970239683475]
  AIシステムは人間の道徳的判断や決定を理解し、解釈し、予測しなければなりません。 AIの安全性に対する中心的な課題は、人間の道徳心の柔軟性を捉えることだ。 ルール破りの質問応答からなる新しい課題セットを提案する。
  論文  参考訳（メタデータ） (2022-10-04T09:04:27Z)
• Responsibility: An Example-based Explainable AI approach via Training Process Inspection [1.4610038284393165]
  我々は、特定の決定に対して最も責任あるトレーニング例を特定する新しいXAIアプローチを提案する。 この例は、"これが私が(AI)学んだことであり、それが私をそのようにしました"、という説明として示されます。 以上の結果から,ヒューマンエンドユーザとセカンダリMLモデルの両方において,責任が精度の向上に有効であることが示唆された。
  論文  参考訳（メタデータ） (2022-09-07T19:30:01Z)
• Transcending XAI Algorithm Boundaries through End-User-Inspired Design [27.864338632191608]
  エンドユーザに対する説明責任重視の機能サポートの欠如は、高度なドメインにおけるAIの安全で責任ある使用を妨げる可能性がある。 我々の研究は、エンドユーザーがXAIを使用する際の技術的な問題を根底から解決することで、新たな研究課題がもたらされることを示している。 このようなエンドユーザにインスパイアされた研究質問は、AIを民主化し、クリティカルドメインにおけるAIの責任ある使用を保証することによって、社会的善を促進できる可能性がある。
  論文  参考訳（メタデータ） (2022-08-18T09:44:51Z)
• The Conflict Between Explainable and Accountable Decision-Making Algorithms [10.64167691614925]
  意思決定アルゴリズムは、誰が医療プログラムに登録され、雇用されるべきかといった重要な決定に使われています。 XAIイニシアチブは、法的要件に準拠し、信頼を促進し、説明責任を維持するために、アルゴリズムを説明可能にすることを目的としている。 本稿では,自律型AIシステムによって引き起こされる責任問題の解決に,説明可能性がどの程度役立つのかを問う。
  論文  参考訳（メタデータ） (2022-05-11T07:19:28Z)
• The Who in XAI: How AI Background Shapes Perceptions of AI Explanations [61.49776160925216]
  私たちは、2つの異なるグループ、つまりAIのバックグラウンドを持つ人々といない人たちの、異なるタイプのAI説明に対する理解について、混合手法による研究を行います。 その結果,(1) 両群は異なる理由から不合理な数に対する信頼を示し,(2) それぞれの群は意図した設計以上の異なる説明に価値を見出した。
  論文  参考訳（メタデータ） (2021-07-28T17:32:04Z)
• A Case for Humans-in-the-Loop: Decisions in the Presence of Erroneous Algorithmic Scores [85.12096045419686]
  本研究では,児童虐待のホットラインスクリーニング決定を支援するアルゴリズムツールの採用について検討した。 まず、ツールがデプロイされたときに人間が行動を変えることを示します。 表示されたスコアが誤ったリスク推定である場合、人間はマシンの推奨に従わない可能性が低いことを示す。
  論文  参考訳（メタデータ） (2020-02-19T07:27:32Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。