論文の概要: Applications of Risk Science to AI Fairness Evaluation: Principles, Challenges, and Best Practices

• arxiv url: http://arxiv.org/abs/2608.29478v1
• Date: Sun, 30 Aug 2026 00:13:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-01 18:31:30.978469
• Title: Applications of Risk Science to AI Fairness Evaluation: Principles, Challenges, and Best Practices
• Title（参考訳）: リスクサイエンスのAIフェアネス評価への応用:原則、課題、ベストプラクティス
• Abstract要約: 我々は、雇用・雇用に関わる業務に使用される技術システムのバイアスや公平性を評価するために、文献レビューを実施している。 偏見や公平性に関連する結果の重大さを特徴付けるが、これらの結果の発生または重大さ推定のどちらかに関する不確実さを特徴付けるためのベストプラクティスに従わないことが判明した。 次に,AIによる履歴書スクリーニングタスクの公平性評価のケーススタディを行い,リスク科学の原則をこのような評価に組み込む方法について実証する。
• 参考スコア（独自算出の注目度）: 8.423021413553464
• License: http://creativecommons.org/licenses/by-sa/4.0/
• Abstract: Scholarly work which aims to describe potential societal impacts (e.g., risks) of proliferating technology (especially related to artificial intelligence or other algorithmic systems) is likely to have an impact beyond the scientific communities it was written for, given that general society itself is a primary object of study. However, it is an open question whether the current practices of AI evaluation scholarship follow the principles and best practices established by risk science, which aims to systematically generate knowledge related to understanding, assessing, communicating, managing, and governing risk. In this work, we examine this in depth by conducting a literature review of scholarly works purporting to evaluate the bias or fairness of technological systems used for tasks related to hiring and employment. Through analysis of 22 common fairness evaluation metrics and studies using them, we find that most characterize the severity of bias- or fairness-related consequences but do not follow best practices to characterize the uncertainty around either the occurrence of these consequences or severity estimates. Next, we conduct a case study of fairness evaluation for an AI-mediated resume screening task and demonstrate how principles of risk science can be incorporated into such an evaluation. Finally, we propose the AI Risk Report Card, which facilitates the reporting and communication of risk assessment results to stakeholders in positions to act based on the predicted risks. The outcomes of these activities suggest that further research at the convergence of risk science and AI evaluation can lead to advancements in AI assessments of societal impact by enabling shared frameworks to evaluate and discuss AI risks both within and outside of the scientific community.
• Abstract（参考訳）: 発展する技術(特に人工知能や他のアルゴリズムシステムに関連する)の潜在的な社会的影響(例えばリスク)を説明することを目的とした学術的な研究は、一般社会自体が研究の主目的であることを考えると、それのために書かれた科学コミュニティを超えた影響を持つ可能性が高い。 しかし、現在のAI評価奨学金の実践が、リスク科学が確立した原則とベストプラクティスに従うかどうかについては、理解、評価、コミュニケーション、管理、リスク管理に関する知識を体系的に生成することを目的としている。 本研究では,雇用・雇用に関わる業務に使用される技術システムのバイアスや公平性を評価するため,学術研究の文献レビューを実施し,これを深く検討する。 22の共通フェアネス評価指標とそれらを用いた研究の分析を通して、ほとんどの場合バイアスやフェアネスに関連する結果の重症度を特徴付けるが、これらの結果の発生または重症度推定のいずれに関する不確かさを特徴付けるためのベストプラクティスに従わないことが判明した。 次に,AIによる履歴書スクリーニングタスクの公平性評価のケーススタディを行い,リスク科学の原則をこのような評価に組み込む方法について実証する。 最後に、予測リスクに基づいて行動する立場にあるステークホルダに対して、リスク評価結果の報告と伝達を容易にするAI Risk Report Cardを提案する。 これらの活動の結果は、リスクサイエンスとAI評価の収束におけるさらなる研究が、共有フレームワークが科学コミュニティ内外の両方でAIリスクを評価し、議論できるようにすることで、社会的影響のAIアセスメントの進歩につながることを示唆している。

関連論文リスト

• Overview of Risk Assessment and Management for Intelligent Systems under the AI Act and Beyond [12.71451765578818]
  社会とAIのための新たなリスクベースの規制フレームワークは、厳格なリスクアセスメントの必要性を浮き彫りにしている。 この論文は、ベストプラクティスを強調し、方法論的ギャップを照らし、AIリスクアセスメントのさらなる研究領域を強調している。
  論文  参考訳（メタデータ） (2026-07-02T14:04:56Z)
• Emergent Strategic Reasoning Risks in AI: A Taxonomy-Driven Evaluation Framework [63.74295981594549]
  大規模言語モデル(LLM)は、自身の目的を達成する行動に関与している。 これには、詐欺(故意に誤解を招くユーザや評価者)、評価ゲーム(安全テスト中のパフォーマンスを戦略的に操作する)、報酬ハッキングなどが含まれる。 自動行動リスク評価のための分類駆動型エージェントフレームワークであるESRRSimを紹介する。
  論文  参考訳（メタデータ） (2026-04-23T23:44:01Z)
• The Story is Not the Science: Execution-Grounded Evaluation of Mechanistic Interpretability Research [56.80927148740585]
  我々は、動的に進化し、研究評価者としてAIエージェントを開発することで、スケーラビリティと厳密さの課題に対処する。 我々は,機械的解釈可能性の研究をテストベッドとして使用し,標準化された研究成果を構築し,MechEvalAgentを開発した。 我々の研究は、AIエージェントが研究評価を変革し、厳格な科学的実践の道を開く可能性を実証している。
  論文  参考訳（メタデータ） (2026-02-05T19:00:02Z)
• Human services organizations and the responsible integration of AI: Considering ethics and contextualizing risk(s) [0.0]
  著者らは、AIデプロイメントに関する倫理的懸念は、実装コンテキストや特定のユースケースによって大きく異なると主張している。 彼らは、データ感度、専門的な監視要件、クライアントの幸福に対する潜在的影響などの要因を考慮に入れた、次元的リスクアセスメントアプローチを提案する。
  論文  参考訳（メタデータ） (2025-01-20T19:38:21Z)
• Perception Gaps in Risk, Benefit, and Value Between Experts and Public Challenge Socially Accepted AI [0.0]
  本研究は,一般のAI専門家がAIの能力と影響をどう認識するかを検討する。 シナリオは、持続可能性、医療、仕事のパフォーマンス、社会的不平等、芸術、戦争といった領域にまたがる。 専門家は、常に高い確率を予測し、リスクを知覚し、より多くの利益を報告し、非専門家よりもAIに対する肯定的な感情を表現する。
  論文  参考訳（メタデータ） (2024-12-02T12:51:45Z)
• Risks and NLP Design: A Case Study on Procedural Document QA [52.557503571760215]
  より具体的なアプリケーションやユーザに対して分析を専門化すれば,ユーザに対するリスクや害の明確な評価が可能になる,と我々は主張する。 リスク指向のエラー分析を行い、リスクの低減とパフォーマンスの向上を図り、将来のシステムの設計を通知する。
  論文  参考訳（メタデータ） (2024-08-16T17:23:43Z)
• Reasons to Doubt the Impact of AI Risk Evaluations [0.0]
  本稿では、評価がAIリスクに対する理解と、そのリスクを緩和する能力を大幅に改善するかどうかを問う。 評価プラクティスの改善と、AIラボ、外部評価者、規制当局、学術研究者のための12の推奨事項を結論付けている。
  論文  参考訳（メタデータ） (2024-08-05T15:42:51Z)
• Risks of AI Scientists: Prioritizing Safeguarding Over Autonomy [65.77763092833348]
  この視点は、AI科学者の脆弱性を調べ、その誤用に関連する潜在的なリスクに光を当てる。 我々は、ユーザ意図、特定の科学的領域、およびそれらが外部環境に与える影響を考慮に入れている。 本稿では,人間規制,エージェントアライメント,環境フィードバックの理解を含む三段階的枠組みを提案する。
  論文  参考訳（メタデータ） (2024-02-06T18:54:07Z)
• Control Risk for Potential Misuse of Artificial Intelligence in Science [85.91232985405554]
  我々は、科学におけるAI誤用の危険性の認識を高めることを目的としている。 化学科学における誤用の実例を取り上げる。 我々は、科学におけるAIモデルの誤用リスクを制御するSciGuardというシステムを提案する。
  論文  参考訳（メタデータ） (2023-12-11T18:50:57Z)
• Quantitative AI Risk Assessments: Opportunities and Challenges [7.35411010153049]
  リスクを減らす最善の方法は、包括的なAIライフサイクルガバナンスを実装することです。 リスクは技術コミュニティのメトリクスを使って定量化できます。 本稿では,このようなアプローチの機会,課題,潜在的影響に焦点をあてて,これらの課題について考察する。
  論文  参考訳（メタデータ） (2022-09-13T21:47:25Z)
• Fairness in Recommender Systems: Research Landscape and Future Directions [119.67643184567623]
  本稿は,近年の地域におけるフェアネスの概念と概念について概観する。 この分野での研究が現在どのように行われているのかを概観する。 全体として、最近の研究成果の分析は、ある研究のギャップを示している。
  論文  参考訳（メタデータ） (2022-05-23T08:34:25Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。