論文の概要: Algorithmic Opacity as a Principal-Agent Problem
- arxiv url: http://arxiv.org/abs/2611.17980v1
- Date: Fri, 13 Nov 2026 10:08:31 GMT
- ステータス: 情報取得中
- システム内更新日: 2026-11-16 19:23:10.034843
- Title: Algorithmic Opacity as a Principal-Agent Problem
- Title(参考訳): プライマリエージェント問題としてのアルゴリズムオパシティ
- Abstract要約: ゲームや貿易の秘密に関する懸念は、意思決定者による自己維持的戦略行動を隠す可能性がある。
我々は、アルゴリズムによる意思決定が開示義務の引き金になる場合のプリンシパル・エージェント・テストを開発する。
- 参考スコア(独自算出の注目度): 0.0
- License:
- Abstract: Concerns about gaming and trade secrecy, frequently invoked to justify algorithmic opacity, can also mask self-serving strategic behavior by decision-makers, who may prioritize private benefits over social welfare. We develop a principal-agent test for when algorithmic decision-making should trigger disclosure obligations even when concerns about gaming or trade secrecy exist. The test, which is anchored in decision quality, relies on two diagnostics that can be disclosed without enabling gaming or revealing trade secrets: the error profile (false positive and false negative rates, overall and for each group) and the distribution of decision outcomes across groups. These diagnostics make visible whether decision-makers align design and implementation with the public interest or instead use opacity to obscure bias, inefficiency, or strategic shirking. Strong disparities across social groups, and asymmetries in the distribution of decision errors across outcome types, should trigger rebuttable presumptions favoring further disclosure. Where ground-truth error rates are unavailable, outcome distributions across groups can support the same presumption, and a decision-maker's inability to produce an error profile is itself diagnostic. The test thus treats fairness metrics as triggers for further disclosure and extends to generative and agentic systems through analogous metrics. The framework informs differentiated disclosure regimes (staged, partial, mediated, or audience-segmented). Once such regimes are considered, the domain of justifiable algorithmic opacity is significantly narrower than commonly assumed: when gaming or trade secrecy risks are legitimate, actionable disclosures (such as training data characteristics and key system design parameters) ordinarily can be mandated without compromising innovation or enabling gaming, even for technically inscrutable algorithms.
- Abstract(参考訳): アルゴリズムの不透明性を正当化するためにしばしば呼び出される、ゲームと貿易の秘密に関する懸念は、社会的福祉よりも個人の利益を優先する意思決定者による自己維持的戦略行動を隠すことができる。
我々は,ゲームや取引秘密に関する懸念がある場合でも,アルゴリズムによる意思決定が開示義務の引き金となる場合のプリンシパル・エージェント・テストを開発する。
このテストは、決定品質に固定されているが、ゲームや取引秘密を明らかにすることなしに開示できる2つの診断、すなわちエラープロファイル(偽陰性率と偽陰性率)とグループ間での意思決定結果の分配に依存している。
これらの診断は、意思決定者が設計と実装を公共の関心と整合させるか、それとも不透明なバイアス、非効率性、戦略的なシャーキングに不透明さを使うかを明らかにする。
社会集団間での強い格差や、結果のタイプ間での意思決定エラーの分布の漸近は、さらなる開示を優先する反感的な推定を引き起こすだろう。
ゼロストルースエラー率が利用できない場合、グループ間の結果分布は同じ推定値をサポートでき、エラープロファイルを生成できない意思決定者は、それ自体を診断する。
このテストは、フェアネス指標をさらなる開示の引き金として扱い、類似メトリクスを通じて生成的およびエージェント的システムに拡張する。
この枠組みは、区別された開示体制(段階的、部分的、仲介的、またはオーディエンスによる)に通知する。
ゲームや取引の機密性リスクが正当である場合、(トレーニングデータ特性やキーシステム設計パラメータのような)行動可能な開示は通常、技術的に精査されていないアルゴリズムであっても、イノベーションを損なうことなく、ゲームを可能にすることができる。
関連論文リスト
- Fairness under uncertainty in sequential decisions [14.392931077157906]
アルゴリズム的アプローチだけでは構造的不等式は解決できない。
多くの実際の機械学習アプリケーションはオンラインでシーケンシャルであり、事前決定は将来のものを伝える。
本稿では, 逐次意思決定における不確実性の分類について紹介する。
論文 参考訳(メタデータ) (2026-04-23T14:17:58Z) - Partial Identification Approach to Counterfactual Fairness Assessment [50.88100567472179]
未知の対実的公正度尺度を高い信頼性で有界化するためのベイズ的アプローチを導入する。
以上の結果から、人種をアフリカ系アメリカ人に転換する際のCompASスコアに対する肯定的な(不快な)効果と、若年から高齢に移行する際の否定的な(直接的な因果関係)効果が明らかとなった。
論文 参考訳(メタデータ) (2025-09-30T18:35:08Z) - Interpretable and Fair Mechanisms for Abstaining Classifiers [12.539170258479778]
本稿では,不確実性と不公平性に基づいて,両者の予測を拒否するアルゴリズムである,解釈的かつ公正な保証を導入する。
提案手法は,非リジェクトデータの集団間における誤り率と肯定的な決定率の差を低減させる。
この説明可能な側面は、最近のAI規制に照らして特に重要である。
論文 参考訳(メタデータ) (2025-03-24T16:06:43Z) - Probing Network Decisions: Capturing Uncertainties and Unveiling Vulnerabilities Without Label Information [19.50321703079894]
本稿では, 対実例を用いて分類器の弱点を明らかにするための新しい枠組みを提案する。
本研究では, 画像分類ベンチマークを用いて, 誤分類検出の性能を検証し, その妥当性を検証した。
論文 参考訳(メタデータ) (2025-03-12T05:05:58Z) - Auditing Fairness under Unobserved Confounding [56.61738581796362]
意外なことに、リスクの高い人に対する治療率の有意義な限界を計算できることが示されています。
現実の多くの環境では、リスクの偏りのない見積を導き出すために、アロケーションの前にデータを持っているという事実を使用します。
論文 参考訳(メタデータ) (2024-03-18T21:09:06Z) - The Impact of Differential Feature Under-reporting on Algorithmic Fairness [86.275300739926]
解析的に抽出可能な差分特徴のアンダーレポーティングモデルを提案する。
そして、この種のデータバイアスがアルゴリズムの公正性に与える影響を特徴づける。
我々の結果は、実世界のデータ設定では、アンダーレポートが典型的に格差を増大させることを示している。
論文 参考訳(メタデータ) (2024-01-16T19:16:22Z) - Online Decision Mediation [72.80902932543474]
意思決定支援アシスタントを学習し、(好奇心)専門家の行動と(不完全)人間の行動の仲介役として機能することを検討する。
臨床診断では、完全に自律的な機械行動は倫理的余裕を超えることが多い。
論文 参考訳(メタデータ) (2023-10-28T05:59:43Z) - Influence of the algorithm's reliability and transparency in the user's
decision-making process [0.0]
我々は61人の参加者とともにオンライン実験を行い、アルゴリズムの透明性と信頼性の変化がユーザーの意思決定プロセスにどのように影響するかを調べる。
その結果,信頼性が悪くても,アルゴリズムの判断にある程度の信頼感が示されることがわかった。
論文 参考訳(メタデータ) (2023-07-13T03:13:49Z) - Uncertainty as a Form of Transparency: Measuring, Communicating, and
Using Uncertainty [66.17147341354577]
我々は,モデル予測に関連する不確実性を推定し,伝達することにより,相補的な透明性の形式を考えることについて議論する。
モデルの不公平性を緩和し、意思決定を強化し、信頼できるシステムを構築するために不確実性がどのように使われるかを説明する。
この研究は、機械学習、可視化/HCI、デザイン、意思決定、公平性にまたがる文学から引き出された学際的レビューを構成する。
論文 参考訳(メタデータ) (2020-11-15T17:26:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。