論文の概要: Algorithmic Monoculture and Social Welfare

• arxiv url: http://arxiv.org/abs/2101.05853v1
• Date: Thu, 14 Jan 2021 20:18:23 GMT
• ステータス: 処理完了
• システム内更新日: 2021-03-29 02:59:28.457074
• Title: Algorithmic Monoculture and Social Welfare
• Title（参考訳）: アルゴリズム的モノカルチャーと社会福祉
• Authors: Jon Kleinberg, Manish Raghavan
• Abstract要約: アルゴリズムによるモノカルチャーの影響について懸念が高まっている。 この懸念は農業の類推を呼び起こし、モノカルチャーのシステムは予期せぬショックから深刻な危害のリスクを負う。 ここでは,アルゴリズムのモノカルチャーの危険性がはるかに深く,単一のアルゴリズムに対するモノカルチャーの収束が,エージェントの完全な収集によって行われる決定の全体的な品質を低下させることを示した。
• 参考スコア（独自算出の注目度）: 6.340447411058069
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: As algorithms are increasingly applied to screen applicants for high-stakes decisions in employment, lending, and other domains, concerns have been raised about the effects of algorithmic monoculture, in which many decision-makers all rely on the same algorithm. This concern invokes analogies to agriculture, where a monocultural system runs the risk of severe harm from unexpected shocks. Here we show that the dangers of algorithmic monoculture run much deeper, in that monocultural convergence on a single algorithm by a group of decision-making agents, even when the algorithm is more accurate for any one agent in isolation, can reduce the overall quality of the decisions being made by the full collection of agents. Unexpected shocks are therefore not needed to expose the risks of monoculture; it can hurt accuracy even under "normal" operations, and even for algorithms that are more accurate when used by only a single decision-maker. Our results rely on minimal assumptions, and involve the development of a probabilistic framework for analyzing systems that use multiple noisy estimates of a set of alternatives.
• Abstract（参考訳）: 雇用、貸付、その他のドメインにおけるハイステイクな意思決定の応募者に対するアルゴリズムの適用が増えているため、多くの意思決定者が同じアルゴリズムに依存するアルゴリズム的モノカルチャーの影響が懸念されている。 この懸念は農業の類推を呼び起こし、モノカルチャーのシステムは予期せぬショックから深刻な危害のリスクを負う。 ここでは,一群の意思決定エージェントによる1つのアルゴリズム上の一文化的な収束が,たとえアルゴリズムが単独のエージェントに対してより正確であったとしても,エージェント全体の収集によってなされる決定の全体的な品質を低下させることによって,アルゴリズム的一文化の危険性がより深くなることを示す。 したがって、モノカルチャーのリスクを明らかにするために予期せぬショックは不要であり、「通常の」操作下であっても正確さを損なう可能性がある。 この結果は最小限の仮定に依拠し、一組の代替品の複数の雑音推定を用いたシステム解析のための確率的フレームワークの開発にかかわる。

関連論文リスト

• Monoculture in Matching Markets [0.9945637350069029]
  アルゴリズムのモノカルチャーは、多くの意思決定者が応募者を評価するために同じアルゴリズムに依存するときに生じる。 両面のマッチング市場において,アルゴリズムによるモノカルチャーの抽出可能な理論的モデルを導入する。
  論文  参考訳（メタデータ） (2023-12-15T14:46:54Z)
• Balancing Risk and Reward: An Automated Phased Release Strategy [2.1485350418225244]
  段階的なリリースは、A/Bテストを通じて、新しい製品やアップデートを徐々にリリースするための、テクノロジ業界における一般的な戦略です。 本研究では,スケジュールの各段階におけるリリース率を自動的に決定するアルゴリズムを提案する。
  論文  参考訳（メタデータ） (2023-05-16T17:27:34Z)
• On the Complexity of Multi-Agent Decision Making: From Learning in Games to Partial Monitoring [105.13668993076801]
  マルチエージェント強化学習(MARL)理論における中心的な問題は、構造条件やアルゴリズムの原理がサンプル効率の学習保証につながるかを理解することである。 本稿では,複数のエージェントを用いた対話型意思決定のための一般的な枠組みとして,この問題について考察する。 マルチエージェント意思決定における統計的複雑性を特徴付けることは、単一エージェント決定の統計的複雑性を特徴付けることと等価であることを示す。
  論文  参考訳（メタデータ） (2023-05-01T06:46:22Z)
• Factorization of Multi-Agent Sampling-Based Motion Planning [72.42734061131569]
  現代のロボティクスは、共有環境内で複数のエンボディエージェントを動作させることが多い。 標準的なサンプリングベースのアルゴリズムは、ロボットの関節空間における解の探索に使用できる。 我々は、因子化の概念をサンプリングベースアルゴリズムに統合し、既存の手法への最小限の変更しか必要としない。 本稿では, PRM* のサンプル複雑性の観点から解析的ゲインを導出し, RRG の実証結果を示す。
  論文  参考訳（メタデータ） (2023-04-01T15:50:18Z)
• Picking on the Same Person: Does Algorithmic Monoculture lead to Outcome Homogenization? [90.35044668396591]
  機械学習における繰り返しのテーマはアルゴリズムによるモノカルチャーである。同じシステム、またはコンポーネントを共有するシステムは、複数の意思決定者によってデプロイされる。 意思決定者がトレーニングデータや特定のモデルなどのコンポーネントを共有すれば、より均一な結果が得られます。 我々はこの仮説をアルゴリズムフェアネスベンチマークで検証し、トレーニングデータの共有がホモジェナイゼーションを確実に悪化させることを示した。 結果の均質化に関する哲学的分析と社会的な課題を、デプロイされた機械学習システムに含めることに着目して結論付ける。
  論文  参考訳（メタデータ） (2022-11-25T09:33:11Z)
• Reinforcement Learning with Algorithms from Probabilistic Structure Estimation [9.37335587960084]
  強化学習アルゴリズムは未知の環境で最適な決定を学習することを目的としている。 エージェントのアクションが環境に影響を及ぼすかどうかは、当初から不明である。 どのRLアルゴリズムが最も適しているかを決定することはしばしば不可能です。
  論文  参考訳（メタデータ） (2021-03-15T09:51:34Z)
• A black-box adversarial attack for poisoning clustering [78.19784577498031]
  本稿では,クラスタリングアルゴリズムのロバスト性をテストするために,ブラックボックス対逆攻撃法を提案する。 我々の攻撃は、SVM、ランダムフォレスト、ニューラルネットワークなどの教師付きアルゴリズムに対しても転送可能であることを示す。
  論文  参考訳（メタデータ） (2020-09-09T18:19:31Z)
• Public Bayesian Persuasion: Being Almost Optimal and Almost Persuasive [57.47546090379434]
  i) 任意の状態空間, (ii) 任意の行動空間, (iii) 任意の送信者のユーティリティ関数を用いて, 一般の状況下での公衆の説得問題を考察する。 任意の公的な説得問題に対して準多項式時間ビクテリア近似アルゴリズムを提案し、特定の設定でQPTASを出力する。
  論文  参考訳（メタデータ） (2020-02-12T18:59:18Z)
• Thompson Sampling Algorithms for Mean-Variance Bandits [97.43678751629189]
  我々は平均分散MABのためのトンプソンサンプリング型アルゴリズムを開発した。 我々はまた、ガウシアンとベルヌーイの盗賊に対する包括的後悔の分析も提供する。 我々のアルゴリズムは、全てのリスク許容度に対して既存のLCBベースのアルゴリズムを著しく上回っている。
  論文  参考訳（メタデータ） (2020-02-01T15:33:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。