論文の概要: Algorithmic Harms Associated with Generative Model-Augmented Recommendation Systems
- arxiv url: http://arxiv.org/abs/2609.33073v1
- Date: Sun, 27 Sep 2026 01:08:41 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-06 10:48:00.355131
- Title: Algorithmic Harms Associated with Generative Model-Augmented Recommendation Systems
- Title（参考訳）: 生成モデル拡張レコメンデーションシステムに付随するアルゴリズム的ハーム
- Abstract要約: 生成モデルが機械学習プラットフォームに組み込まれることによって生じるアルゴリズム的害について考察する。
我々は,非会話レコメンデーションシステムにおける生成モデルの使用に関連するアルゴリズム的害の分類法を拡充する。
- 参考スコア（独自算出の注目度）: 4.101208798479683
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: In this work, we consider algorithmic harms that may arise as generative models are incorporated into machine learning platforms. We argue that existing harm taxonomies and threat models require extension to (1) address novel causal drivers of well-studied representational and quality-of-service harms; and (2) anticipate and mitigate endogenous harms, such as sanitization, which may arise when system inputs are misaligned with the system designer's objectives, or the generative model's inductive priors. To this end, we introduce an expanded taxonomy of algorithmic harms associated with the use of generative models in non-conversational recommendation systems. In addition, we offer a causal analysis of how problematic subsets of the (input, output) joint distribution can arise, in an effort to inform harms detection and mitigation efforts.
- Abstract（参考訳）: 本研究では、生成モデルが機械学習プラットフォームに組み込まれることによって生じるアルゴリズム的害について考察する。
既存のハザード分類と脅威モデルでは,(1)よく研究された表現的・品質的な害の因果的要因に対処すること,(2)システム入力がシステム設計者の目的や生成モデルの帰納的先行と一致していない場合に生じる,衛生化などの内因的害を予測・緩和すること,の2つが要求される。
そこで本研究では,非会話レコメンデーションシステムにおける生成モデルの使用に伴う,アルゴリズム的害の分類の拡充について紹介する。
さらに, 共同分布(インプット, アウトプット, アウトプット)の異常部分集合がいかに生じるかの因果解析を行い, 検出・緩和の課題を解明する。
関連論文リスト
- Echoes of AI Harms: A Human-LLM Synergistic Framework for Bias-Driven Harm Anticipation [1.5892420496333068]
ECHOは、プロアクティブなAIハーネス予測のための新しいフレームワークである。
バイアス・ツー・ハーム経路の早期検出を可能にする。
2つのハイテイク領域におけるECHOの検証(診断と採用)
論文 参考訳（メタデータ） (2025-11-27T07:25:21Z) - Generative Intervention Models for Causal Perturbation Modeling [80.72074987374141]
多くの応用において、システムのメカニズムが外部の摂動によって変更されるかは未定である。
本稿では、これらの摂動特徴を原子間干渉による分布にマッピングする方法を学習する生成的介入モデル(GIM)を提案する。
論文 参考訳（メタデータ） (2024-11-21T10:37:57Z) - Analyzing Adversarial Inputs in Deep Reinforcement Learning [53.3760591018817]
本稿では, 正当性検証のレンズを用いて, 逆入力の特性を包括的に解析する。
このような摂動に対する感受性に基づいてモデルを分類するために、新しい計量である逆数率(Adversarial Rate)を導入する。
本分析は, 直交入力が所定のDRLシステムの安全性にどのように影響するかを実証的に示す。
論文 参考訳（メタデータ） (2024-02-07T21:58:40Z) - Harm Amplification in Text-to-Image Models [5.397559484007124]
テキスト・ツー・イメージ(T2I)モデルは、生成AIの大幅な進歩として現れている。
ユーザーが安全と思われるプロンプトを入力しても、有害な画像出力を発生させる可能性については、安全上の懸念がある。
T2Iモデルが入力プロンプトで明示されていない有害な表現を生成するこの現象は、敵のプロンプトよりも潜在的に大きなリスクを引き起こす。
論文 参考訳（メタデータ） (2024-02-01T23:12:57Z) - Against Algorithmic Exploitation of Human Vulnerabilities [2.6918074738262194]
我々は、機械学習モデルが故意に脆弱性をモデル化することを懸念している。
一般的な脆弱性を記述し、アルゴリズムによる意思決定においてそれらが役割を担っている可能性を示す。
本稿では,脆弱性モデリングの可能性を検出する手法の一連の要件を提案する。
論文 参考訳（メタデータ） (2023-01-12T13:15:24Z) - Self-Destructing Models: Increasing the Costs of Harmful Dual Uses of
Foundation Models [103.71308117592963]
本稿ではメタラーニングと逆学習の技法を活用した自己破壊モデルの学習アルゴリズムを提案する。
小規模な実験では、MLACは、BERTスタイルのモデルが性別識別を行うために再目的化されることをほとんど防ぐことができることを示す。
論文 参考訳（メタデータ） (2022-11-27T21:43:45Z) - Overcoming Failures of Imagination in AI Infused System Development and
Deployment [71.9309995623067]
NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。
我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
論文 参考訳（メタデータ） (2020-11-26T18:09:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。