論文の概要: Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level

• arxiv url: http://arxiv.org/abs/2608.14692v1
• Date: Fri, 07 Aug 2026 15:58:37 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-08-23 14:54:39.967901
• Title: Identifying Harm in Personalized, Generative AI Systems Requires User-Centered Auditing at the Interaction Level
• Title（参考訳）: パーソナライズされた生成型AIシステムにおけるハームの同定 : インタラクションレベルでのユーザ中心の監査を必要とする
• Abstract要約: このようなアプローチは、パーソナライズされた生成AIシステムにおける創発的害を捉えるのに失敗する可能性がある、と我々は主張する。 私たちの研究は、パーソナライズされた生成AIシステムにおける調和理解の多元的・進化的な性質を反映した監査と設計のプラクティスの必要性を強調します。
• 参考スコア（独自算出の注目度）: 0.5076419064097734
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Personalized, generative AI systems increasingly adapt their behavior to individual users over time, fundamentally changing model behavior. While existing auditing approaches have been effective at surfacing harms in non-personalized contexts, they often rely on static, simulated evaluations and definitions of harm that aggregate across broad, group categories. In this position paper, we argue that such approaches can fail to capture emergent harms in personalized generative AI systems, where harms surface through interpretations of ongoing interaction and evolve with user history. We identify three presuppositions underlying many harm auditing paradigms: that harms can be (1) specified outside real-world interaction, (2) defined non-pluralistically within groups, and (3) treated as static. One might argue that personalized systems could simply learn definitions of what constitutes harm to individual users through repeated interactions. However, we argue that attempts to surface user harms through deeper personalization risk imposing asymmetric burdens of labor and privacy on marginalized users. Consequently, we propose reframing understandings of harm as adaptive, user- and community-centered processes, and outline design directions that shift auditing from retrospective evaluation toward infrastructures that support ongoing articulation of harm in interaction. Our work highlights the need for auditing and design practices that better reflect the pluralistic and evolving nature of harm understanding in personalized generative AI systems.
• Abstract（参考訳）: パーソナライズされた生成型AIシステムは、時間とともに個々のユーザーに対して行動に適応し、モデル動作を根本的に変える。 既存の監査手法は、個人化されていない文脈における害を克服する上で有効であるが、それらはしばしば、広いグループカテゴリにまたがって蓄積される害の静的なシミュレートされた評価と定義に依存している。 本稿では,現在進行中のインタラクションの解釈を通じて表面を損傷し,ユーザ履歴と進化するパーソナライズされた生成AIシステムにおいて,このようなアプローチが創発的害を捉えるのに失敗する可能性があることを論じる。 そこで本研究では,(1)実世界の相互作用外において害が特定可能であること,(2)グループ内において非論理的に定義されたこと,(3)静的として扱われること,の3つの前提を同定する。 パーソナライズされたシステムは、反復的なインタラクションを通じて個々のユーザにとって害となるものの定義を単に学習することができる、と主張する人もいるかもしれない。 しかし、我々は、より深いパーソナライズリスクによって、疎外されたユーザーに対して、労働とプライバシの非対称な負担を課すことによって、ユーザーを危険にさらそうとする試みについて論じる。 そこで本稿では, 適応的, ユーザ中心, コミュニティ中心のプロセスとしての害の理解を再定義し, 相互行為における害の継続的な明瞭化を支援するインフラへの監査をふりかえり評価からシフトさせる設計方針を概説する。 私たちの研究は、パーソナライズされた生成AIシステムにおける調和理解の多元的・進化的な性質を反映した監査と設計のプラクティスの必要性を強調します。

関連論文リスト

• Adversarial Attacks for Good: A Survey of Proactive Protection across the Visual Content Lifecycle [65.6642776933861]
  この介入点付近で成長した保護パラダイムについて検討する。 ほとんどの保護は、主に静的あるいは弱い適応的な敵に対して検証されている。 我々は、堅牢で構成可能で、デプロイ可能な所有者側の保護のために、クロスステージ対策とオープンな問題を統合することで、閉鎖する。
  論文  参考訳（メタデータ） (2026-08-05T00:46:50Z)
• The Governance of Human-LLM Interaction: Safety Gating, Civility Steering, and Affective Default Lock-In [0.9558392439655014]
  大規模言語モデル (LLMs) は、金融、医療、精神保健支援における高額な相互作用をますます仲介する。 プロバイダ側のアライメントは有害なコンテンツをブロックしますが、通信上のデフォルトを安定化します。 通信形態に対するプロバイダ制御の観測可能な指標として,迅速なステアビリティとレグレッション・トゥ・デフォルト(regressive-to-default)が示されている。
  論文  参考訳（メタデータ） (2026-06-06T13:36:37Z)
• Intimacy as Service, Harm as Externality: Critical Perspectives on AI Companion Platform Accountability [0.0]
  本稿では,親密な関係を同時に生成,抽出,管理する場として,人工知能(AI)の連携について検討する。 AIコンパニオンを持つ20人の個人との詳細なインタビューを通じて、私たちは3つの質問に対処する。 本研究は, 構造的代替手段を欠くユーザの解釈作業を通じて, プラットフォーム生成の脆弱性が自己持続的になることを示すことによって, 責任化理論を拡張した。
  論文  参考訳（メタデータ） (2026-04-07T19:11:54Z)
• When Should an AI Act? A Human-Centered Model of Scene, Context, and Behavior for Agentic AI Design [0.44743648495907423]
  エージェントAIは、コンテキストデータからユーザの状況を推測することによって、積極的に介入する。 本稿では,解釈的場面,文脈,行動要因を組み込んだ結果として振舞いを再構成する概念モデルを提案する。 介入の深さ、タイミング、強度、抑制を導く5つのエージェント設計原則を導出します。
  論文  参考訳（メタデータ） (2026-02-26T09:56:37Z)
• When Benign Inputs Lead to Severe Harms: Eliciting Unsafe Unintended Behaviors of Computer-Use Agents [90.05202259420138]
  意図しないコンピュータ利用エージェントは、良質な入力コンテキストの下でも期待された結果から逸脱することができる。 意図しないCUA行動に対する最初の概念的および方法論的枠組みを紹介する。 本稿では,CUA実行フィードバックを用いた命令を反復的に摂動するエージェントフレームワークであるAutoElicitを提案する。
  論文  参考訳（メタデータ） (2026-02-09T03:20:11Z)
• Personalized Reasoning: Just-In-Time Personalization and Why LLMs Fail At It [81.50711040539566]
  現在の大規模言語モデル(LLM)開発は、タスク解決と優先順位調整を別の課題として扱う。 静的ベンチマークを対話型パーソナライズタスクに変換する評価手法であるPreFDISCOを紹介する。 我々のフレームワークは、ユーザコンテキストに応じて、同じ質問が異なる推論チェーンを必要とするシナリオを作成します。
  論文  参考訳（メタデータ） (2025-09-30T18:55:28Z)
• Toward Holistic Evaluation of Recommender Systems Powered by Generative Models [29.797042093096277]
  生成モデル(Gen-RecSys)はオープンなコンテンツを生成する。 従来の精度測定では、事実の正確性、コンテンツの安全性、ユーザ意図との整合性を計測できません。 本稿では,シナリオベースの評価とマルチメトリックチェックの関連性を含む総合評価手法を提案する。
  論文  参考訳（メタデータ） (2025-04-09T08:08:16Z)
• Democratizing Reward Design for Personal and Representative Value-Alignment [10.1630183955549]
  本稿では,対話型対話アライメント(Interactive-Reflective Dialogue Alignment)について紹介する。 本システムは,言語モデルに基づく嗜好誘導を通じて個々の価値定義を学習し,パーソナライズされた報酬モデルを構築する。 本研究は, 価値整合行動の多様な定義を示し, システムによって各人の独自の理解を正確に捉えることができることを示す。
  論文  参考訳（メタデータ） (2024-10-29T16:37:01Z)
• Are Personalized Stochastic Parrots More Dangerous? Evaluating Persona Biases in Dialogue Systems [103.416202777731]
  我々は、対話モデルが採用するペルソナに付随する有害な行動の感度であると定義する「ペルソナバイアス」について検討する。 我々は,人格バイアスを有害な表現と有害な合意のバイアスに分類し,攻撃性,有害継続性,関連性,ステレオタイプ合意,および有害合意の5つの側面において,人格バイアスを測定する包括的な評価枠組みを確立する。
  論文  参考訳（メタデータ） (2023-10-08T21:03:18Z)
• Joint Multisided Exposure Fairness for Recommendation [76.75990595228666]
  本稿では,消費者と生産者の両面から共同で問題をモデル化する,露出公正度尺度のファミリを定式化する。 具体的には、双方の利害関係者に対するグループ属性について、個別のユーザや項目を超えて、より体系的なバイアスを推奨するフェアネスの懸念を識別し緩和する。
  論文  参考訳（メタデータ） (2022-04-29T19:13:23Z)
• Overcoming Failures of Imagination in AI Infused System Development and Deployment [71.9309995623067]
  NeurIPS 2020は研究論文に「潜在的な悪用と失敗の結果」に関するインパクトステートメントを含むよう要求した。 我々は、害の枠組みは文脈に適応し、潜在的な利害関係者、システム余裕、および最も広い意味での害を評価するための実行可能なプロキシを考える必要があると論じている。
  論文  参考訳（メタデータ） (2020-11-26T18:09:52Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。