論文の概要: Functional Misalignment in Human-AI Interactions on Digital Platforms

• arxiv url: http://arxiv.org/abs/2604.11459v1
• Date: Mon, 13 Apr 2026 13:35:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-04-14 20:13:16.56374
• Title: Functional Misalignment in Human-AI Interactions on Digital Platforms
• Title（参考訳）: デジタルプラットフォーム上での人間とAIのインタラクションにおける機能的ミスアライメント
• Authors: Kristina Lerman,
• Abstract要約: アルゴリズムシステム、特にソーシャルメディアレコメンデーターは、行動を予測することに成功している。 しかし、彼らの普及は、メンタルヘルスの懸念の高まり、分極の増大、信頼の侵食など、厄介な結果と一致している。 本稿では、これらの効果は、アルゴリズムが最適化する - 予測可能な振る舞い - と、これらの予測が機能することを意図した人間の目標の間の構造的機能的不整合の結果である、と論じる。
• 参考スコア（独自算出の注目度）: 7.607860037394469
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Algorithmic systems, particularly social media recommenders, have achieved remarkable success in predicting behavior. By optimizing for observable signals such as clicks, views, and engagement, these systems effectively capture user attention and guide interaction. Yet their widespread adoption has coincided with troubling outcomes, including rising mental health concerns, increasing polarization, and erosion of trust. This paper argues that these effects are consequences of a structural functional misalignment between what algorithms optimize - predictable behavior - and the human goals these predictions are intended to serve. We propose that this misalignment arises through three mechanisms: (1) a bias toward modeling fast, reactive behavioral signals over reflective judgment, (2) feedback loops that couple user behavior with algorithmic learning, and (3) emergent collective dynamics that amplify these effects at scale. Together, these mechanisms explain how accurate individual-level predictions can produce adverse societal outcomes. We present functional misalignment as a unifying framework and outline a research agenda for studying and mitigating its effects in human-AI interaction systems.
• Abstract（参考訳）: アルゴリズムシステム、特にソーシャルメディアレコメンデーターは、行動を予測することに成功している。 クリック、ビュー、エンゲージメントなどの観測可能な信号を最適化することにより、これらのシステムはユーザの注意を効果的に捉え、対話をガイドする。 しかし、彼らの普及は、メンタルヘルスの懸念の高まり、分極の増大、信頼の侵食など、厄介な結果と一致している。 本稿では、これらの効果は、アルゴリズムが最適化する - 予測可能な振る舞い - と、これらの予測が機能することを意図した人間の目標の間の構造的機能的不整合の結果である、と論じる。 本研究では,(1)反射的判断よりも高速で反応性のある行動信号をモデル化するバイアス,(2)ユーザの行動とアルゴリズム学習を結合するフィードバックループ,(3)これらの効果を大規模に増幅する創発的集団ダイナミクスの3つのメカニズムにより,この誤認識が生じることを示唆する。 これらのメカニズムは、個々のレベルの予測がいかに社会的に有害な結果をもたらすかを説明する。 本稿では,機能的不整合を統一の枠組みとして提示し,人間とAIのインタラクションシステムにおけるその影響を研究・緩和するための研究課題を概説する。

関連論文リスト

• When Algorithms Mirror Minds: A Confirmation-Aware Social Dynamic Model of Echo Chamber and Homogenization Traps [19.047790323760935]
  本稿では,エコーチャンバーの出現とドライバ,ユーザ均質化,および人間中心のレコメンデーション設計のための実用的なガイドラインについて検討する。 本研究は, エコーチャンバーの出現とドライバに関する理論的および実証的な知見と, ユーザ均質化, および人間中心のレコメンデーション設計のための実用的なガイドラインを提供する。
  論文  参考訳（メタデータ） (2025-08-15T14:55:55Z)
• HUMOF: Human Motion Forecasting in Interactive Social Scenes [29.621970821619424]
  複雑なシーンは、対話情報の豊富さによる人間の行動予測に重要な課題を示す。 対話型シーンにおける人間の動き予測に有効な手法を提案する。 提案手法は,4つの公開データセットにまたがる最先端性能を実現する。
  論文  参考訳（メタデータ） (2025-06-04T09:21:54Z)
• Dehumanizing Machines: Mitigating Anthropomorphic Behaviors in Text Generation Systems [55.99010491370177]
  このようなシステムアウトプットにどのように介入すれば人為的行動が緩和され、その付随する有害な結果が未検討のままである。 我々は,先行研究とクラウドソーシング研究の両方に根ざした介入の目録をまとめ,参加者がシステムアウトプットを編集し,人間らしくないようにした。 また,考えられる介入の景観を特徴づけ,異なる種類の介入の区別を明確化し,異なる介入の有効性を評価するための理論的基盤を提供するための概念的枠組みも開発している。
  論文  参考訳（メタデータ） (2025-02-19T18:06:37Z)
• Graph Machine Learning based Doubly Robust Estimator for Network Causal Effects [17.44202934049009]
  本稿では,グラフ機械学習アプローチとダブル機械学習フレームワークを組み合わせた新しい手法を提案する。 提案手法は,広範囲なシミュレーション研究を通じて,正確で堅牢でスケーラブルであることを示す。
  論文  参考訳（メタデータ） (2024-03-17T20:23:42Z)
• Investigating Human-Identifiable Features Hidden in Adversarial Perturbations [54.39726653562144]
  我々の研究では、最大5つの攻撃アルゴリズムを3つのデータセットにわたって探索する。 対人摂動における人間の識別可能な特徴を同定する。 画素レベルのアノテーションを用いて、そのような特徴を抽出し、ターゲットモデルに妥協する能力を実証する。
  論文  参考訳（メタデータ） (2023-09-28T22:31:29Z)
• Motion-Scenario Decoupling for Rat-Aware Video Position Prediction: Strategy and Benchmark [49.58762201363483]
  本研究では,個人や環境の影響要因を考慮し,生物ロボットの動き予測データセットであるRatPoseを紹介する。 本稿では,シナリオ指向とモーション指向を効果的に分離するDual-stream Motion-Scenario Decouplingフレームワークを提案する。 難易度が異なるタスクに対して,提案したtextitDMSD フレームワークの大幅な性能向上を示す。
  論文  参考訳（メタデータ） (2023-05-17T14:14:31Z)
• GASP: Gated Attention For Saliency Prediction [18.963277212703005]
  社会的手がかりの統合と影響の重み付けのためのニューラルモデルを提案する。 本研究では,視線方向と感情表現が,動的サリエンシモデルと比較して,少なくとも5%の地道改善に寄与していることを示す。
  論文  参考訳（メタデータ） (2022-06-09T16:14:09Z)
• Towards Robust and Adaptive Motion Forecasting: A Causal Representation Perspective [72.55093886515824]
  本稿では,3つの潜伏変数群からなる動的過程として,運動予測の因果的形式化を導入する。 我々は、因果グラフを近似するために、不変なメカニズムやスタイルの共創者の表現を分解するモジュラーアーキテクチャを考案する。 合成および実データを用いた実験結果から,提案した3つの成分は,学習した動き表現の頑健性と再利用性を大幅に向上することが示された。
  論文  参考訳（メタデータ） (2021-11-29T18:59:09Z)
• Towards Unbiased Visual Emotion Recognition via Causal Intervention [63.74095927462]
  本稿では,データセットバイアスによる負の効果を軽減するために,新しい感情認識ネットワーク(IERN)を提案する。 IERNの有効性を検証する一連の設計されたテストと、3つの感情ベンチマークの実験は、IERNが他の最先端のアプローチよりも優れていることを示した。
  論文  参考訳（メタデータ） (2021-07-26T10:40:59Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。