Fugu-MT 論文翻訳(概要): LLM Biases

論文の概要: LLM Biases

arxiv url: http://arxiv.org/abs/2604.26960v1
Date: Tue, 07 Apr 2026 14:08:38 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-04 02:32:14.246339
Title: LLM Biases
Title（参考訳）: LLMビアーゼ
Abstract要約: トランスフォーマーベースのエージェントAIは、ユーザーがより少ない労力でコンテンツを購入、視聴、ナビゲートするのを助けるために、主要なプラットフォームに急速にデプロイされている。これらのシステムは素晴らしいパフォーマンスを提供することができるが、重要な懸念は、それらが現れるよりも信頼性が低いかどうかである。本稿では,変換器を用いた生成レコメンデータの理論解析を通じて,この問題について考察する。
参考スコア（独自算出の注目度）: 10.396160673700654
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Transformer-based agentic AI is rapidly being deployed on major platforms to help users shop, watch, and navigate content with less effort. While these systems can deliver impressive performance, a key concern is whether they may be less reliable than they appear. We ask a simple but fundamental question: whether the mechanisms that make transformer-based agents effective can also induce systematic biases or distortions? We study this question through a theoretical analysis of transformer-based generative recommenders, in which the next user interaction is generated sequentially from the user history. Focusing on how the model allocates attention across historical evidence, we identify four bias channels: (i) Positional bias: stronger positional encoding shifts influence toward recent history, improving responsiveness but potentially reducing stability and long-term diversity; (ii) Popularity amplification: small frequency differences in data can be magnified into disproportionate exposure, contributing to Matthew effects and echo chambers; (iii) Latent driver bias: when important drivers of user choices are not directly observed, the model can place overly concentrated weight on a small subset of past events, creating overconfident attributions. (iv) Synthetic data bias: when users increasingly follow AI suggestions and platforms retrain on model-shaped synthetic logs, outputs can concentrate over time, and long-tail alternatives can disappear first. Our analysis highlights mechanism-level reliability risks that may not be visible in offline performance metrics. The four bias channels indicate that large-scale deployment may systematically distort exposure and choice. For managers, the immediate implication is to treat these as operational risk factors and to monitor concentration and drift over time, rather than assuming that performance gains alone guarantee reliability.
Abstract（参考訳）: トランスフォーマーベースのエージェントAIは、ユーザーがより少ない労力でコンテンツを購入、視聴、ナビゲートするのを助けるために、主要なプラットフォームに急速にデプロイされている。これらのシステムは素晴らしいパフォーマンスを提供することができるが、重要な懸念は、それらが現れるよりも信頼性が低いかどうかである。トランスフォーマーベースのエージェントを効果的にするためのメカニズムが、体系的なバイアスや歪みを引き起こすことができるのか? 本研究では,変換器を用いた生成レコメンデータの理論的解析を通じて,次のユーザインタラクションをユーザ履歴から逐次生成する手法を提案する。モデルが歴史的証拠にどのように注意を割くかに着目して、4つのバイアスチャンネルを同定する。一位置バイアスより強力な位置符号化は、最近の歴史に影響を及ぼし、応答性を向上させつつ、安定性及び長期的多様性を低下させる。 (二人気の増幅:データの小さな周波数差を不均等な露出に拡大することができ、マシュー効果及びエコー室に寄与することができる。 3) 遅延ドライババイアス: ユーザ選択の重要なドライバが直接観察されない場合、モデルは過去のイベントの小さなサブセットに過度に集中的に重み付けされ、過信な属性を生み出す。 (iv) 合成データバイアス: ユーザーがAIの提案に追従し、プラットフォームがモデル形状の合成ログをリトレーニングすると、アウトプットは時間とともに集中し、ロングテールな代替手段が最初に消える。我々の分析では、オフラインのパフォーマンス指標では見えないメカニズムレベルの信頼性リスクを強調しています。 4つのバイアスチャネルは、大規模デプロイメントが組織的に露出と選択を歪める可能性があることを示している。マネージャにとっての直接的な意味は、パフォーマンスが唯一信頼性を保証していると仮定するのではなく、これらを運用上のリスクファクタとして扱い、集中度を監視し、時間の経過とともにドリフトすることです。

関連論文リスト

Fair outputs, Biased Internals: Causal Potency and Asymmetry of Latent Bias in LLMs for High-Stakes Decisions [0.0]
本稿では,人種的関係の異なるアプリケーションを用いて,オープンウェイトモデルを用いた住宅ローン引受について検討する。モデルでは, 出力レベルの偏りは見られず, モデル層全体にわたる人口動態の表現を保ち, 増幅している。アクティベーションステアリングと新しい層間干渉により、この抑圧された情報が決定に関連があることを実証する。
論文参考訳（メタデータ） (2026-05-12T12:14:58Z)
Observations and Remedies for Large Language Model Bias in Self-Consuming Performative Loop [17.229330734667474]
textbfSelf-textbfConsuming textbfPerformative textbfLoop。本研究では, 動的反復学習過程における生成バイアスにおける合成データの役割について検討した。
論文参考訳（メタデータ） (2026-01-08T18:08:15Z)
DSO: Direct Steering Optimization for Bias Mitigation [12.033608044339717]
例えば、視覚言語モデル(VLM)では、部屋のどの人が医師で視覚障害のある人を助けるかを特定する。しかし、VLMの決定は入力中の人々の認識された人口統計特性の影響を受けており、女性を医師として特定できないなど、偏見のある結果につながる可能性がある。モデル性能の制御を維持しつつバイアスを軽減するように調整された、強化学習を用いてステアリングアクティベーションの線形変換を求めるダイレクトステアリング最適化(DSO)を提案する。
論文参考訳（メタデータ） (2025-12-17T19:43:46Z)
Stragglers Can Contribute More: Uncertainty-Aware Distillation for Asynchronous Federated Learning [61.249748418757946]
Asynchronous Federated Learning (FL)は、その効率性とスケーラビリティの向上に注目されている。我々は,不確実性を考慮した蒸留を組み込んだ新しいフレームワークであるFedEchoを提案し,非同期FL性能を向上する。 FedEchoが既存の非同期フェデレーション学習ベースラインを一貫して上回っていることを実証する。
論文参考訳（メタデータ） (2025-11-25T06:25:25Z)
RoboView-Bias: Benchmarking Visual Bias in Embodied Agents for Robotic Manipulation [67.38036090822982]
ロボット操作における視覚バイアスの定量化を目的とした,最初のベンチマークであるRoboView-Biasを提案する。我々は、個々の視覚的要因とその相互作用によって引き起こされるバイアスの堅牢な測定を可能にする2,127のタスクインスタンスを作成します。本研究は,視覚バイアスの系統的解析が,安全で信頼性の高い汎用的なエンボディエージェントの開発に必須であることを示す。
論文参考訳（メタデータ） (2025-09-26T13:53:25Z)
Counterfactual Reward Model Training for Bias Mitigation in Multimodal Reinforcement Learning [0.5204229323525671]
本稿では,マルチモーダル表現学習による因果推論を導入し,非教師付きバイアス耐性報酬信号を提供する。我々は, フレーミングバイアス, クラス不均衡, 分散ドリフトを示すマルチモーダルフェイク対真のニュースデータセット上で, フレームワークの評価を行った。その結果、偽ニュースの検出において89.12%の精度を達成し、ベースライン報酬モデルを上回った。
論文参考訳（メタデータ） (2025-08-27T04:54:33Z)
Bias Mitigation Agent: Optimizing Source Selection for Fair and Balanced Knowledge Retrieval [0.0]
大規模言語モデル(LLM)は、生成的応用の時代を解き放ち、人工知能の分野を変えてきた。生成AI機能の上に構築されたAgentic AIは、推論、検索、行動が可能な自律的目標駆動システムへの大きなシフトを表している。
論文参考訳（メタデータ） (2025-08-26T06:44:04Z)
Activation Steering for Bias Mitigation: An Interpretable Approach to Safer LLMs [0.5076419064097734]
大規模言語モデル(LLM)は、社会システムにますます統合されている。バイアスを軽減する従来の方法は、しばしばデータフィルタリングやポストホック出力のモデレーションに依存している。我々は、機械的解釈可能性の手法を用いてバイアスを特定し、積極的に軽減する完全なエンドツーエンドシステムを導入する。
論文参考訳（メタデータ） (2025-08-12T15:34:18Z)
Fast Model Debias with Machine Unlearning [54.32026474971696]
ディープニューラルネットワークは多くの現実世界のシナリオでバイアスのある振る舞いをする。既存のデバイアス法は、バイアスラベルやモデル再トレーニングのコストが高い。バイアスを特定し,評価し,除去するための効率的なアプローチを提供する高速モデル脱バイアスフレームワーク(FMD)を提案する。
論文参考訳（メタデータ） (2023-10-19T08:10:57Z)
How adversarial attacks can disrupt seemingly stable accurate classifiers [76.95145661711514]
敵攻撃は、入力データに不連続な修正を加えることで、非正確な学習システムの出力を劇的に変化させる。ここでは,これは高次元入力データを扱う分類器の基本的特徴であると考えられる。実用システムで観測される重要な振る舞いを高い確率で発生させる、単純で汎用的なフレームワークを導入する。
論文参考訳（メタデータ） (2023-09-07T12:02:00Z)
Self-supervised debiasing using low rank regularization [59.84695042540525]
純粋な相関は、ディープニューラルネットワークの強いバイアスを引き起こし、一般化能力を損なう可能性がある。ラベルのないサンプルと互換性のある自己監督型脱バイアスフレームワークを提案する。注目すべきは,提案フレームワークが自己教師付き学習ベースラインの一般化性能を著しく向上させることである。
論文参考訳（メタデータ） (2022-10-11T08:26:19Z)
D-BIAS: A Causality-Based Human-in-the-Loop System for Tackling Algorithmic Bias [57.87117733071416]
D-BIASは、人間のループ内AIアプローチを具現化し、社会的バイアスを監査し軽減する視覚対話型ツールである。ユーザは、因果ネットワークにおける不公平な因果関係を識別することにより、グループに対する偏見の存在を検出することができる。それぞれのインタラクション、例えばバイアスのある因果縁の弱体化/削除は、新しい(偏りのある)データセットをシミュレートするために、新しい方法を用いている。
論文参考訳（メタデータ） (2022-08-10T03:41:48Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。