論文の概要: From Personalization to Prejudice: Bias and Discrimination in Memory-Enhanced AI Agents for Recruitment
- arxiv url: http://arxiv.org/abs/2512.16532v1
- Date: Thu, 18 Dec 2025 13:41:37 GMT
- ステータス: 翻訳完了
- システム内更新日: 2025-12-19 18:10:32.080137
- Title: From Personalization to Prejudice: Bias and Discrimination in Memory-Enhanced AI Agents for Recruitment
- Title（参考訳）: パーソナライズから偏見へ:リクルートのための記憶増強型AIエージェントのバイアスと識別
- Authors: Himanshu Gharat, Himanshi Agrawal, Gourab K. Patro,
- Abstract要約: 大規模言語モデル(LLM)は、さまざまなタスクに対する理解、推論、相互作用の高度な能力を持つAIエージェントに権限を与えている。
メモリの追加により、相互作用間の連続性を可能とし、過去の経験から学び、時間とともに行動と反応の関連性を改善することで、メモリ強化されたパーソナライゼーションと呼ばれるそれらをさらに強化する。
各種手術段階におけるバイアスの導入と増幅について検討した。
- 参考スコア（独自算出の注目度）: 1.0820100241689474
- License: http://creativecommons.org/licenses/by-nc-nd/4.0/
- Abstract: Large Language Models (LLMs) have empowered AI agents with advanced capabilities for understanding, reasoning, and interacting across diverse tasks. The addition of memory further enhances them by enabling continuity across interactions, learning from past experiences, and improving the relevance of actions and responses over time; termed as memory-enhanced personalization. Although such personalization through memory offers clear benefits, it also introduces risks of bias. While several previous studies have highlighted bias in ML and LLMs, bias due to memory-enhanced personalized agents is largely unexplored. Using recruitment as an example use case, we simulate the behavior of a memory-enhanced personalized agent, and study whether and how bias is introduced and amplified in and across various stages of operation. Our experiments on agents using safety-trained LLMs reveal that bias is systematically introduced and reinforced through personalization, emphasizing the need for additional protective measures or agent guardrails in memory-enhanced LLM-based AI agents.
- Abstract（参考訳）: 大規模言語モデル(LLM)は、さまざまなタスクに対する理解、推論、相互作用の高度な能力を持つAIエージェントに権限を与えている。
メモリの追加により、相互作用間の連続性を可能とし、過去の経験から学び、時間とともに行動と反応の関連性を改善することで、メモリ強化されたパーソナライゼーションと呼ばれるそれらをさらに強化する。
このようなメモリによるパーソナライゼーションは明確なメリットを提供するが、バイアスのリスクももたらす。
これまでのいくつかの研究では、MLとLLMのバイアスが強調されているが、メモリ強化されたパーソナライズされたエージェントによるバイアスはほとんど探索されていない。
採用事例として,記憶を増強したパーソナライズされたエージェントの動作をシミュレートし,さまざまな操作段階におけるバイアスの導入と増幅について検討する。
安全性を訓練したLSMを用いたエージェント実験では、メモリ強化LSMベースのAIエージェントにおいて、バイアスが体系的に導入され、パーソナライゼーションによって強化されることが判明した。
関連論文リスト
- Memory in the Age of AI Agents [217.9368190980982]
この研究は、現在のエージェントメモリ研究の最新の展望を提供することを目的としている。
我々は,エージェントメモリ,すなわちトークンレベル,パラメトリック,潜時メモリの3つの支配的実現を同定する。
実用的な開発を支援するため、メモリベンチマークとオープンソースフレームワークの包括的な概要をコンパイルする。
論文 参考訳（メタデータ） (2025-12-15T17:22:34Z) - O-Mem: Omni Memory System for Personalized, Long Horizon, Self-Evolving Agents [60.1848551962911]
O-Memはアクティブユーザプロファイリングに基づく新しいメモリフレームワークである。
O-Memはペルソナ属性とトピック関連コンテキストの階層的検索をサポートする。
論文 参考訳（メタデータ） (2025-11-17T16:55:19Z) - Learning from Supervision with Semantic and Episodic Memory: A Reflective Approach to Agent Adaptation [11.819481846962447]
本研究では,事前訓練された大規模言語モデル上に構築されたエージェントが,パラメータ更新なしでラベル付き例からターゲット分類関数を学習する方法について検討する。
我々のフレームワークは、エピソードメモリを使用して、インスタンスレベルの批判を保存し、それらを再利用可能なタスクレベルのガイダンスに蒸留する。
我々の研究は、より適応的で解釈可能なLLMエージェントを構築するためのメモリ駆動型反射学習の可能性を浮き彫りにした。
論文 参考訳（メタデータ） (2025-10-22T17:58:03Z) - ReasoningBank: Scaling Agent Self-Evolving with Reasoning Memory [57.517214479414726]
ReasoningBankは、エージェントの自己判断の成功と失敗の経験から一般化可能な推論戦略を抽出するメモリフレームワークである。
テスト時には、エージェントがReasoningBankから関連する記憶を取得してそのインタラクションを知らせ、新しい学習を統合することで、時間が経つにつれてより有能になる。
本稿では,エージェントのインタラクションエクスペリエンスをスケールアップすることにより,学習プロセスの高速化と多様化を図るメモリ対応テストタイムスケーリング(MaTTS)を提案する。
論文 参考訳（メタデータ） (2025-09-29T17:51:03Z) - PersonaAgent: When Large Language Model Agents Meet Personalization at Test Time [87.99027488664282]
PersonaAgentは、汎用的なパーソナライゼーションタスクに対処するために設計されたフレームワークである。
パーソナライズされたメモリモジュールとパーソナライズされたアクションモジュールを統合する。
テストタイムのユーザ嗜好アライメント戦略は、リアルタイムのユーザの嗜好アライメントを保証する。
論文 参考訳（メタデータ） (2025-06-06T17:29:49Z) - How Memory Management Impacts LLM Agents: An Empirical Study of Experience-Following Behavior [65.70584076918679]
メモリは、大きな言語モデル(LLM)ベースのエージェントにおいて重要なコンポーネントである。
本稿では,メモリ管理の選択がLLMエージェントの行動,特に長期的パフォーマンスに与える影響について検討する。
論文 参考訳（メタデータ） (2025-05-21T22:35:01Z) - Unveiling Privacy Risks in LLM Agent Memory [40.26158509307175]
大規模言語モデル(LLM)エージェントは、様々な現実世界のアプリケーションでますます普及している。
デモのためにメモリモジュールにプライベートユーザエージェントインタラクションを格納することで、意思決定を強化する。
本稿では,メモリからプライベート情報を抽出するメモリ・エクストルーアクション・アタック(MEXTRA)を提案する。
論文 参考訳（メタデータ） (2025-02-17T19:55:53Z) - Memory Sharing for Large Language Model based Agents [43.53494041932615]
本稿では,リアルタイムメモリフィルタ,ストレージ,検索を統合し,In-Context学習プロセスを強化するためのフレームワークであるMemory Sharingを紹介する。
実験の結果,MSフレームワークはオープンな質問に対処する際のエージェントの性能を大幅に改善することが示された。
論文 参考訳（メタデータ） (2024-04-15T17:57:30Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。