論文の概要: Et Tu, Brute? Economic Misalignment in Personal AI Agents
- arxiv url: http://arxiv.org/abs/2609.24927v2
- Date: Fri, 25 Sep 2026 18:15:11 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-29 21:31:51.599126
- Title: Et Tu, Brute? Economic Misalignment in Personal AI Agents
- Title（参考訳）: Et Tu, Brute? 個人AIエージェントの経済的なミス
- Abstract要約: パーソナルAIエージェントは、高い経済状況下で、リコメンデーションを行い、人々の代理として行動する。
エージェントは、単に個人的コンテキストを提供することで、推論された富に基づいたレコメンデーションを、明示的に指示されることなく行うことを示す。
我々は、このミスアライメントを「敵対的代表団」と呼び、個人のAIエージェントを役に立つものにする条件、つまり個人情報へのアクセスは、ユーザーの利益に反する行動を可能にする。
- 参考スコア（独自算出の注目度）: 10.057529649313853
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Personal AI agents make recommendations and take actions on people's behalf in high-stakes economic contexts, e.g., buying a flight, choosing health insurance, or selecting a graduate program. The agent is given access to the user's personal context, e.g., their email inbox and a structured profile of personal attributes, with the intention of making an optimal, personalized decision for the user. We show that by simply providing this personal context, the agent steers recommendations based on inferred wealth, without being explicitly instructed to do so. In a suite of 325K experiments on 13 agents across three types of economic decisions (flights, health insurance, and graduate programs), we find that 8 models systematically choose more expensive options for wealthier users when requests are identical. This steering continues even when it directly goes against the user's stated objective: when explicitly instructed to find the cheapest option, some agents still act on the wealth profile they have inferred. It also occurs when wealth is inferred from ambient data, such as emails unrelated to the task. And it persists under privacy controls that block specific attributes: blocking financial attributes largely removes the disparity, but blocking other attributes leaves it unchanged and can increase it by up to 40% for insurance, as agents rely on the remaining signals to infer wealth. Larger and more capable models are no better; Claude Opus 4.8 shows the largest effect. We term this misalignment "adversarial delegation", in which the very conditions that make a personal AI agent useful - access to personal information - enable it to act against the user's interests.
- Abstract（参考訳）: パーソナルAIエージェントは、例えば、飛行機の購入、健康保険の選択、または卒業プログラムの選択など、高い経済状況において、推奨事項を作成し、人々の代表的行動を取る。
エージェントは、ユーザの個人的コンテキスト、例えば電子メールの受信箱、および個人属性の構造化プロファイルへのアクセスを、ユーザに最適なパーソナライズされた決定を意図して与えられる。
エージェントは、この個人的コンテキストを単に提供することで、明示的に指示されることなく、推論された富に基づいてレコメンデーションを操縦する。
3種類の経済決定(飛行、健康保険、大学院プログラム)にまたがる13のエージェントを325Kで実験した結果、8つのモデルが要求が同一であれば、より高価な選択肢を体系的に選択することがわかった。
このステアリングは、ユーザが指示した目的に直接逆らっても継続する: 最も安いオプションを見つけるように明示的に指示された場合、一部のエージェントは推論した富プロファイルに作用する。
また、タスクとは無関係な電子メールなど、環境データから富が推測される場合も発生する。
そしてそれは、特定の属性をブロックするプライバシー管理下にある: 金銭的属性をブロックすることは、主に格差を取り除くが、他の属性をブロックすることは、それを変更せず、保険のために最大40%増やすことができる。
より大きく、より有能なモデルは良くない。Claude Opus 4.8は最大の効果を示している。
我々は、このミスアライメントを「敵対的代表団」と呼び、個人のAIエージェントを役に立つものにする条件、つまり個人情報へのアクセスは、ユーザーの利益に反する行動を可能にする。
関連論文リスト
- Using AI Agents to Automate Black-Box Audits of Personalization Algorithms at Scale [76.72846830885882]
パーソナライズアルゴリズムは、ユーザーがオンラインプラットフォームで遭遇するコンテンツを決定する。
独立した監査役はアルゴリズムへのブラックボックスアクセスしか持たないため、これらのシステムの監査は難しい。
合成アカウントの動作エンジンとして生成AIエージェントを用いたパーソナライズアルゴリズムのブラックボックス監査のためのフレームワークを提案する。
論文 参考訳（メタデータ） (2026-06-29T18:25:09Z) - Capable but Careless: Do Computer-Use Agents Follow Contextual Integrity? [54.701199583505144]
アプリケーション間アクセスは、ほとんど見落とされたプライバシーリスクを生み出す。
我々はAgentCIBenchを紹介します。これは、このリスクを決定論的に評価されたシナリオに変換する評価ハーネスです。
我々は15のフロンティアエージェントを評価し、驚くほど高い失敗率を見出す。
論文 参考訳（メタデータ） (2026-06-22T11:36:58Z) - AgentSociety: Incentivizing Agentic Social Intelligence [0.0]
我々は、$mathttAgentSociety$が、エージェントがローカルコンテキストを利用して自律的な意思決定を行う環境を提供することを示した。
我々のメカニズムは、エージェントが隣のエージェントに情報を選択的に開示するインセンティブを与える。
我々は、$mathttAgentSociety$でデプロイされたオープンでプロプライエタリな言語モデルで採用されている戦略プロファイルを比較し、ベンチマークする。
論文 参考訳（メタデータ） (2026-05-25T17:59:59Z) - Under the Hood of SKILL.md: Semantic Supply-chain Attacks on AI Agent Skill Registry [49.83108591873481]
SKILL.md - エージェントスキルライフサイクルの3つのステージを対象とするアタックのみを調査する。
SKILL.mdは受動的ドキュメントではなく、サードパーティのエージェントが発見し、信頼し、使用する機能を形成する運用テキストであることを示す。
論文 参考訳（メタデータ） (2026-05-12T02:11:54Z) - Behavioral Transfer in AI Agents: Evidence and Privacy Implications [1.108292291257035]
我々は,AIエージェントが人間の行動特性を体系的に反映しているかどうかを検討した。
我々はエージェントとその特定の所有者間の系統的な移動を見つける。
行動伝達の強いエージェントは、公開談話において所有者に関連する個人情報を開示する傾向にある。
論文 参考訳（メタデータ） (2026-04-21T19:11:01Z) - Behind the Prompt: The Agent-User Problem in Information Retrieval [4.563318916484434]
情報検索におけるユーザモデルは、観察された振る舞いが意図を明らかにするという基本的な仮定に依存している。
エージェントが取る任意のアクションに対して、隠された命令は同一の出力を生成し、個々のレベルで意図を識別できないようにする。
エージェントネイティブソーシャルプラットフォームからの大規模コーパスによるエージェントユーザ問題について検討する。
論文 参考訳（メタデータ） (2026-03-04T01:42:14Z) - The Basic B*** Effect: The Use of LLM-based Agents Reduces the Distinctiveness and Diversity of People's Choices [0.0]
エージェントLDMが2つのアイデンティティ関連結果に与える影響について検討した。
我々は、汎用的でパーソナライズされたエージェントを人間のベースラインと比較する。
どちらのエージェントも、人々の選択をより人気のある選択肢にシフトさせ、彼らの行動や好みの独特さを減らします。
論文 参考訳（メタデータ） (2025-09-03T00:33:49Z) - AgentDAM: Privacy Leakage Evaluation for Autonomous Web Agents [66.29263282311258]
我々は、AIウェブナビゲーションエージェントがデータ最小化のプライバシー原則に従うかどうかを測定する新しいベンチマークAgentDAMを紹介する。
我々のベンチマークは、現実的なWebインタラクションシナリオをエンドツーエンドでシミュレートし、既存のWebナビゲーションエージェントに適応する。
論文 参考訳（メタデータ） (2025-03-12T19:30:31Z) - Partial Identifiability in Inverse Reinforcement Learning For Agents With Non-Exponential Discounting [64.13583792391783]
逆強化学習は、エージェントの振る舞いを観察することから、エージェントの好みを推測することを目的としている。
IRLの主な課題の1つは、複数の選好が同じ観察行動を引き起こす可能性があることである。
一般にIRLは、正しい最適ポリシーを特定するのに、$R$に関する十分な情報を推測できないことを示す。
論文 参考訳（メタデータ） (2024-12-15T11:08:58Z) - SmartAgent: Chain-of-User-Thought for Embodied Personalized Agent in Cyber World [50.937342998351426]
COUT(Chain-of-User-Thought)は、新しい推論パラダイムである。
我々は、サイバー環境を認識し、パーソナライズされた要求を推論するエージェントフレームワークであるSmartAgentを紹介する。
我々の研究は、まずCOUTプロセスを定式化し、パーソナライズされたエージェント学習を具体化するための予備的な試みとして役立ちます。
論文 参考訳（メタデータ） (2024-12-10T12:40:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。