論文の概要: Annie, Are You Okay? How Style- and Context-Based Personalization Shape AI-Assisted Decision-Making
- arxiv url: http://arxiv.org/abs/2609.24644v1
- Date: Mon, 21 Sep 2026 14:20:12 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-23 18:04:04.002811
- Title: Annie, Are You Okay? How Style- and Context-Based Personalization Shape AI-Assisted Decision-Making
- Title（参考訳）: アニー、あなたは大丈夫? スタイルとコンテキストに基づくパーソナライズ形状のAIによる意思決定
- Abstract要約: パーソナライズされたAIが、最小限の評価トレースだけで、防御可能な選択肢間で意思決定を操る方法を示す。
これらの結果は、パーソナライズされたAIが、最小限の評価トレースしか持たない、防御可能な選択肢間で意思決定を行うことができることを示す。
- 参考スコア（独自算出の注目度）: 6.926458684243893
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: As people turn to generative AI for financial advice, these systems can personalize how they communicate and what they say. Whether these forms of personalization shape decisions differently remains unclear. We conducted a preregistered 2 x 2 between-subjects factorial experiment (N=240): participants ranked three comparably viable stocks, discussed them with an AI, and reranked them. Participants perceived both forms of personalization, but only context-based personalization reliably changed ranking behavior: it increased reconsideration and moved rankings toward the AI's assigned recommendation. Participants felt more influenced without judging the AI as more correct, trustworthy, intelligent, likeable, or high-quality. Those initially farther from its recommendation moved more toward it while judging its advice less correct; exploratory analyses suggest greater susceptibility among lower-expertise participants. These findings show how personalized AI can steer decisions among defensible options with only a minimal evaluative trace, raising concerns for the design and governance of personalized decision support.
- Abstract（参考訳）: 人々が経済的なアドバイスのために生成するAIに目を向けると、これらのシステムはどのようにコミュニケーションし、何を言うかをパーソナライズすることができる。
このようなパーソナライズ形態の決定がどう違うかは、いまだに不明である。
対象物間比較2 x 2 (N=240) を事前登録し, 参加者は3つの比較可能なストックをランク付けし, それらをAIで議論し, 再評価した。
参加者はどちらの形式のパーソナライゼーションも認識したが、コンテキストベースのパーソナライゼーションだけが確実にランキングの行動を変えた。
参加者は、AIをより正確で、信頼でき、知性があり、見栄えが良く、高品質だと判断することなく、より影響を受けていた。
当初、勧告から遠ざかる人々は、アドバイスの正確さを判断しながら、より正しい方向に進み、探索的な分析は、低学年の参加者の間でより感受性が高いことを示唆した。
これらの結果は、パーソナライズされたAIが、最小限の評価トレースで、定義可能な選択肢間で意思決定を操る方法を示し、パーソナライズされた意思決定支援の設計とガバナンスに対する懸念を高めている。
関連論文リスト
- AI and Collective Decisions: Strengthening Legitimacy and Losers' Consent [13.048352696221741]
私たちは、AIが参加者の異なる経験や信念に集団的な決定を下すのにどのように役立つか尋ねる。
我々は、半構造化されたAIインタビュアーを使用して、政策トピックに関する個人的な経験を引き出すシステムを構築した。
可視化と対話することで 正当性、結果への信頼、他人の視点の理解が増大しました
論文 参考訳（メタデータ） (2026-04-07T03:10:40Z) - Strategic Advice in the Age of Personal AI [0.7792020418343021]
我々は、個人が焦点を絞った助言を予測可能なパーソナルAIを相談できる新たな戦略環境について検討する。
パーソナルAIはこの戦略的環境に、どれだけの頻度で相談されるか、そして相談されたときの人間の決定においてどれくらいの重量を受けるかという2つの側面に沿って参入する。
論文 参考訳（メタデータ） (2026-03-02T16:45:43Z) - Biased AI improves human decision-making but reduces trust [0.8621608193534839]
現在のAIシステムは、イデオロギー的中立を強制することによってリスクを最小化するが、これは人間の意思決定における認知的関与を抑制することによって自動化バイアスをもたらす可能性がある。
我々は2500人の参加者とともにランダム化試験を行い、文化に偏ったAIが人間の意思決定を促進するかどうかを検証した。
論文 参考訳（メタデータ） (2025-08-12T19:20:43Z) - Human-Alignment Influences the Utility of AI-assisted Decision Making [16.732483972136418]
我々は,アライメントの程度が,AIによる意思決定の有用性に与える影響について検討する。
以上の結果から,AIによる意思決定におけるアライメントの程度と有効性との関連が示唆された。
論文 参考訳（メタデータ） (2025-01-23T19:01:47Z) - Combining AI Control Systems and Human Decision Support via Robustness and Criticality [53.10194953873209]
我々は、逆説(AE)の方法論を最先端の強化学習フレームワークに拡張する。
学習したAI制御システムは、敵のタンパリングに対する堅牢性を示す。
トレーニング/学習フレームワークでは、この技術は人間のインタラクションを通じてAIの決定と説明の両方を改善することができる。
論文 参考訳（メタデータ） (2024-07-03T15:38:57Z) - Aligning Large Language Models from Self-Reference AI Feedback with one General Principle [61.105703857868775]
13B Llama2-Chatで高品質なフィードバックを提供できる自己参照型AIフィードバックフレームワークを提案する。
具体的には、まずAIがユーザーの指示に反応し、それに基づいて他の回答に対する批判を参照として生成する。
最後に、批判に応じて、どの回答が人間の好みに合うかを判断する。
論文 参考訳（メタデータ） (2024-06-17T03:51:46Z) - Does More Advice Help? The Effects of Second Opinions in AI-Assisted
Decision Making [45.20615051119694]
我々は、AIによる意思決定における意思決定者の行動とパフォーマンスに第2の意見がどう影響するかを考察する。
AIモデルの推奨事項と第2の意見が常に一致している場合、意思決定者はAIに対する過度な信頼を減らすことができる。
もし意思決定者が、いつ仲間の第二の意見を求めるかを決めることができるならば、彼らの第二の意見の活発な勧誘は、AIに対する過度な信頼を緩和する可能性があることに気付く。
論文 参考訳（メタデータ） (2024-01-13T12:19:01Z) - Is the Most Accurate AI the Best Teammate? Optimizing AI for Teamwork [54.309495231017344]
AIシステムは人間中心の方法でトレーニングされ、チームのパフォーマンスに直接最適化されるべきである、と私たちは主張する。
我々は,AIレコメンデーションを受け入れるか,あるいはタスク自体を解決するかを選択する,特定のタイプのAIチームを提案する。
実世界の高精度データセット上での線形モデルと非線形モデルによる実験は、AIが最も正確であることは、最高のチームパフォーマンスに繋がらないことを示している。
論文 参考訳（メタデータ） (2020-04-27T19:06:28Z) - Artificial Artificial Intelligence: Measuring Influence of AI
'Assessments' on Moral Decision-Making [48.66982301902923]
ドナー腎アロケーションに関する道徳的意思決定に対する疑似AIからのフィードバックの効果を検討した。
患者が腎臓を受容器するかどうかの判断は、AIによって与えられると認識される参加者自身の意思決定に関するフィードバックに影響される可能性があるという証拠がいくつか見出された。
論文 参考訳（メタデータ） (2020-01-13T14:15:18Z) - Effect of Confidence and Explanation on Accuracy and Trust Calibration
in AI-Assisted Decision Making [53.62514158534574]
ケース固有のモデル情報を明らかにする特徴が、信頼度を調整し、人間とAIのジョイントパフォーマンスを向上させることができるかどうかを検討する。
信頼スコアは、AIモデルに対する人々の信頼を校正するのに役立ちますが、信頼の校正だけでは、AI支援による意思決定を改善するには不十分です。
論文 参考訳（メタデータ） (2020-01-07T15:33:48Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。