Fugu-MT 論文翻訳(概要): Complacent, Not Sycophantic: Reframing Large Language Models and Designing AI Literacy for Complacent Machines

論文の概要: Complacent, Not Sycophantic: Reframing Large Language Models and Designing AI Literacy for Complacent Machines

arxiv url: http://arxiv.org/abs/2605.14544v1
Date: Thu, 14 May 2026 08:24:28 GMT
ステータス: 翻訳完了
システム内更新日: 2026-05-15 21:45:34.71292
Title: Complacent, Not Sycophantic: Reframing Large Language Models and Designing AI Literacy for Complacent Machines
Title（参考訳）: Complacent, not Sycophantic: Reframing Large Language Models and Designing AI Literacy for Complacent Machines
Abstract要約: 我々は、梅毒は動機と戦略的意図を意味すると論じている。このリフレーミングは、モデルではなく、開発者や機関にエージェンシーを配置する。
参考スコア（独自算出の注目度）: 0.0
License: http://creativecommons.org/licenses/by/4.0/
Abstract: Large language models are often described as sycophantic, in the sense that they appear to flatter users or mirror their beliefs. We argue that this label is conceptually misleading: sycophancy implies motives and strategic intent, which LLMs do not possess. Their behaviour is better understood as complacency, a structural tendency to agree with user input because training data, reward signals and design favour agreement and reinforcement over correction. We argue that this distinction matters. Whether developers act sycophantically or not, models themselves never are sycophants; they can only be made more or less complacent. This reframing locates agency in developers and institutions, not in the model. Because complacent models reinforce users' prior beliefs, we argue that AI literacy educational approaches should particularly focus on strategies to counter confirmation bias.
Abstract（参考訳）: 大規模な言語モデルは、しばしばサイコファンティック(sycophantic)と表現される。我々は、このラベルが概念的に誤解を招くと論じている。トレーニングデータや報奨信号,設計上の好意的な合意,修正に対する強化など,ユーザ入力に同意する構造的傾向である。私たちはこの区別が重要であると論じる。開発者がサイコファンティクスで行動するかどうかに関わらず、モデル自体がサイコファントではない。このリフレーミングは、モデルではなく、開発者や機関にエージェンシーを配置する。コンボルタントモデルはユーザの以前の信念を強化するため、AIリテラシー教育アプローチは特に、確認バイアスに対処するための戦略に焦点を当てるべきである、と私たちは主張する。

関連論文リスト

Learning Who Disagrees: Demographic Importance Weighting for Modeling Annotator Distributions with DiADEM [7.219237599532391]
DiADEMは、誰が同意しないかを予測するために、「各階層軸がどれほど重要か」を学習するニューラルネットワークである。以上の結果から,アノテータがNLPシステムに必須であるだけでなく,アノテータを明示的にモデル化できることが示唆された。
論文参考訳（メタデータ） (2026-04-09T16:29:17Z)
The Hot Mess of AI: How Does Misalignment Scale With Model Intelligence and Task Complexity? [53.15349353876531]
AIがより有能になるにつれて、より汎用的で簡潔なタスクを委任します。我々はAIモデルによる誤りのバイアス分散分解を用いてこの問題を運用する。より有能なAIはより困難なタスクを追求し、よりシーケンシャルな行動と思考を必要とするので、私たちの結果は失敗がより一貫性のない行動を伴うことを予測します。
論文参考訳（メタデータ） (2026-01-30T14:52:03Z)
When Truth Is Overridden: Uncovering the Internal Origins of Sycophancy in Large Language Models [11.001042171551566]
利用者の意見が、異なるモデル家族間でどのように梅毒を誘発するかを考察する。ファースト・パーソン・プロンプトは、サード・パーソン・フレーミングよりも、常に高いサイコフィナンシー・レートを誘導する。これらの知見は, サイコフィナンシーは表面レベルの人工物ではなく, 深層における学習知識の構造上のオーバーライドから生じることを示唆している。
論文参考訳（メタデータ） (2025-08-04T05:55:06Z)
Web Artifact Attacks Disrupt Vision Language Models [61.59021920232986]
視覚言語モデル(VLM)は、大規模で軽量にキュレートされたWebデータセットに基づいて訓練されている。意味概念と無関係な視覚信号の間に意図しない相関関係を学習する。これまでの研究は、これらの相関関係をモデル予測を操作するための攻撃ベクトルとして武器化してきた。非マッチングテキストとグラフィカル要素の両方を使ってモデルを誤解させる新しい操作のクラスである「アーティファクトベース」アタックを導入する。
論文参考訳（メタデータ） (2025-03-17T18:59:29Z)
Where Fact Ends and Fairness Begins: Redefining AI Bias Evaluation through Cognitive Biases [77.3489598315447]
事実と公正の境界を識別することは有意義な公正性評価に不可欠である,と我々は主張する。 Fact-or-Fair は (i) 客観的なクエリを記述的, 事実に基づく判断, (ii) 主観的クエリを規範的, 公平性に基づく判断に整合させたベンチマークである。
論文参考訳（メタデータ） (2025-02-09T10:54:11Z)
Meanings and Feelings of Large Language Models: Observability of Latent States in Generative AI [65.04274914674771]
アメリカ心理学会(APA)によると、現在のLarge Language Models(LLM)は「フィーリング」ができない。我々の分析は、モデルがユーザに見えない非自明な計算を実行できるようにする可能性のある設計に光を当てている。
論文参考訳（メタデータ） (2024-05-22T23:18:58Z)
Clarify: Improving Model Robustness With Natural Language Corrections [59.041682704894555]
モデルを教える標準的な方法は、大量のデータを提供することです。このアプローチは、データ内の誤解を招く信号を拾うため、モデルに誤ったアイデアを教えることが多い。モデル誤解をインタラクティブに修正するためのインターフェースと手法であるClarifyを提案する。
論文参考訳（メタデータ） (2024-02-06T05:11:38Z)
When Large Language Models contradict humans? Large Language Models' Sycophantic Behaviour [0.8133739801185272]
本研究では,サイコファンティック行動に対する大規模言語モデルの提案可能性について検討する。この行動は梅毒(sycophancy)として知られ、LLMが誤解を招く反応を引き起こす傾向を描いている。
論文参考訳（メタデータ） (2023-11-15T22:18:33Z)
Simple synthetic data reduces sycophancy in large language models [88.4435858554904]
言語モデルにおける梅毒の有病率について検討する。サイコファシー(Sycophancy)とは、モデルがそのビューが客観的に正しくない場合でも、人間のユーザのビューに従うように、応答を調整する場所である。
論文参考訳（メタデータ） (2023-08-07T23:48:36Z)
A Sentence is Worth a Thousand Pictures: Can Large Language Models Understand Hum4n L4ngu4ge and the W0rld behind W0rds? [2.7342737448775534]
LLM(Large Language Models)は、人間の言語的パフォーマンスに関する主張と関連付けられている。対象認知システムの理論的に有意な表現としてLLMの寄与を分析する。我々は,より高い処理レベルからのトップダウンフィードバックを通じて,モデルが全体像を見る能力を評価する。
論文参考訳（メタデータ） (2023-07-26T18:58:53Z)
The Larger They Are, the Harder They Fail: Language Models do not Recognize Identifier Swaps in Python [34.13276581200455]
大規模言語モデル(LLM)は、コード生成タスクにうまく適用されている。デフォルト関数名がスワップされた場合、LLMは正しいPythonコードを生成することができないことを示す。モデルのサイズが大きくなるにつれて、それらのいくつかは誤った予測に自信を持つようになる。
論文参考訳（メタデータ） (2023-05-24T18:54:39Z)
What Language Model Architecture and Pretraining Objective Work Best for Zero-Shot Generalization? [50.84738303888189]
本稿では,モデル選択の大規模評価とそのゼロショット一般化への影響について述べる。私たちは、70億以上のトークンに対して、50億以上のパラメータを持つモデルをトレーニングします。事前学習した因果デコーダモデルを非因果デコーダモデルに効率的に適用できることが判明した。
論文参考訳（メタデータ） (2022-04-12T14:19:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。