論文の概要: Don't Think of the White Bear: Ironic Negation in Transformer Models Under Cognitive Load

• arxiv url: http://arxiv.org/abs/2511.12381v1
• Date: Sat, 15 Nov 2025 23:00:56 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-11-18 14:36:24.005941
• Title: Don't Think of the White Bear: Ironic Negation in Transformer Models Under Cognitive Load
• Title（参考訳）: 白熊について考えるな:認知的負荷下での変圧器モデルにおける皮肉な否定
• Abstract要約: do not mention $X$"のような否定命令は、人間の思考における$X$のアクセシビリティをパラドックス的に向上させる。 概念を抑えるには内部で活性化する必要があるか検討するが、これは避ける代わりにプライムリバウンドとなる可能性がある。
• 参考スコア（独自算出の注目度）: 6.24904498966298
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Negation instructions such as 'do not mention $X$' can paradoxically increase the accessibility of $X$ in human thought, a phenomenon known as ironic rebound. Large language models (LLMs) face the same challenge: suppressing a concept requires internally activating it, which may prime rebound instead of avoidance. We investigated this tension with two experiments. \textbf{(1) Load \& content}: after a negation instruction, we vary distractor text (semantic, syntactic, repetition) and measure rebound strength. \textbf{(2) Polarity separation}: We test whether models distinguish neutral from negative framings of the same concept and whether this separation predicts rebound persistence. Results show that rebound consistently arises immediately after negation and intensifies with longer or semantic distractors, while repetition supports suppression. Stronger polarity separation correlates with more persistent rebound. Together, these findings, complemented by a circuit tracing analysis that identifies sparse middle-layer attention heads amplifying forbidden tokens while early layers suppress, link cognitive predictions of ironic rebound with mechanistic insights into long-context interference. To support future work, we release ReboundBench, a dataset of $5,000$ systematically varied negation prompts designed to probe rebound in LLMs.
• Abstract（参考訳）: 例えば「$X$に言及しない」といった否定命令は、皮肉なリバウンド(英語版)として知られる、人間の思考における$X$のアクセシビリティをパラドックス的に向上させる。 大きな言語モデル(LLM)も同様の課題に直面している。概念を抑圧するには内部でアクティベートする必要がある。 我々はこの緊張を2つの実験で調べた。 textbf{(1) Load \& content}: 否定命令の後に、散文(セマンティック、構文、反復)を変え、リバウンド強度を測定する。 \textbf{(2) polarity separation}: モデルが同じ概念の負のフレーミングとニュートラルを区別するかどうか、またこの分離がリバウンド永続性を予測するかどうかをテストする。 結果は、リバウンドは否定の直後に一貫して発生し、長いまたは意味的な邪魔を伴って増大し、繰り返しは抑制をサポートすることを示している。 強い極性分離はより永続的なリバウンドと相関する。 これらの知見は、初期層は禁止トークンを増幅し、初期層は禁止トークンを増幅する回路追跡分析によって補完され、鉄のリバウンドの認知予測と長期環境干渉に関する機械的洞察をリンクする。 将来の作業をサポートするために、私たちは、LLMのリバウンドを調査するために設計された5000ドルの体系的に異なる否定プロンプトのデータセットであるReboundBenchをリリースした。

関連論文リスト

• Bypass Observation: A Conceptual Design of a Non-Intrusive Layer-Wise Semantic Extraction Architecture [2.8943395720203386]
  Bypass Observationは、非侵襲的な層単位の読み出しアーキテクチャである。 V/(12d) に支配される閉形式オーバーヘッド近似を導出する。 Bypass Observationは、隠された状態の部分的、潜在的に誤解を招く可能性のあるプロジェクションを保ちながら、モデルイテレーションをより観測可能にすることができる、と私たちは主張する。
  論文  参考訳（メタデータ） (2026-09-12T08:35:45Z)
• Sycophancy Suppression Can Impair Rational Updating: Anti-Sycophancy Should Preserve the Ability to Update [42.28671768284055]
  大規模な言語モデルは、しばしばサイコフィナンシーを示し、押し戻された時にユーザーと整合するように答えを修正します。 我々はこれらを非支持利潤と合理化と区別する。 反ゾファンシーの手法はしばしばトレードオフに遭遇し、非支持の収量を減らすことは合理的な上昇を犠牲にする可能性がある。
  論文  参考訳（メタデータ） (2026-08-27T01:20:03Z)
• Multimodal Continuous Reasoning via Asymmetric Mutual Variational Learning [31.446829707182445]
  連続潜時推論は、マルチモーダルクエリと最終回答をブリッジする暗黙の推論経路を発見することを目的としている。 これは、厳格な列車干渉ミスマッチ(英語版)を導入する: 訓練時間後部(英語版)は、接地真実の答えに条件付けられ、答えに依存したショートカットを利用することができる。 標準偏差トレーニングでは、テスト時に入手できない情報にアクセスできない後部を模倣するために、推論時間を前倒しし、パフォーマンスが低下する。 本稿では,このミスマッチを双方向の校正目標を用いて解決するフレームワークである非対称多変量学習(AMVL)を提案する。
  論文  参考訳（メタデータ） (2026-07-01T05:29:02Z)
• Visual Latents Know More Than They Say: Unsilencing Latent Reasoning in MLLMs [54.16324124242172]
  連続潜在空間推論は、マルチモーダルモデルに対するテキストチェーンのコンパクトな代替を提供する。 既存の視覚的推論手法では,これまで見過ごされてきた最適化病理を同定する。 パラメータ更新を伴わない推論時間潜時最適化は、視覚潜時における抑止的推論能力を効果的に解き放つことを示す。
  論文  参考訳（メタデータ） (2026-05-04T15:36:12Z)
• Shorthand for Thought: Compressing LLM Reasoning via Entropy-Guided Supertokens [4.0704009036918025]
  大規模言語モデルにおける推論は、重要な推論時間計算を引き起こす。 推論トークンは、低エントロピーのテクスト構造トークン(推論過程を足場とするフレーズの再帰)と高エントロピーのテクスト有機トークン(解に向かって進むプロブレム固有のコンテンツ)の2つの機能タイプに分かれていることを示す。 頻繁な構造パターンをキャプチャするテクスチャツペルトケンを導出し、教師付き微調整によりモデルに導入するように教える。
  論文  参考訳（メタデータ） (2026-04-29T07:06:43Z)
• A Progressive Training Strategy for Vision-Language Models to Counteract Spatio-Temporal Hallucinations in Embodied Reasoning [49.61652671596548]
  「多像幻覚推論」では、前頭と時頭クエリ間の大規模なパフォーマンス低下は、真に理解するのではなく、表面的なショートカットへの依存を示す。 これを軽減するために、我々は、チェーンステップへの詳細な推論と決定的な判断に基づく、時間的連鎖構築という新しいデータセットを開発する。 実験により,本手法は精度を向上するだけでなく,70%以上から6.53%まで,前向きのパフォーマンスギャップも改善することが示された。
  論文  参考訳（メタデータ） (2026-04-12T07:48:44Z)
• Imagination Helps Visual Reasoning, But Not Yet in Latent Space [65.80396132375571]
  因果関係分析を用いた潜伏推論の有効性について検討した。 潜在トークンが限られた視覚情報を符号化し、高い類似性を示すことを示す。 CapImagineという簡単な代替案を提案し、テキストを明示的に想像するようにモデルに教える。
  論文  参考訳（メタデータ） (2026-02-26T08:56:23Z)
• Negative-Aware Diffusion Process for Temporal Knowledge Graph Extrapolation [16.301114199423044]
  時間的知識グラフ(TKG)推論は、過去の証拠から将来の行方不明の事実を予測しようとするものである。 TKG外挿(NADEx)の負の認識拡散モデル NADExは、実体、関係、時間間隔の主題中心の履歴をシーケンシャルな埋め込みにエンコードする。
  論文  参考訳（メタデータ） (2026-02-09T15:50:56Z)
• Seeing Through the Chain: Mitigate Hallucination in Multimodal Reasoning Models via CoT Compression and Contrastive Preference Optimization [78.94590726578014]
  マルチモーダル推論モデル (Multimodal reasoning model, MLRM) は幻覚の傾向が強く, 効果的な解はいまだ未発見のままである。 textbfCompression と textbfPreference textbfOptimization を組み合わせたトレーニングベースの緩和フレームワーク C3PO を提案する。
  論文  参考訳（メタデータ） (2026-02-03T11:00:55Z)
• The Illusion of Forgetting: Attack Unlearned Diffusion via Initial Latent Variable Optimization [51.835894707552946]
  非学習型防衛は拡散モデル(DM)からNot-Safe-For-Work概念を浄化すると主張している 本研究では,未学習が言語記号と基礎知識のマッピングを部分的に破壊し,休眠記憶として残り続けることを示す。 IVOは、壊れたマッピングを再構築することで、これらの休眠記憶を再活性化する簡潔で強力な攻撃フレームワークである。
  論文  参考訳（メタデータ） (2026-01-30T02:39:51Z)
• Unregularized Linear Convergence in Zero-Sum Game from Preference Feedback [50.89125374999765]
  NLHFにおける最適乗算重み更新(mathtOMWU$)に対する最初の収束保証を提供する。 本分析では, 稀に発生する行動の確率が指数関数的に小さい値から指数関数的に増大する新たな限界収束挙動を同定する。
  論文  参考訳（メタデータ） (2025-12-31T12:08:29Z)
• Is Chain-of-Thought Really Not Explainability? Chain-of-Thought Can Be Faithful without Hint Verbalization [11.80379109128303]
  Biasing Featuresメトリックは、予測に影響を与えるプロンプト注入されたヒントを省略した場合、CoTを偽りとしてラベル付けする。 この計量は不完全さと不完全さを混同し、分散トランスフォーマー計算を線形自然言語物語に変換するのに必要な圧縮を損なう。
  論文  参考訳（メタデータ） (2025-12-28T18:18:02Z)
• Feeling the Strength but Not the Source: Partial Introspection in LLMs [0.0]
  人類学的な主張では、フロンティアモデルは時々、活性化方向として表される「概念」を検知し、名前を付けることができる。 われわれは、Meta-Llama-3.1-8B-Instruct上で、Arthropicのマルチターン「エマージェントイントロスペクション」の結果を再現する。 イントロスペクションは、非常に大きなモデルや有能なモデルに限らない。
  論文  参考訳（メタデータ） (2025-12-13T17:51:13Z)
• From Harm to Help: Turning Reasoning In-Context Demos into Assets for Reasoning LMs [58.02809208460186]
  デモとしてDeepSeek-R1の高品質なトレースを使って、このパラドックスを再検討する。 デモが最適であっても、より多くの例を加えることで、常に精度が低下することがわかった。 デモを明示的で再利用可能な洞察に変換するシーケンシャルなテストタイム手順であるInsight-to-solve(I2S)を紹介します。
  論文  参考訳（メタデータ） (2025-09-27T08:59:31Z)
• Cyclic Ablation: Testing Concept Localization against Functional Regeneration in AI [0.0]
  中心的な問題は、偽りのような望ましくない振る舞いが、削除できる局所関数であるかどうかである。 本研究は,スパースオートエンコーダ,ターゲットアブレーション,対人訓練を組み合わせることで,偽装の概念を排除しようと試みた。 局所化仮説とは裏腹に, 偽装は非常に弾力性があることが判明した。
  論文  参考訳（メタデータ） (2025-09-23T23:16:11Z)
• Mitigating Multimodal Hallucinations via Gradient-based Self-Reflection [49.26064449816502]
  本研究では,テキスト・視覚バイアスと共起バイアスに対処するために,グラディエントベースのインフルエンス・アウェア制約付きデコーディング(GACD)手法を提案する。 GACDは幻覚を効果的に低減し、MLLM出力の視覚的接地を改善する。
  論文  参考訳（メタデータ） (2025-09-03T08:13:52Z)
• BURN: Backdoor Unlearning via Adversarial Boundary Analysis [73.14147934175604]
  Backdoor Unlearningは、モデル本来の機能を保持しながら、バックドア関連の情報を削除することを目的としている。 本稿では, 偽相関疎結合, プログレッシブデータリファインメント, モデル浄化を統合した新しい防御フレームワーク, BURNによるバックドア・アンラーニングを提案する。
  論文  参考訳（メタデータ） (2025-07-14T17:13:06Z)
• Wait, We Don't Need to "Wait"! Removing Thinking Tokens Improves Reasoning Efficiency [24.56015832583054]
  高度な推論には、"Wait" や "Hmm" などのトークンによって信号される明示的な自己回帰が必要である。 推論中にこれらのトークンを抑えることで、明示的な自己回帰を無効にする、シンプルで効果的なアプローチであるNoWaitを提案する。
  論文  参考訳（メタデータ） (2025-06-10T01:54:04Z)
• Derailing Non-Answers via Logit Suppression at Output Subspace Boundaries in RLHF-Aligned Language Models [0.0]
  モデル重みやプロンプトを変更することなく、センシティブなコンテンツに対する大言語モデル(LLM)の拒絶率を低減する手法を提案する。 特定のモデルの拒絶は、しばしばトークンの特定のトークンシーケンスによってもたらされた、という観察によって動機づけられた。 この結果から, 退避行動は, 生成過程の特定の点において, 退避部分空間をブロックすることによって回避できる可能性が示唆された。
  論文  参考訳（メタデータ） (2025-05-28T20:25:24Z)
• Towards Model Resistant to Transferable Adversarial Examples via Trigger Activation [95.3977252782181]
  知覚不能な摂動によって特徴づけられる敵対的な例は、彼らの予測を誤解させることで、ディープニューラルネットワークに重大な脅威をもたらす。 本稿では,移動可能な敵例(TAE)に対して,より効率的かつ効果的に堅牢性を高めることを目的とした,新たなトレーニングパラダイムを提案する。
  論文  参考訳（メタデータ） (2025-04-20T09:07:10Z)
• REBAR: Retrieval-Based Reconstruction for Time-series Contrastive Learning [64.08293076551601]
  正の対を識別する学習尺度を新たに提案する。 検索ベースレコンストラクションは2つのシーケンス間の類似度を測定する。 本稿では,REBAR誤差が相互クラスメンバシップの予測因子であることを示す。
  論文  参考訳（メタデータ） (2023-11-01T13:44:45Z)
• CoT-BERT: Enhancing Unsupervised Sentence Representation through Chain-of-Thought [3.0566617373924325]
  本稿では,教師付き推論の進歩的思考を活用する革新的な手法であるCoT-BERTを提案する。 我々は、高度なコントラスト学習損失関数を開発し、新しいテンプレート認知戦略を提案する。
  論文  参考訳（メタデータ） (2023-09-20T08:42:06Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。