Fugu-MT 論文翻訳(概要): Model Hypnosis: Strong control of AI via additive subliminal effects

論文の概要: Model Hypnosis: Strong control of AI via additive subliminal effects

arxiv url: http://arxiv.org/abs/2608.16834v1
Date: Mon, 17 Aug 2026 17:20:10 GMT
ステータス: 翻訳完了
システム内更新日: 2026-08-18 19:59:03.817878
Title: Model Hypnosis: Strong control of AI via additive subliminal effects
Title（参考訳）: Model Hypnosis: 付加的なサブリミナル効果によるAIの強力な制御
Abstract要約: AIモデルは、モデル催眠症と呼ばれる現象に影響を受けやすいことを示す。モデル催眠は、フロンティア推論モデルを含むモデルファミリーとスケールにまたがって起こる。このモデルはパラフレーズやタイポスなどの不明瞭なテキストの選択によって制御されるため、モデル催眠術は新しい課題とAI安全性への道のりを示す。
参考スコア（独自算出の注目度）: 0.09821874476902968
License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
Abstract: We demonstrate that AI models are broadly susceptible to a phenomenon we call model hypnosis, in which individually weak and seemingly irrelevant cues in the prompt can be systematically combined to strongly control model behavior. Model hypnosis occurs across model families and scales, including in frontier reasoning models, and hypnotic prompts can transfer between models. Because the model is controlled by inconspicuous textual choices, such as paraphrases and typos, model hypnosis presents new challenges and avenues for AI safety, and is a major hurdle for AI interpretability.
Abstract（参考訳）: 我々は、AIモデルは、モデル催眠症と呼ばれる現象に広く影響され、プロンプトの個人的弱さと一見無関係な手がかりが、モデル行動の強い制御に体系的に組み合わされることを実証した。モデル催眠は、フロンティア推論モデルを含むモデルファミリーとスケールにまたがって起こり、催眠プロンプトはモデル間で移動することができる。モデルはパラフレーズやタイポスなどの不明瞭なテキストの選択によって制御されるため、モデル催眠術は新しい課題とAIの安全性への道のりを示し、AIの解釈可能性にとって大きなハードルとなっている。

関連論文リスト

Emergent Introspective Awareness in Large Language Models [2.2458442204933]
大規模言語モデルが内部状態をイントロスペクションできるかどうかを検討する。モデルが特定のシナリオにおいて、注入された概念の存在に気付き、それらを正確に識別できることが分かりました。最も有能なモデルであるクロード・オプス4と4.1は、一般に最も内省的な認識を示す。
論文参考訳（メタデータ） (2026-01-05T06:47:41Z)
Language Models can perform Single-Utterance Self-Correction of Perturbed Reasoning [4.768151813962547]
大規模言語モデル(LLM)は、驚くべき数学的推論能力を示している。それらの性能は、問題記述と迅速な戦略の微妙なバリエーションに引き続き脆弱である。近年のモデルの自己補正能力をよりよく理解するために,モデルが自己補正合成を行う能力を測定する実験を行った。
論文参考訳（メタデータ） (2025-06-18T21:35:44Z)
Toward universal steering and monitoring of AI models [16.303681959333883]
大規模AIモデルにおける一般概念の線形表現を抽出するためのスケーラブルなアプローチを開発する。これらの表現がモデルステアリングを実現する方法を示します。
論文参考訳（メタデータ） (2025-02-06T01:41:48Z)
A Timeline and Analysis for Representation Plasticity in Large Language Models [0.0]
本稿では, 異なる微調整段階において抽出したステアリングを応用することにより, 「正直」とモデル塑性がいかに進化するかを理解することを目的とする。初期のステアリングは高い塑性を示すが、後期は驚くほど反応のよい臨界窓を持つ。これらの洞察は、AI透明性の分野に大きく貢献し、効率の急激な欠如に対処し、モデルの振る舞いを効果的に操る能力を制限する。
論文参考訳（メタデータ） (2024-10-08T17:34:15Z)
CAR: Controllable Autoregressive Modeling for Visual Generation [100.33455832783416]
Controllable AutoRegressive Modeling (CAR)は、条件制御をマルチスケールの潜在変数モデリングに統合する新しいプラグイン・アンド・プレイフレームワークである。 CARは、制御表現を徐々に洗練し、キャプチャし、前訓練されたモデルの各自己回帰ステップに注入して生成プロセスを導く。提案手法は,様々な条件にまたがって優れた制御性を示し,従来の手法に比べて画質の向上を実現している。
論文参考訳（メタデータ） (2024-10-07T00:55:42Z)
Hybrid$^2$ Neural ODE Causal Modeling and an Application to Glycemic Response [5.754225700181611]
我々は、最先端の予測性能の早期因果正性を達成する方法を示す。 1型糖尿病患者の運動後の血糖動態をモデル化する難しい課題において、最先端の予測性能を早期に達成する能力を示す。
論文参考訳（メタデータ） (2024-02-27T06:01:56Z)
On the Trade-off Between Efficiency and Precision of Neural Abstraction [62.046646433536104]
ニューラル抽象化は、最近、複雑な非線形力学モデルの形式近似として導入されている。我々は形式的帰納的合成法を用いて、これらのセマンティクスを用いた動的モデルをもたらすニューラル抽象化を生成する。
論文参考訳（メタデータ） (2023-07-28T13:22:32Z)
Your Autoregressive Generative Model Can be Better If You Treat It as an Energy-Based One [83.5162421521224]
本稿では,自己回帰生成モデルの学習のための独自のE-ARM法を提案する。 E-ARMは、よく設計されたエネルギーベースの学習目標を活用する。我々は、E-ARMを効率的に訓練でき、露光バイアス問題を緩和できることを示した。
論文参考訳（メタデータ） (2022-06-26T10:58:41Z)
EINNs: Epidemiologically-Informed Neural Networks [75.34199997857341]
本稿では,疫病予測のための新しい物理インフォームドニューラルネットワークEINNを紹介する。メカニスティックモデルによって提供される理論的柔軟性と、AIモデルによって提供されるデータ駆動表現性の両方を活用する方法について検討する。
論文参考訳（メタデータ） (2022-02-21T18:59:03Z)
Explain, Edit, and Understand: Rethinking User Study Design for Evaluating Model Explanations [97.91630330328815]
我々はクラウドソーシング研究を行い、真偽のホテルレビューと偽のホテルレビューを区別するために訓練された詐欺検出モデルと対話する。単語の線形バッグモデルでは、トレーニング中に特徴係数にアクセスした参加者は、非説明制御と比較して、テストフェーズにおいてモデルの信頼性が大幅に低下する可能性があることを観察する。
論文参考訳（メタデータ） (2021-12-17T18:29:56Z)
Orthogonal Deep Models As Defense Against Black-Box Attacks [71.23669614195195]
攻撃者が標的モデルに類似したモデルを用いて攻撃を発生させるブラックボックス設定における深層モデル固有の弱点について検討する。本稿では,深部モデルの内部表現を他のモデルに直交させる新しい勾配正規化手法を提案する。様々な大規模モデルにおいて,本手法の有効性を検証する。
論文参考訳（メタデータ） (2020-06-26T08:29:05Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。