論文の概要: Learning Steganography Is Easy, Learning Steganographic Reasoning Is Hard

• arxiv url: http://arxiv.org/abs/2609.39838v1
• Date: Wed, 30 Sep 2026 14:34:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-01 18:57:27.89604
• Title: Learning Steganography Is Easy, Learning Steganographic Reasoning Is Hard
• Title（参考訳）: ステガノグラフィーの学習は簡単で、ステガノグラフィーの推論は難しい
• Abstract要約: AIの監視と制御のアプローチとしてのチェーンオブ思考モニタリングは、ステガノグラフィー推論の可能性によって脅かされている。 提案手法は,3つの提案手法にまたがって,ステガノグラフィー推論と2つの隣り合う能力の学習がいかに容易かを示す。
• 参考スコア（独自算出の注目度）: 0.6226609932118123
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Chain-of-thought monitoring as an approach for AI oversight and control is threatened by the possibility of steganographic reasoning, where LLMs conceal their reasoning inside innocuous-looking text. Two neighbouring capabilities, steganographic messaging (passing a concealed message) and encoded reasoning (reasoning in an illegible but unconcealed format), have already been shown to emerge under training pressures that occur in real pipelines, such as reinforcement learning against monitors. This suggests that steganographic reasoning too might arise as an unintended side effect of training. Here, we compare how easily models learn steganographic reasoning and these two neighbouring capabilities across three elicitation methods: reinforcement learning, in-context learning, and supervised fine-tuning (SFT). For most tasks, models learn steganographic reasoning only under SFT, while they learn steganographic messaging and encoded reasoning under all three elicitation methods. Even under SFT, steganographic reasoning requires at least twice as much training as messaging, and for several model-task combinations it is not learned at all. However, on a cover task that makes hiding information especially convenient, steganographic reasoning can be successfully learned under all three elicitation methods. Steganographic reasoning is thus much harder than steganographic messaging and encoded reasoning, and learning the latter two does not imply learning the former. Yet it lies within reach: an easy version is learned under every elicitation method, when the cover task is convenient for hiding information.
• Abstract（参考訳）: AIの監視と制御のアプローチとしてのチェーン・オブ・シント(Chain-of- Thought)監視は、LLMが無害なテキストの中に推論を隠蔽するステガノグラフィー推論の可能性によって脅かされている。 ステガノグラフメッセージング(隠されたメッセージを通過する)とエンコードされた推論(不可解だが無視されたフォーマットで推論する)という2つの隣接する能力は、モニターに対する強化学習のような実際のパイプラインで発生する訓練圧力の下で既に現れている。 このことから, ステガノグラフィーによる推論も, 意図しないトレーニングの副作用として生じる可能性が示唆された。 本稿では,3つの方法(強化学習,テキスト内学習,教師付き微調整(SFT))にまたがって,手話的推論の学習がいかに容易かを比較した。 ほとんどのタスクでは、モデルはSFTでのみステガノグラフ推論を学習し、ステガノグラフメッセージングを学習し、3つの方法すべてで推論を符号化する。 SFTの下でも、ステガノグラフ推論はメッセージングの少なくとも2倍のトレーニングを必要とし、いくつかのモデルとタスクの組み合わせでは、全く学習されない。 しかし,隠蔽情報を特に便利にする隠蔽タスクでは,3つの方法のすべてにおいて,ステガノグラフィー推論をうまく学習することができる。 したがって、ステガノグラフ推論は、ステガノグラフメッセージングや符号化推論よりもはるかに困難であり、後者の2つの学習は前者の学習を意味するものではない。 カバータスクが情報を隠すのに便利である場合、簡単なバージョンはすべてのエコキューションメソッドで学習されます。

関連論文リスト

• Scalable Visual Pretraining for Language Intelligence [69.86077531505379]
  現在の事前学習アプローチは、ドキュメントやWebページなどの視覚的に豊かなソースを、言語知性を学ぶためのプレーンテキストに変換することによって、視覚的手がかりを捨てる。 本稿では,言語モデルをテキストのみの表現でトレーニングしなければならないというデフォルトの仮定に挑戦し,基礎モデルインテリジェンスのためのスケーラブルな学習者であるVisual Pretrainingを示す。
  論文  参考訳（メタデータ） (2026-07-10T17:57:03Z)
• Conceptual Steganography [29.656447159968426]
  ミスアライメントモデルは、人間の監督を抜けるチェーン・オブ・ソート(CoT)に隠蔽情報を埋め込むことができる。 本稿では,CoTの各ステップが高レベルの推論行動パターンを通じて情報を伝達する概念的ステガノグラフィを紹介する。 このバックドア通信チャネルは、標準のキーワードアプローチよりも強力なパラフレーズディフェンスに対して一貫して堅牢であることが示されている。
  論文  参考訳（メタデータ） (2026-05-26T04:38:56Z)
• The Steganographic Potentials of Language Models [0.0]
  大きな言語モデル(LLM)は、平文内にメッセージを隠せる(ステガノグラフィー) 強化学習(RL)によるLLMの微調整機能について検討する。 以上の結果から,現状のモデルでは,セキュリティとキャパシティの観点から初歩的ステガノグラフィー能力を示すが,明示的なアルゴリズムガイダンスにより情報隠蔽能力が著しく向上していることが明らかとなった。
  論文  参考訳（メタデータ） (2025-05-06T11:25:52Z)
• Looking Beyond Text: Reducing Language bias in Large Vision-Language Models via Multimodal Dual-Attention and Soft-Image Guidance [67.26434607115392]
  大規模視覚言語モデル(LVLM)は様々な視覚言語タスクにおいて印象的な成果を上げている。 LVLMは言語バイアスによる幻覚に悩まされ、画像や非効果的な視覚的理解に焦点が当てられなくなった。 MDA (Multimodal duAl-attention meChanIsm) aNd soft-image Guidance (IFG) を用いたLVLMの言語バイアスに対処するためのLACingを提案する。
  論文  参考訳（メタデータ） (2024-11-21T16:33:30Z)
• Pixel Sentence Representation Learning [67.4775296225521]
  本研究では,視覚表現学習プロセスとして,文レベルのテキスト意味論の学習を概念化する。 タイポスや単語順シャッフルのような視覚的に接地されたテキスト摂動法を採用し、人間の認知パターンに共鳴し、摂動を連続的に認識できるようにする。 我々のアプローチは、大規模に教師なしのトピックアライメントトレーニングと自然言語推論監督によってさらに強化されている。
  論文  参考訳（メタデータ） (2024-02-13T02:46:45Z)
• Neural Sign Actors: A diffusion model for 3D sign language production from text [51.81647203840081]
  手話 (SL) は難聴者および難聴者コミュニティの主要なコミュニケーション手段である。 この研究は、現実的なニューラルサインアバターに向けて重要な一歩を踏み出し、聴覚と聴覚のコミュニティ間のコミュニケーションギャップを埋める。
  論文  参考訳（メタデータ） (2023-12-05T12:04:34Z)
• Saliency Map Verbalization: Comparing Feature Importance Representations from Model-free and Instruction-based Methods [6.018950511093273]
  サージェンシマップは、重要な入力特徴を特定することによって、ニューラルネットワークの予測を説明することができる。 我々は,サリエンシマップを自然言語に翻訳する未調査課題を定式化する。 本研究では,従来の特徴強調表現と比較した2つの新手法(検索ベースおよび命令ベース言語化)を比較した。
  論文  参考訳（メタデータ） (2022-10-13T17:48:15Z)
• Incidental Supervision: Moving beyond Supervised Learning [72.4859717204905]
  本稿では、監視ボトルネックを軽減するために設計された学習パラダイムについて述べる。 それは、テキストから様々なレベルの意味表現を誘導することに関連する、複数の問題の文脈におけるそれらの利点を説明する。
  論文  参考訳（メタデータ） (2020-05-25T18:44:53Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。