論文の概要: Running Fewer Loops Removes Refusal Behaviour in Recurrent-Depth Language Models

• arxiv url: http://arxiv.org/abs/2610.15218v1
• Date: Sat, 10 Oct 2026 23:17:01 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-15 21:06:15.175835
• Title: Running Fewer Loops Removes Refusal Behaviour in Recurrent-Depth Language Models
• Title（参考訳）: リカレント・ディープス言語モデルにおける低ループ実行による拒否行動の除去
• Abstract要約: 繰り返し言語モデルは1ブロックの重みを数回連続して再利用する。 ループと呼ばれる反復回数は、モデルの実行時に、トレーニングされた時にではなく、選択される。 ループを減らせば、これらのモデルも安全が損なわれ、安全性の喪失は、私たちが測定した他のものよりも大きい。
• 参考スコア（独自算出の注目度）: 7.282229709847318
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: A recurrent-depth language model reuses one block of weights several times in a row. The number of repetitions, which we call loops, is chosen when the model runs, not when it is trained, and running fewer is cheaper and faster, so a deployment may choose to do it. Running fewer loops also makes these models less safe, and the loss of safety is larger than the loss of anything else we measured. We study four released Ouro checkpoints and Huginn-0125. At half of its trained depth, Ouro-1.4B-Thinking still solves 0.692 of the GSM8K maths problems, against 0.775 at full depth, keeping 89% of its accuracy. Over the same reduction, the rate at which it helps with harmful requests rises from 0.038 to 0.205, 5.3 times higher. The information is not lost: a linear classifier reads whether a request is harmful from the model's internal state after a single loop, with an ROC AUC of 0.967 against 0.986 at full depth. What the missing loops remove is the refusal that should follow. We measure the effect with four instruments, one generating no text at all, and reproduce it on a second model family. Removing a single direction from Ouro-1.4B's internal state at full depth drops its refusal rate on harmful prompts from 0.950 to 0.130, identifying what the shallow model is missing. Two run-time repairs do not help: the models' early-exit rules do not spend more loops on harmful requests, and choosing a depth per request does not recover the loss. Changing the training does. Standard safety training makes the shallow model safe only by refusing 0.865 of harmless requests, while training at randomly chosen depths reaches a separation of +0.399 between harmful and harmless refusal at one loop, against +0.118. On Huginn-0125 it keeps harmful help at or below 0.040 at every depth from 1 to 32 loops, where standard training reaches 0.194, and it costs no accuracy at full depth.
• Abstract（参考訳）: 繰り返し言語モデルは1ブロックの重みを数回連続して再利用する。 ループと呼ばれる反復回数は、モデルが実行された時に、トレーニングされた時にではなく、実行された時に選択される。 ループを減らせば、これらのモデルも安全が損なわれ、安全性の喪失は、私たちが測定した他のものよりも大きい。 We study four released Ouro checkpoints and Huginn-0125。 トレーニングされた深度の半分では、Ouro-1.4B-ThinkingはGSM8Kの0.692をフル深度で0.775と解き、精度は89%を維持している。 同時に、有害な要求に対処するレートは0.038から0.205へ上昇し、5.3倍に上昇する。 線形分類器は、単一ループ後のモデルの内部状態から要求が有害であるかどうかを読み出し、完全な深さで0.986に対してROC AUCが0.967である。 欠落しているループが取り除かれるのは、従うべき拒絶である。 この効果を4つの楽器で測定し、1つはテキストを全く生成せず、2番目のモデルファミリーで再現する。 全深度でのOuro-1.4Bの内部状態からの1方向の除去は、有害なプロンプトの拒絶率を0.950から0.130に下げ、浅いモデルに欠けているものを特定する。 2つの実行時の修復は役に立たない:モデルの早期終了ルールは有害な要求に対してループを多く使用せず、リクエスト毎の深さを選択することは損失を回復しない。 トレーニングの変更も行います。 標準的な安全訓練では、浅いモデルは害のない要求の0.865を拒絶することでのみ安全であり、一方、ランダムに選択された深さでのトレーニングは、害のない1ループでの拒絶と害のない拒絶を+0.118に対して+0.399の分離に達する。 Huginn-0125では、1から32ループの全ての深さで0.040以下で有害なヘルプを保ち、標準訓練は0.194に達し、完全深度での精度は高くない。

関連論文リスト

• ReDraft, Don't Just Distill: Reference-Driven Revision for Continual VLLM Post-Training [66.72708893922605]
  大規模なマルチモーダルモデルのポストトレーニングは、事前トレーニングから保護しながら、新しい機能を追加する必要がある。 SFTは、タスクをほぼゼロの精度から学習する明確なターゲット監視を提供するが、そのオフポリティックターゲットはモデルを十分に移動させ、忘れる原因となる。 モデル自身の失敗から両方を得るReDraftを紹介します。
  論文  参考訳（メタデータ） (2026-09-15T04:59:03Z)
• Invocation-Level Reliability of Tool-Using Agents [0.7874708385247353]
  クリーンな教師強化コンテキストと,モデル独自のフリーランニングコンテキストの両方の下で,その2つを分離する,正しい起動率を測定する。 深さ6では、モデル自身のクリーンコンテキスト能力の約70%が、以前の失敗に失われる。
  論文  参考訳（メタデータ） (2026-08-23T09:04:59Z)
• Accurate Ensembles, Fragile Narratives: Multi-Scale Stacking and a Fidelity Audit of LLM-Generated Explanations for Credit Risk [0.0]
  クレジットスコアリングは、決定ロジックをパラメータから読み取ることができないモデルに依存している。 共通する提案は、言語モデルとのギャップを埋める: 特徴属性を計算し、それらを LLM に渡し、合理的に記述させる。 このようなシステムをエンド・ツー・エンドに構築し、約束の後半が成立するかどうかをテストします。
  論文  参考訳（メタデータ） (2026-08-08T13:22:14Z)
• TASR: Training-Free Adaptive Stopping for Iterative Retrieval [12.177557521540082]
  反復的検索拡張生成エージェントは、モデルが解答に収束した後も検索を続けることで、一般的にオーバースペンドされる。 TASR(Training-Free Adaptive Stopping Rule)は,モデルが前ラウンドの正規化を繰り返すと発火する一行述語である。
  論文  参考訳（メタデータ） (2026-06-11T18:35:14Z)
• ReFlect: An Effective Harness System for Complex Long-Horizon LLM Reasoning [5.523132953818281]
  本稿では,LLM推論のためのシステムであるReFlectについて述べる。 6つの推論領域にまたがる制御された実験により、100個の監査された反射ブロックのうち90個の問題にフラグを付けない、プロンプトレベルの自己批判が公式テンプレートを生成することが示された。 我々のReFlectハーネスは, GPT-4o-miniで41%, Claude Sonnet 4.5で56%のタスク成功率を実現している。
  論文  参考訳（メタデータ） (2026-05-07T06:29:34Z)
• ObjexMT: Objective Extraction and Metacognitive Calibration for LLM-as-a-Judge under Multi-Turn Jailbreaks [12.396822247035578]
  目的抽出とメタ認知のためのベンチマークであるexMTを提案する。 マルチターン書き起こしが与えられた場合、モデルは1文ベース目標と自己報告された自信を出力しなければならない。 正確性は金の目標と類似性によって評価され、300の校正項目で1度閾値付けされる。
  論文  参考訳（メタデータ） (2025-08-23T03:32:04Z)
• Safety Pretraining: Toward the Next Generation of Safe AI [68.99129474671282]
  モデルの安全性を最初から構築する,データ中心の事前トレーニングフレームワークを提案する。 我々のフレームワークは、セーフティフィルタリング、セーフティリフレージング、Native Refusal、Harmfulness-Tag Annotated Pretrainingの4つの重要なステップで構成されています。 我々の安全事前訓練モデルでは、一般的な劣化タスクのパフォーマンスを伴わない標準LLM安全性ベンチマークにおいて、攻撃成功率を38.8%から8.4%に下げている。
  論文  参考訳（メタデータ） (2025-04-23T17:58:08Z)
• DOMINO: Domain-aware Loss for Deep Learning Calibration [49.485186880996125]
  本稿では,ディープラーニングモデルの校正のためのドメイン認識損失関数を提案する。 提案した損失関数は、与えられた対象領域内のクラス間の類似性に基づいてクラスワイズペナルティを適用する。
  論文  参考訳（メタデータ） (2023-02-10T09:47:46Z)
• Do We Need Zero Training Loss After Achieving Zero Training Error? [76.44358201918156]
  本研究では,遠心分離法(Emphflooding)と呼ばれる直接解法を提案する。 本研究では, 浸水により性能が向上し, 副産物として, 試験損失の2重降下曲線が誘導されることを実験的に示す。
  論文  参考訳（メタデータ） (2020-02-20T12:50:49Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。