論文の概要: Falsification, Not Exposure: An Internally Preregistered Placebo-Controlled Decomposition of Self-Repair Feedback in Frozen Small Code Models
- arxiv url: http://arxiv.org/abs/2606.31511v1
- Date: Tue, 30 Jun 2026 11:26:14 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-01 18:27:19.19443
- Title: Falsification, Not Exposure: An Internally Preregistered Placebo-Controlled Decomposition of Self-Repair Feedback in Frozen Small Code Models
- Title(参考訳): Falsification, not Exposure: An internally Prerestered Placebo-Controlled Decomposition of Self-Repair Feedback in Frozen Small Code Models
- Abstract要約: 本研究では、ブラインドサンプリングベースラインに対してフィードバックパケットを分解するプラセボ制御装置を構築する。
この体制では、ファルシフィケーションは語彙や自己批判としてではなく、外部の実行可能な反例と比較するのに役立つ。
- 参考スコア(独自算出の注目度): 0.0
- License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
- Abstract: In deployment settings where retraining is infeasible, small frozen code models are routinely asked to repair a failed program after seeing their own failing output, usually treated as a retry mechanism. From a Popperian view, a generated program is a conjecture and a test-execution violation is an oracle-relative, executable counterexample, so feedback's value should be attributed not to re-exposure to failing code but to whether the conjecture is opened to external, executable criticism. As the third stage of a falsification-centered measurement program, this study builds a placebo-controlled instrument that decomposes the feedback packet against a blind-resampling baseline at matched output-generation budget and against content-free, shape-matched placebos. The contribution is not a new repair algorithm but a reflexive methodology (packet decomposition, placebo mirroring, matched-budget discordant-pair tests, fresh-generation confirmation, executable audits) that makes both the model's program conjecture and the researcher's "feedback content works" claim falsifiable. Across six HumanEval+/MBPP+ cells with three 0.5B-1.5B frozen models, 290 dead task-cell units (no best-of-8 candidate passing the public tier) were evaluated; the main run produced 7,000 fresh generations and a preregistered follow-up 1,400 more. Blind resampling exceeded bare-code retry by +18 net unlocks (25/7, Holm p=0.0021). Code-plus-facts recovered +18 over bare code (21/3, p=0.00042) and +15 over a generic-bullet placebo (p=0.0041). An instruction-only effect was not distinguishable (+3, p=0.36). Code-plus-facts and blind resampling tied at 26 unlocks each (not equivalence). Six external-controller follow-ups tied a content-free shape placebo. In this regime, falsification helped not as vocabulary or self-critique, but as comparison with external, executable counterexamples.
- Abstract(参考訳): 再トレーニングが不可能なデプロイメント環境では、小さな凍結されたコードモデルは、通常、リトライメカニズムとして扱われる自身の出力が失敗した後に、失敗するプログラムを修復するよう、定期的に要求される。
Popperianの見解では、生成されたプログラムは予想であり、テスト実行違反はオラクル相対的で実行可能な反例である。
本研究では,フェーシフィケーション中心計測プログラムの第3段階として,コンテントフリーで形状整合したプラセボに対して,ブラインドサンプリングベースラインに対してフィードバックパケットを分解するプラセボ制御装置を構築した。
このコントリビューションは、新しい修復アルゴリズムではなく、リフレクティブな方法論(パッケージ分解、プラセボミラーリング、一致した予算の不一致テスト、新世代確認、実行可能監査)によって、モデルのプログラム予想と研究者の「フィードバックコンテンツが機能する」という主張の両方を偽造することができる。
6つのHumanEval+/MBPP+細胞のうち3つの0.5B-1.5B凍結モデルと290個のデッドタスクセルユニット(公益層を通過する8つの候補なし)が評価された。
ブラインド再サンプリングは、+18ネットアンロック(25/7、ホルム p=0.0021)で素コードリトライを超えた。
コードプラスファクトは、素コードで+18(21/3, p=0.00042)、ジェネリックブレットで+15(p=0.0041)を回復した。
命令のみの効果は区別できない(+3, p=0.36)。
コード+ファクトとブラインドリサンプリングはそれぞれ26アンロックされている(同値ではない)。
外部コントローラの6つのフォローアップは、コンテンツフリーのプラシーボを結び付けている。
この体制では、ファルシフィケーションは語彙や自己批判としてではなく、外部の実行可能な反例と比較するのに役立つ。
関連論文リスト
- VeriPhy: Agentic Physical Reasoning for World Model Evaluation and Refinement [57.86962208273888]
テキストのみのプランナが入力された物理義務にプロンプトをコンパイルする監査可能な物理検証システムを提案する。
それぞれのアクションは、ペイロードがタイプされた測定か、明示的にタグ付けされた学習状態である証明付きエビデンスレコードを返す。
我々は, 実発生障害を即時参照, 空間, 時間でローカライズする, 1500クリックの欠陥記録のコーパスにおいて, 評価をアンロックする。
論文 参考訳(メタデータ) (2026-09-02T20:36:45Z) - FaultLens: Learning Compact Behavioral Test Suites for Generated Operational Programs [13.55424508650495]
FaultLensは、実行されたエビデンスに対する監査可能な接続を保持しながら、コンパクトな振る舞いテストスイートを学ぶ方法である。
一度リッチなプローブドメインを実行し、フォールトプローブキル関係をスパース結果キャッシュとして保存し、初期のプログラム世代からのみプローブ順序を学習する。
4つの環境にまたがる20の運用方針,10個の実行シード,1,200個の実行サマリー,2,160個の制御プログラム変換,4,120,200個の実行プログラム-プローブペアを評価した。
論文 参考訳(メタデータ) (2026-08-27T07:37:28Z) - MemToC: Benchmarking Memory-Tool Conflict Resolution in Large Language Models [49.47300047353726]
MemToCは、実行時ツールによるポストツール-リターン仲裁のベンチマークである。
MemToCは、542の質制御された事実質問から構築された6,504回の評価エピソードで構成されている。
オープンウェイトな7-9Bモデルでは、ツールが強く支配的なクローズドブックの回答を返す。
論文 参考訳(メタデータ) (2026-08-26T18:22:03Z) - Auditing and Decomposing Feedback-Driven Evolution in LLM Test Generation under the Oracle Problem [14.44743150931186]
無効または不特定な入力は、急激な障害検出と明らかな進化的利益を生み出す。
我々は、142の開発タスク、114のロックされた外部タスク、128のホールドアウトタスクを使用して、フィードバック駆動のテスト生成において、この障害モードを監査する。
自己進化型テストジェネレータの評価において,検証対象のアーティファクト,インタラクションの足場,グラウンドドフィードバックを分離するオーディエンス・アンド・プレースボプロトコルを提案する。
論文 参考訳(メタデータ) (2026-08-20T04:29:35Z) - Try Again, Don't Look Back: Blind Resampling Outperforms Self-Repair in Small Code Models [0.0]
Self-repairはコードエージェントの標準コンポーネントであり、ほとんど常にリトライしないベースラインに対して評価されている。
MBPP+を3つのモデルスケールでプラセボ制御した設計を用いて, 整合型再試行条件を4つ比較した。
論文 参考訳(メタデータ) (2026-07-28T16:58:27Z) - Looping Is Not Reliability: State-Bound Evidence and Typed Revision Contracts for Agentic Code Repair [36.56438114281786]
正しいパッチの発見と保持、検証、提出のギャップについて検討する。
我々はエビデンスバウンド型ループ契約を導出し、その機械的に強制可能なサブセットを参照実装でインスタンス化する。
論文 参考訳(メタデータ) (2026-07-27T16:05:23Z) - Form, Not Content? A Preregistered, Placebo-Controlled Evaluation of Learned Error-Conditioned Self-Repair Through Prompts and Weights in Frozen Small Code Models [0.0]
本稿では,Popperian Placebo制御評価法(PoPE:Popperian Placebo-control Evaluation)を紹介する。
PoPEでは、エラーコンテンツとチャネル固有のプラセボがペアになって、事前に宣言されたスキャフォールドを保持しながら、タスク関連コンテンツを非難したり、タスクエラーの割り当てをデアレンジする。
発見は等価性や非劣等性の証拠にはならない。
論文 参考訳(メタデータ) (2026-07-14T16:59:42Z) - Selection Without Signal, Recovery Through Expression: A Measurement Study of Post-Hoc Falsification Operators for Frozen Small Code Models [0.0]
小型のコードモデルは、しばしばプラルーシブル・ブライト・プログラムを出力する。
意味論的ポストホック演算子が役立つかどうかを測定する。
ここで唯一の精度向上である式層リカバリ(M1)は、標準抽出器が破棄した正しいプログラムを復元する。
論文 参考訳(メタデータ) (2026-06-15T17:36:23Z) - No Accidental Software Agent First Canonical Code for Human Code Entropy Reduction and 30 to 500 times Lower Frontier Model Requirements [0.0]
本稿では,日常的な製品ソフトウェアを標準的行動プロファイルに書き換えるエビデンスキャリング基板を提案する。
除去可能な事故は、残余の新規性、証拠、ガバナンス、リスク、将来のオプション性が支配されるまで減少する。
Qwen2.5-Coder-14BのQLoRA実験は、64,088の標準軌道が学習可能であり、試験された禁止言語マーカーを抑えることを示した。
論文 参考訳(メタデータ) (2026-06-12T11:35:54Z) - Distributional Energy-Based Models for Uncertainty-Aware Structured LLM Reasoning [40.342912574072024]
大規模言語モデルは、旅行計画やコードソリューションのような構造化されたアウトプットを生成する。
個々の推論ステップは正しく見えるが、アウトプット全体が予算に違反したり、テストケースに失敗したり、あるいは以前の推論に矛盾することがある。
構造化LCM出力の検証のための決定論的解析制約付き学習品質スコアラを提案する。
論文 参考訳(メタデータ) (2026-05-15T17:08:27Z) - Auto Research with Specialist Agents Develops Effective and Non-Trivial Training Recipes [24.516406575400016]
外部測定により駆動される閉じた経験ループとしての自動車研究について検討する。
提出された各トライアルには、仮説、実行可能なコード編集、評価者が所有する結果、次の提案を形作るフィードバックが含まれる。
このループを、レシピの表面を分割し、試行錯誤で測定された系統を共有する専門エージェントでインスタンス化する。
論文 参考訳(メタデータ) (2026-05-07T06:13:43Z) - ImplicitMemBench: Measuring Unconscious Behavioral Adaptation in Large Language Models [60.14219417402433]
LLMエージェントの既存のメモリベンチマークは、事実の明示的なリコールを評価するが、意識的な検索なしに、経験が自動的な振る舞いになる暗黙の記憶を見落としている。
IndicitMemBenchは、非宣言的メモリの標準的な認知科学のアカウントから引き出された3つの構造を通して暗黙的メモリを評価する最初の体系的なベンチマークである。
当社の300イテムスイートでは,初動採点を備えたLearning/Priming-Interfere-Testプロトコルを統一しています。
論文 参考訳(メタデータ) (2026-04-09T10:26:32Z) - CARE What Fails: Contrastive Anchored-REflection for Verifiable Multimodal [84.71254539482369]
検証可能な報酬を伴うグループ相対的強化学習(RLVR)は、しばしば、すでに失敗している最も情報に富むデータを浪費する。
エラーを監督するマルチモーダル推論のための,障害中心のポストトレーニングフレームワークであるCAREを提案する。
CAREは正確さを改善し、スムーズさをトレーニングすると同時に、障害からの学習信号のシェアを明示的に増やします。
論文 参考訳(メタデータ) (2025-12-22T16:34:21Z) - The Mirror Loop: Recursive Non-Convergence in Generative Reasoning Systems [0.0]
外部からのフィードバックのない再帰的な自己評価は、進歩よりもむしろ改革をもたらすことが多い。
3つのモデル(OpenAI GPT-4o-mini, Anthropic Claude 3 Haiku, Google Gemini 2.0 Flash)と4つのタスクファミリー(パラメータ、コード、説明、リフレクション)にまたがる144の推論シーケンスについて検討する。
我々はこれを、生成的推論における自己補正の構造的限界の証拠として解釈する。
論文 参考訳(メタデータ) (2025-10-23T07:53:26Z) - DyePack: Provably Flagging Test Set Contamination in LLMs Using Backdoors [52.85182605005619]
トレーニング中にベンチマークテストセットを使用したモデルを識別するためにバックドアアタックを利用するフレームワークであるDiePackを紹介します。
銀行が染料パックにお金を混ぜて強盗をマークするのと同じように、DiePackはバックドアのサンプルとテストデータとを混ぜて、その上で訓練されたモデルのフラグを立てる。
我々はDiePackを3つのデータセットにわたる5つのモデルで評価し、複数の選択とオープンな生成タスクの両方をカバーした。
論文 参考訳(メタデータ) (2025-05-29T02:22:14Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。