論文の概要: Don't Trust the Code, Check Its Effects: Runtime Refinement for Regenerated Systems Code Under an Adversarial Generator

• arxiv url: http://arxiv.org/abs/2609.00430v1
• Date: Mon, 31 Aug 2026 22:06:48 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-02 16:31:36.108122
• Title: Don't Trust the Code, Check Its Effects: Runtime Refinement for Regenerated Systems Code Under an Adversarial Generator
• Title（参考訳）: コードを信頼しないで、その効果を確認する: 逆発生器の下で、リジェネレーションされたシステムコードの実行時リファインメント
• Abstract要約: 最近の作業では、仕様からシステムコードを生成するために、大きな言語モデルを使用している。 ここで運用する唯一の安全な方法は、生成されたコードに対して行動する権限を否定することです。
• 参考スコア（独自算出の注目度）: 0.7074368998367698
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Recent work uses large language models to generate systems code from specifications, treating the specification as the durable artifact and the implementation as disposable. Regenerating the implementation specializes it to each workload and device. However, that work lives in a forgiving setting: a component's externally visible effects, its writes and device commands, are recoverable, and the generator is honest, so trust is discharged by re-execution. We target the unforgiving setting: systems code whose effects are irreversible, produced by a generator that may be adversarial. There, re-execution cannot check an effect after the fact, and a proof fails silently when its assumptions do. We take the position that the only safe way to operate here is to deny the generated code the authority to act. The generated code only plans, while a fixed trusted mediator owns every effect and performs one only when the specification would have produced it. Because the guarantee lives in the mediator, not the code, it survives regeneration. We instantiate this as a reference monitor for regenerated device drivers, and characterize the mediability envelope, six conditions on the effect vocabulary: legibility, spec-input observability, correlatability, completeness, outcome enumerability, and explicit durability. They decide when such mediation is possible.
• Abstract（参考訳）: 最近の研究では、大きな言語モデルを使用して仕様からシステムコードを生成し、仕様を耐久性のあるアーティファクトとして扱い、実装を使い捨てとして扱います。 実装の再生は、各ワークロードとデバイスに特化します。 コンポーネントの外部から見える効果、書き込みとデバイスコマンドは回復可能であり、ジェネレータは正直なので、再実行によって信頼が解放される。 我々は、不当な設定をターゲットとし、その効果が不可逆なシステムコードが、敵対的かもしれないジェネレータによって生成される。 ここでは、再実行は事実の後に効果をチェックすることができず、その仮定が成立すると、証明は黙秘的に失敗する。 ここで運用する唯一の安全な方法は、生成されたコードに対して行動する権限を否定することです。 生成されたコードは計画のみであり、固定された信頼できる仲介者がすべてのエフェクトを所有し、仕様が作成されたときのみ実行します。 保証はコードではなく仲介者にあるので、再生は生き残る。 我々はこれを再生デバイスドライバの基準モニターとしてインスタンス化し、メディティエンベロープ、有効語彙に関する6つの条件(可視性、スペックインプット可観測性、相関性、完全性、結果の可算性、明示的な耐久性)を特徴付ける。 そのような調停がいつ可能かを決める。

関連論文リスト

• ExeCRE: Execution-Consistency Guided Reliability Estimation for Self-Correcting Code Generation [28.515743392951194]
  ExeCRE(Execution-Consistency Guided code Reliability Estimation framework)を提案する。 多数のランダムに生成された入力に対して、実行出力の一貫性パターンを統計的に解析することにより、コードの信頼性を推定する。 実験により、ExeCREは効率と安定性の両方を一貫して改善し、ミスリード補正信号を著しく低減することが示された。
  論文  参考訳（メタデータ） (2026-08-05T04:29:30Z)
• Obey, Diverge, Collapse: Blind Obedience to Incorrect Instructions Drives Code LLMs to Irrecoverable Code Semantic Collapse [22.478506766076304]
  モデルが不適切な命令に抵抗するか従うかを評価するために設計された4つの実験でコード言語モデルを評価する。 モデルは間違った命令を正しく識別し、いずれにせよそれに従う。 このコンプライアンスは、元のバグ以外のエラーを無意識に導入し、後に自己ガイドされた反復的な修正によって、破損したコード状態は回復できない。
  論文  参考訳（メタデータ） (2026-07-05T22:55:03Z)
• TrustCLIP: Learning Private Visual Features via Adversarial Reconstruction [51.17509341761903]
  TrustCLIPは、機能条件付きジェネレータを明示的なプライバシ敵として扱う、再構築駆動のフレームワークである。 従来の分類とマルチモーダルな大規模言語モデルパイプラインにおいて,その有効性を示す。
  論文  参考訳（メタデータ） (2026-07-05T20:11:00Z)
• Safeguarding Text-to-Image Generative Models Against Unauthorized Knowledge Distillation [49.23010932057819]
  クローズドウェイト生成サービスのための単一パスでジェネレータベースの保護フレームワークであるWaveGuardを紹介する。 WaveGuardのセーフガードは、ユーザが指定した摂動予算の下で合成画像をリリースしている。
  論文  参考訳（メタデータ） (2026-05-21T06:50:50Z)
• Compiling Activation Steering into Weights via Null-Space Constraints for Stealthy Backdoors [48.881343993730844]
  安全性に整合した大規模言語モデル(LLM)は、現実世界のパイプラインにますますデプロイされている。 敵は通常の評価では動作しないバックドアのチェックポイントを配布することができる。 最近のポストホック重み付け法は、そのようなバックドアを注入するための効率的なアプローチを提供する。
  論文  参考訳（メタデータ） (2026-04-14T06:48:33Z)
• AgentHazard: A Benchmark for Evaluating Harmful Behavior in Computer-Use Agents [31.649268608215817]
  コンピュータ利用エージェントの有害行動を評価するベンチマークである textbfAgentHazard を提案する。 我々は、Qwen3、Kim、GLM、DeepSeekファミリーのほとんどをオープンまたはオープンにデプロイ可能なモデルを使用して、Claude Code、OpenClaw、IFlowを評価した。
  論文  参考訳（メタデータ） (2026-04-03T10:29:31Z)
• Ensuring Functional Correctness of Large Code Models with Selective Generation [13.517414451760635]
  コード生成モデルの幻覚は、より高い安全性基準を必要とするシステムへの適用性を妨げます。 生成した単体テストによって評価された機能的正当性に基づいて,不確実な世代から退避する固有コード生成器を提案する。 本手法の有効性を,コード幻覚の制御性と適切な選択効率とともに示す。
  論文  参考訳（メタデータ） (2025-05-19T06:29:16Z)
• Who Wrote this Code? Watermarking for Code Generation [53.24895162874416]
  本稿では,機械生成テキストを検出するために,Entropy Thresholding (SWEET) を用いたSelective WatErmarkingを提案する。 実験の結果,SWEETはコード品質を著しく向上し,すべてのベースラインを上回ります。
  論文  参考訳（メタデータ） (2023-05-24T11:49:52Z)
• ReCode: Robustness Evaluation of Code Generation Models [90.10436771217243]
  コード生成モデルのための総合的ロバストネス評価ベンチマークであるReCodeを提案する。 ドクストリング、関数と変数名、コード構文、コードフォーマットのコードに特化して、30以上の変換をカスタマイズします。 ヒトのアノテータでは、摂動プロンプトの90%以上が本来のプロンプトの意味を変えていないことが確認された。
  論文  参考訳（メタデータ） (2022-12-20T14:11:31Z)
• A Simple, Yet Effective Approach to Finding Biases in Code Generation [16.094062131137722]
  この研究は、現在のコード生成システムが、彼らの大きな言語モデルバックボーンから受け継がれた望ましくないバイアスを示すことを示している。 コーディング課題のモジュラー分解と解析を可能にする「影響ブロック」の概念を提案する。
  論文  参考訳（メタデータ） (2022-10-31T15:06:15Z)
• Tracking the risk of a deployed model and detecting harmful distribution shifts [105.27463615756733]
  実際には、デプロイされたモデルのパフォーマンスが大幅に低下しないという、良心的なシフトを無視することは理にかなっている。 我々は,警告を発射する有効な方法は,(a)良性な警告を無視しながら有害なシフトを検知し,(b)誤報率を増大させることなく,モデル性能の連続的なモニタリングを可能にすることを論じる。
  論文  参考訳（メタデータ） (2021-10-12T17:21:41Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。