論文の概要: Silent Revision: Measuring Undisclosed Change in the Safety Frameworks of Frontier AI Developers
- arxiv url: http://arxiv.org/abs/2609.08789v1
- Date: Tue, 08 Sep 2026 14:19:56 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-09-10 19:44:08.675904
- Title: Silent Revision: Measuring Undisclosed Change in the Safety Frameworks of Frontier AI Developers
- Title（参考訳）: Silent Revision:フロンティアAI開発者の安全フレームワークにおける未公表の変更を測定する
- Abstract要約: 私たちは、開発者が公開しているアカウントが認識していないフレームワークのコミットメントに対する物質的変更の共有を示し、それを計算するのに必要なバージョン付きのハッシュピン付きコーパスをリリースします。
12の連続したバージョンペアで710のコミットインスタンスをトレースし、凍結したコードブックに対してコードし、個別に244を命令します。
67%が厳格な基準で沈黙し,53%が寛大な基準で,セクション粒度では49%に低下した。
- 参考スコア（独自算出の注目度）: 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Frontier AI developers publish safety frameworks that commit them to evidencing whether their models are dangerous. The European Union and California now treat these documents as instruments of accountability, and both already impose duties on their revision. Neither requires the revision to be legible, in the sense that a reader could learn from the developer's own account what changed. We introduce the silent revision rate, the share of material changes to a framework's commitments that the developer's published account does not identify, and we release the versioned, hash-pinned corpus needed to compute it. The corpus contains every public version of the safety frameworks of the twelve developers that have published one, together with each provider's changelog, redline or announcement. We trace 710 commitment instances across twelve consecutive version pairs, code them against a frozen codebook, and adjudicate 244 individually. Three findings follow. First, 67% of material changes (95% CI 62 to 72) are silent under a strict standard and 53% under a lenient one, falling to 49% at section granularity. Second, silence appears to track the form of the account, since narrative announcements run at 74% against 63% for itemised changelogs, whereas account length in words barely matters; on the test that respects nesting the difference is suggestive. Third, 77% of traced changes weaken or remove a commitment, and in seven of eight pairs weakenings are more often silent than strengthenings. The statutory remedy therefore exists and specifies the wrong artefact. A justification explains why a framework changed, an enumeration states what changed, and only the latter makes revision auditable. We argue that publication duties should carry an enumeration duty, which one provider already meets, voluntarily and incompletely.
- Abstract（参考訳）: フロンティアAI開発者は、モデルが危険かどうかを判断する安全フレームワークを公開している。
欧州連合(EU)とカリフォルニア州は、これらの文書を説明責任の尺度として扱い、既に修正に義務を課している。
読者が開発者自身のアカウントから何を変えたかを学ぶことができるという意味では、修正が合法である必要はない。
我々は、サイレントリビジョン率、開発者の公開アカウントが特定していないフレームワークのコミットメントへのマテリアル変更のシェアを導入し、それを計算するのに必要なバージョン付きのハッシュピン付きコーパスをリリースする。
コーパスには、各プロバイダの変更ログ、リフレッシュライン、発表とともに、公開している12人の開発者による安全フレームワークのパブリックバージョンがすべて含まれている。
12の連続したバージョンペアで710のコミットインスタンスをトレースし、凍結したコードブックに対してコードし、個別に244を命令します。
以下の3つの発見がある。
第一に、物質の変化の67%(95% CI 62から72)は厳密な基準の下で沈黙しており、寛大な基準下では53%であり、セクションの粒度では49%に低下している。
第二に、サイレントはアカウントの形式を追跡しているようで、物語の発表はアイテム化された変更ログの63%に対して74%で実行される。
第三に、追跡された変化の77%は、コミットメントを弱めたり、取り除いたりしており、8組のうち7組の弱体化は、強化よりも静かになることが多い。
したがって、法的な救済法は存在し、間違った人工物を特定する。
正当化は、なぜフレームワークが変更されたのか、列挙によって何が変わったのかが記述され、後者だけが修正を監査可能にします。
我々は出版義務が列挙義務を負うべきだと論じる。
関連論文リスト
- Watermarks Without Verification: AI Text Watermarking After the EU AI Act [49.51124343181601]
EU AI法第50条では、生成可能なAIプロバイダに対して、システムが生成したコンテンツをマークし、AI生成として検出することを要求している。
Anthropicは、その日後にリリースされたすべてのClaudeモデルが、すべての生成されたテキストにSynthID-Textに基づく透かしを埋め込んでいることを公表した。
我々は、現在、異議や保証は確認できないし、この不信は、それ自体を透かしではなく、実質的なガバナンスの失敗であると論じている。
論文 参考訳（メタデータ） (2026-09-09T01:56:17Z) - From Traceability to Justifiability: Accountability Structures in Agentic Software Engineering [0.0]
公開資料のみから、AIレコードがクレームを表現できるかどうか、宣言された場所を保持できるかどうかを測定する。
188個の二重グレード細胞で、デフォルトレコードが行動システムのコンテンツアイデンティティを出力するプラットフォームは見つからなかった。
計器は、パイプラインが発行した排気のみからの保証深度を計算し、宣言された深さと比較する。
論文 参考訳（メタデータ） (2026-08-21T16:45:00Z) - COMMITGUARD: Differential Slice Fuzzing for Commit-Induced Bug Detection [5.733954327924554]
COMMITGUARDは、コード変更を検証するためのコミット対応差分スライスベースのファジリングアプローチである。
我々は,openSSL, libpcap, leptonicaから300件のコミットに対してCOMMITGUARDを評価した。
論文 参考訳（メタデータ） (2026-08-18T05:57:09Z) - Quipu: A Governed Bitemporal Knowledge Graph Store [0.0]
Quipuは4つのデフォルトを逆転する組み込み可能なナレッジストアだ。
議事録が保留中のポストステートを評価するゲートを経由する以外は、事実は入らない。
支配的な作家からの痕跡は、その修復によって監査名のライブ執行のギャップを表面化する。
論文 参考訳（メタデータ） (2026-08-17T17:04:29Z) - Specification-first convergence with an AI coding agent: a case study of dismantling a core architectural invariant across 189 files in a 717k-line codebase with no test oracle and no human code review [0.0]
本稿では,AI符号化エージェントによる大規模建築解体のケーススタディについて報告する。
ここで述べられているプロトコルの下で、エージェントはそれを正常に完了した。
論文 参考訳（メタデータ） (2026-08-12T15:35:48Z) - Independent Patch Verification for Coding Agents with a Bidirectional Reconstruct-and-Verify Framework [49.16055123488827]
大規模言語モデルを利用したコーディングエージェントは、バグレポートから直接コードパッチを生成することができる。
報告された問題を真に解決するかどうかを独立に検証するメカニズムは存在しない。
本稿では,RETRACE をトレーニング不要なポストジェネレーション検証フレームワークとして提案する。
論文 参考訳（メタデータ） (2026-08-09T22:59:13Z) - Voice Memory for Agentic Speech Recognition [66.69623133635868]
エージェント音声認識のための推論専用スキームであるVoice Memoryを提案する。
同期的に、スコア付き例は、境界編集を通じてそのファイルを更新する。
10のHyPoradiseドメインにオープン修正器、Voice Memory、重み付き単語エラー率8.36%から7.52%の10のドメインがある。
論文 参考訳（メタデータ） (2026-07-29T02:42:56Z) - Fantastic Adaptive Taxonomies and How to Use Them [100.20614173157708]
AdaMASTは、実行トレースをコンパクトでエビデンスに基づく障害分類に変換する。
コードには手書きのコードはなく、人間による注釈もない。
エージェント・システム・サーチでは、失敗候補の分類コード診断が自由形式より優れている。
論文 参考訳（メタデータ） (2026-07-17T17:41:16Z) - ClawArena: Benchmarking AI Agents in Evolving Information Environments [61.664633997138004]
ClawArenaは、進化する情報環境におけるAIエージェントの評価のためのベンチマークである。
それぞれのシナリオは、エージェントをノイズ、部分的、時には矛盾するトレースだけに露呈しながら、完全に隠された地上の真実を維持します。
評価は、マルチソースコンフリクト推論、動的信念修正、暗黙のパーソナライゼーションという3つの複合的な課題に基づいて構成される。
論文 参考訳（メタデータ） (2026-04-05T17:55:23Z) - Small Edits, Big Consequences: Telling Good from Bad Robustness in Large Language Models [0.0]
大きな言語モデル(LLM)が、ひとつの単語の誤読が安全性を損なう可能性があるような設定でコードを書くようになりました。
有用な堅牢性と有害な不感度の開始点を調査するために、50のLeetCode問題をコンパイルし、3つの最小限の急激な摂動を発生させる。
3つの「推論チューニング」バージョンを含む6つのフロンティアモデルにより、各変更プロンプトが解決される。
論文 参考訳（メタデータ） (2025-07-15T03:22:07Z) - Understanding Code Understandability Improvements in Code Reviews [79.16476505761582]
GitHub上のJavaオープンソースプロジェクトからの2,401のコードレビューコメントを分析した。
改善提案の83.9%が承認され、統合され、1%未満が後に復活した。
論文 参考訳（メタデータ） (2024-10-29T12:21:23Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。