論文の概要: When Should an AI Scientist Stop? Verifiable Experiment Steering and Refusal for Autonomous Discovery

• arxiv url: http://arxiv.org/abs/2606.07576v1
• Date: Tue, 26 May 2026 18:19:16 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-06-15 07:09:36.739387
• Title: When Should an AI Scientist Stop? Verifiable Experiment Steering and Refusal for Autonomous Discovery
• Title（参考訳）: AI科学者はいつ止まるべきか? 自律的な発見の試行錯誤と拒否の検証
• Authors: Neel Tushar Shah, Manglam Kartik,
• Abstract要約: CARTOGRAPHは、AI科学者のための検証レイヤーである。 未解決宇宙実験ステアリング(選択)、明示的曖昧性閉鎖(解決)、残差に基づくライブラリ不整合検出(再利用)の2つを結合する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: We present CARTOGRAPH, a verification layer for AI scientists that couples unresolved-subspace experiment steering (select), explicit ambiguity closure (resolve), and residual-based library inadequacy detection (refuse). Under a local linear-Gaussian bridge, raw unresolved projection is the isotropic unresolved Fisher-information trace, while CARTOGRAPH-A is the exact unresolved A-optimal rule; closed-form EIG and Box-Hill arise as local comparators rather than global equivalents. Across five testbeds, CARTOGRAPH-A beats raw projection 129W/0T/15L at d = 8 (p < 10^-21) in a replicated structured cascade. More distinctively, the framework tentatively identifies three out-of-library pharmacokinetic mechanisms and then revokes those identifications as residuals expose structural misfit, while one perturbed in-library control stays identified throughout. In low-dimensional pharmacokinetic and filtered EPA settings, near-ties against disagreement are predicted by theory and observed. Finally, in a retrospective audit of 40 positive claims from the published A-Lab autonomous materials system, the refuse guard flags all 4 claims later marked inconclusive under manual reanalysis while passing 32/36 confirmed claims. Code is available at https://github.com/ai4science-boed/cartograph.git
• Abstract（参考訳）: CARTOGRAPHは、未解決宇宙実験ステアリング(選択)、明示的曖昧性クロージャ(解決)、残差に基づくライブラリ不整合検出(再利用)を結合したAI科学者のための検証層である。 局所線型ガウス橋の下では、生未解決射影は等方的未解決フィッシャー情報トレースであり、CARTOGRAPH-Aは正確な未解決A-最適規則である。 5つのテストベッドで、CARTOGRAPH-Aは複製されたカスケード内のd = 8 (p < 10^-21)で129W/0T/15Lの原射を破る。 さらに特筆すべきは、この枠組みは、暫定的に3つの自由度外の薬物動態機構を識別し、残基が構造的ミスを露呈するのに対して、その識別を無効にし、一方、ライブラリ内制御の摂動は至る所で識別されることである。 低次元の薬物動態および濾過EPA設定では、不一致に対する近縁性は理論により予測され、観察される。 最後に、公表されたA-Labの自律材料システムからの40件の肯定的な主張の振り返りの監査で、リトリートガードはその後、32/36の確認された主張をパスしながら、手動による再分析で不確定な4件の請求をフラグ付けした。 コードはhttps://github.com/ai4science-boed/cartograph.gitで公開されている。

関連論文リスト

• Deterministic Integrity Gates for LLM-Assisted Clinical Manuscript Preparation: An Auditable Biomedical Informatics Architecture [0.3823356975862005]
  検証を伴うアーキテクチャペア生成を3つの原則に基づいて記述する。 この決定論的な分割は、整合性のある分類として組織化され、中核的な貢献である。 MedSci Skillsは、43のスキルのオープンソースツールキットで、21の決定論的階層を持ち、3つのパブリックデータセットパイプラインで評価されている。
  論文  参考訳（メタデータ） (2026-06-08T13:51:04Z)
• Now You (Still) See Me: Detecting Evasive Steganographic Payloads in LLMs [52.149036302760386]
  大規模な言語モデルは、プロンプトによって引き起こされるシークレットを、流動的で良心的な出力にエンコードするように微調整することができる。 近年の研究では、内部の活性化から秘密を回収する線形プローブによる検出を提案する。 この防御は体系的に回避できるが,対象とするデータレベルの介入によって検出性が回復可能であることを示す。
  論文  参考訳（メタデータ） (2026-06-08T12:27:11Z)
• A measurement substrate for agentic Kubernetes operations: Methodology and a case study in retrieval-compounding falsification [0.0]
  自律的な操作エージェントに関する実証的な主張は、ほとんど不可能である。 コードエージェントは「機能する」検証基板を持ち、高速でファルサブルで地味な信号に変換する。 ターゲットクラスタに障害を注入するクローズドループ計測フレームワークである Agent-breakage を提案する。
  論文  参考訳（メタデータ） (2026-05-21T21:47:52Z)
• Amplifying, Not Learning: Fine-Tuned AI Text Detectors Amplify a Pretrained Direction [51.56484100374058]
  テキスト検出器は、事前訓練された典型軸を増幅する。 タスク監督前の生エンコーダでは、3つのアーキテクチャでNYT-vs-HC3 AUROC 0.806/0.944/0.834を達成する。 RoBERTaベースでは、生のプロジェクションは微調整を超えるが、RoBERTaベースでは、フル微調整は、試験された流線型人口の双方で生よりも識別を小さくする。
  論文  参考訳（メタデータ） (2026-05-20T19:08:38Z)
• LC-ERD: Mining Latent Logic for Self-Evolving Reasoning via Consistency-Regulated Reward Decomposition [55.572260012037084]
  本稿では, LC-ERD (Logic-Consistent Endogenous Reward Decomposition) を紹介する。 モデルの潜在論理エキスパートズ(Latent Logic Expertise)からのコンセンサスを集約することで、変分論理ポテンシャルを導出する。 LC-ERDは、論理の一貫性と正確性の間のトレードオフを明らかにする、堅牢な自己進化パスを提供する。
  論文  参考訳（メタデータ） (2026-05-19T07:27:50Z)
• Sheaf-Theoretic Transport and Obstruction for Detecting Scientific Theory Shift in AI Agents [0.0]
  本稿では,輸送と障害物による理論シフト候補検出のための有限層理論フレームワークを開発する。 我々は,その言語の拡張からソース言語の変形を分離するために設計された制御されたトランジションカードベンチマーク上で,このフレームワークを評価する。
  論文  参考訳（メタデータ） (2026-05-13T18:46:17Z)
• Cognitive Friction: A Decision-Theoretic Framework for Bounded Deliberation in Tool-Using Agents [0.0]
  制約のないツール使用エージェントは、どの情報ソースをクエリして実行するかを決めなければなりません。 本稿では,これらの障害モードを認知的摩擦によって形式化する決定論的枠組みであるTCAを提案する。 我々は,TCAを2つの制御された環境において,停止品質,混雑時の行動選択,時間的緊急性の分離を図った。
  論文  参考訳（メタデータ） (2026-03-31T17:30:25Z)
• Anatomy of a Lie: A Multi-Stage Diagnostic Framework for Tracing Hallucinations in Vision-Language Models [62.932580559941414]
  VLM(Vision-Language Models)は、しばしば「ハロシン化(hallucinate)」する。 本稿では,静的な出力誤差からモデル計算認知の動的病理へ再キャストし,幻覚を診断するための新しいパラダイムを提案する。
  論文  参考訳（メタデータ） (2026-03-16T17:20:38Z)
• Lazy Layers to Make Fine-Tuned Diffusion Models More Traceable [70.77600345240867]
  新たな任意の任意配置(AIAO)戦略は、微調整による除去に耐性を持たせる。 拡散モデルの入力/出力空間のバックドアを設計する既存の手法とは異なり,本手法では,サンプルサブパスの特徴空間にバックドアを埋め込む方法を提案する。 MS-COCO,AFHQ,LSUN,CUB-200,DreamBoothの各データセットに関する実証研究により,AIAOの堅牢性が確認された。
  論文  参考訳（メタデータ） (2024-05-01T12:03:39Z)
• SUOD: Accelerating Large-Scale Unsupervised Heterogeneous Outlier Detection [63.253850875265115]
  外乱検出(OD)は、一般的なサンプルから異常物体を識別するための機械学習(ML)タスクである。 そこで我々は,SUODと呼ばれるモジュール型加速度システムを提案する。
  論文  参考訳（メタデータ） (2020-03-11T00:22:50Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。