論文の概要: Trust, but verify, audit and attribute: a human-in-the-loop framework for checking AI-produced research results
- arxiv url: http://arxiv.org/abs/2611.13042v1
- Date: Mon, 09 Nov 2026 11:58:29 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-11-12 04:24:43.527275
- Title: Trust, but verify, audit and attribute: a human-in-the-loop framework for checking AI-produced research results
- Title(参考訳): 信頼、検証、監査、属性:AIが生成した研究結果をチェックするための人道支援フレームワーク
- Abstract要約: 本稿では,AI生成結果をチェックするためのドメインに依存しないヒューマン・イン・ザ・ループ・フレームワークを提案する。
信頼性の異なるエージェント使用可能なツールは結果をチェックする; 忠実な監査は、各チェックが記載したように、クレームに対処するかどうかを尋ねる。
ダイアログレポートは、その作業を人間とAIに属性付ける。
- 参考スコア(独自算出の注目度): 0.0
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Artificial intelligence (AI) systems now produce research results in bulk: in October 2026 a single laboratory released more than 700 AI-generated mathematics manuscripts, only part of them with machine-checked proofs. Such volumes will be checked mostly by AI agents that call specialised software. A passing check certifies only the artefact that was checked. For proofs translated into the proof assistant Lean, it has been shown that this artefact may state something other than the author's text, and that deciding whether a translation is faithful is undecidable in general. The human researcher therefore stays in the loop, and human and AI contributions must be recorded. We propose a domain-independent, human-in-the-loop framework for checking AI-produced results. Validated, agent-usable tools with different grounds of trust check the results; a fidelity audit asks whether each check addressed the claim as stated; the human decides at fixed points; and a dialog report attributes the work to the human and to the AI. We describe two automatic implementations of the tool layer, for mathematics (Wolfram Language, MATLAB, Lean) and statistics (Python and R), and run the mathematical one on a two-claim example. An ambiguous claim was split into two readings, one refuted and one proved.
- Abstract(参考訳): 2026年10月、1つの研究室が700以上のAI生成数学の写本を公開し、その一部に機械検査された証明がある。
こうしたボリュームは、主に専門ソフトウェアを呼び出すAIエージェントによってチェックされる。
パスチェックは、チェックされたアーティファクトのみを認証します。
証明助手のリーンに翻訳された証明について、この人工物は著者の文章以外の何かを記述する可能性があり、翻訳が忠実であるかどうかの判断は一般には決定できないことが示されている。
したがって、人間の研究者はループに留まり、人間とAIの貢献を記録する必要がある。
本稿では,AI生成結果をチェックするためのドメインに依存しないヒューマン・イン・ザ・ループ・フレームワークを提案する。
信頼性の異なるエージェント使用可能なツールが結果をチェックする; 忠実な監査は、各チェックが述べたように、クレームに対処するかどうかを問う; 人間が固定ポイントで決定する; ダイアログレポートは、その成果を人間とAIに属性付ける。
本稿では,Wolfram Language,MATLAB,Lean) と統計 (Python と R) の2つのツール層の自動実装について述べる。
曖昧な主張は2つの読みに分けられ、1つは否定され、1つは証明された。
関連論文リスト
- The Gold Rush in AI4Math, II: What are signatures of AI-assisted Proofs? [8.399688944263843]
数学におけるAIの利用の増加は、AIによる証明への関与を検出することができるのだろうか、という疑問を提起する。
我々は,8,281の論文からなる5つのコホートを,既存の原稿と生成AIを用いて作成した写本を組み合わせて構築する。
これらのコホートは、AIに関わるさまざまなレベルのレベルにまたがっており、同じ研究問題に対処する2組の論文を含んでいる。
次に、各論文を即時証明支援(GIPS)グラフとして表現するフレームワークProofTraceを紹介し、数学的組織の解釈可能な特徴を抽出する。
論文 参考訳(メタデータ) (2026-11-05T18:17:18Z) - Beyond Natural Language: An Agent-Native Language for Autonomous Science [14.491976347720174]
研究クレームに対するサポートのチェックと修正を行うための,マシンチェック可能な言語とプロトコルであるLaraを紹介した。
Laraは、研究エージェントのための自動検証パイプラインを可能にし、宣言されたブリッジが論文間の議論を監査可能なネットワークに接続し、人間と機械の両方が、符号化されたクレームの状態をミリ秒で再チェックできるようにする。
論文 参考訳(メタデータ) (2026-09-21T21:19:46Z) - AI with Authority, from Application to Silicon [0.0]
5週間で、消費者向けAIサブスクリプションの研究者の1人が、コミュニティのシリコンシャトルに搭載されたRISC-Vプロセッサに、少数のAIエージェントを誘導した。
人間によるレビューを通した証拠はなく、RTLは人間によって書かれたものでもない。
作業の規律 -- ソルト法 -- は、幻覚的証明が通過できない証明カーネルに依存している。
論文 参考訳(メタデータ) (2026-08-21T17:59:16Z) - F(AI)2R: Who Did What, and Who Checked? Verifiable AI Provenance as an Executable Skill [0.0]
F(AI)2Rは、AIを使ったFAIR研究であり、AI支援のオーサリングパスと、すべてのアーティファクトに対するマシン可読な監査パスである。
本稿では,AI-in-the-loopアーティファクトをカバーするPROV-O拡張であるaiprovに,学術的な記述以上の証明モデルを一般化する。
プロダクションにおけるすべてのアクティビティ、クレーム、ソースは、2つのインの下にリポジトリの証明グラフに記録される。
論文 参考訳(メタデータ) (2026-07-28T12:17:53Z) - Ten Digits on a Train: AI-Assisted Verification of Two Eigenvalue Problems [0.0]
本稿では、そのような2つの計算に関する人間-AIコラボレーションについて報告する。
特異な自己随伴シュルディンガー作用素に対して、証明された零数とディリクレ=ノイマンブラケットは、完全な負スペクトルを10個の十進点に証明する。
微妙な非正規原子分子ベンチマークでは、以前は未解決の共鳴対が分離され、各部材は10桁に囲まれている。
論文 参考訳(メタデータ) (2026-06-22T18:03:59Z) - Operation-Guided Progressive Human-to-AI Text Transformation Benchmark for Multi-Granularity AI-Text Detection [49.41415417307568]
OpAI-Benchは、プログレッシブな人間とAIのテキスト変換を研究するためのオペレーションガイド付きベンチマークである。
我々は、AIテキスト検出能力は、AI編集コンテンツの割合だけでなく、編集操作、ドメイン、累積修正履歴によっても支配されていることを示す。
論文 参考訳(メタデータ) (2026-06-04T17:58:05Z) - Characterizing initial human-AI proof formalization workflows [66.06866890889131]
AIシステムのコード生成能力の進歩と、証明を形式化し、検証する人々の能力を変えるための高度な数学的推論の約束への関与。
我々は、AIが人々のフォーマル化に与える影響について、混合メソッド分析を行う。
質的な調査では、人々の好みは多様であるが、形式化におけるAI支援に対する一般的な欲求が示されている。
論文 参考訳(メタデータ) (2026-06-02T22:58:19Z) - Almost AI, Almost Human: The Challenge of Detecting AI-Polished Writing [55.2480439325792]
本研究では、AI-Polished-Text Evaluationデータセットを用いて、12の最先端AIテキスト検出器を体系的に評価する。
我々の発見によると、検出器は、最小限に洗練されたテキストをAI生成としてフラグ付けし、AIの関与度を区別し、古いモデルや小さなモデルに対するバイアスを示す。
論文 参考訳(メタデータ) (2025-02-21T18:45:37Z) - On the Possibilities of AI-Generated Text Detection [76.55825911221434]
機械が生成するテキストが人間に近い品質を近似するにつれて、検出に必要なサンプルサイズが増大すると主張している。
GPT-2, GPT-3.5-Turbo, Llama, Llama-2-13B-Chat-HF, Llama-2-70B-Chat-HFなどの最先端テキストジェネレータをoBERTa-Large/Base-Detector, GPTZeroなどの検出器に対して試験した。
論文 参考訳(メタデータ) (2023-04-10T17:47:39Z) - Can Machines Imitate Humans? Integrative Turing-like tests for Language and Vision Demonstrate a Narrowing Gap [56.611702960809644]
3つの言語タスクと3つの視覚タスクで人間を模倣するAIの能力をベンチマークする。
次に,人間1,916名,AI10名を対象に,72,191名のチューリング様試験を行った。
模倣能力は従来のAIパフォーマンス指標と最小限の相関を示した。
論文 参考訳(メタデータ) (2022-11-23T16:16:52Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。