論文の概要: Circuit Oracle: Automating Attribution Graph Analysis via Natural-Language Queries

• arxiv url: http://arxiv.org/abs/2611.00420v1
• Date: Fri, 30 Oct 2026 22:12:53 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-11-04 23:36:30.402625
• Title: Circuit Oracle: Automating Attribution Graph Analysis via Natural-Language Queries
• Title（参考訳）: Circuit Oracle: 自然言語クエリによる属性グラフ分析の自動化
• Abstract要約: マルチエージェントハーネスとタスク固有のオーサリングスキルを備えた市販のLCMであるCircuit Oracleを紹介する。 ツールコールを通じて属性グラフを読み取ることで、ターゲットモデルに関する自然言語の質問に答える。 本稿では,プローブ回路の急激な特徴の検出,タブーモデルからの隠れた知識の抽出,機能レベルの介入によるジェイルブレイクの抑制という3つの安全関連プロキシタスクについて評価する。
• 参考スコア（独自算出の注目度）: 4.078211325354612
• License: http://creativecommons.org/licenses/by-nc-nd/4.0/
• Abstract: Attribution graphs, an emerging tool in mechanistic interpretability, use transcoders to decompose language model computations into sparse interpretable features connected by causal edges. However, turning a graph into a safety-relevant insight requires hours of manual analysis by experts. We introduce Circuit Oracle, an off-the-shelf LLM equipped with a multi-agent harness and task-specific authored skills, which answers natural-language questions about a target model by reading the attribution graph through tool calls. We evaluate it on three safety-relevant proxy tasks: detecting spurious features in probe circuits, eliciting hidden knowledge from taboo-finetuned models, and suppression jailbreaking via feature-level interventions. Beyond task scores, the oracle produces pruned subgraphs and context-specific feature explanations that we assess qualitatively. Results are mixed. On spurious-feature detection, Circuit Oracle reaches 78.2 $\pm$ 2.4% accuracy, outperforming single-layer feature-ranking baselines. On secret elicitation, trained self-explainers like Activation Oracles remain the stronger baseline. On refusal suppression over 50 prompts, its single committed intervention is slightly below a diff-in-means baseline, and only exceeds it when allowed the best of five attempts. Results are stable across five runs and across model choices for the agents. We also release the pruned subgraphs and context-specific feature readings that revise existing global labels, and invite future work to develop evaluations that can measure their usefulness directly.
• Abstract（参考訳）: 機械的解釈可能性の新たなツールである属性グラフは、トランスコーダを使用して、言語モデル計算を因果エッジで接続されたスパース解釈可能な機能に分解する。 しかし、グラフを安全に関する洞察に変えるには、専門家による手動分析に何時間もかかる必要がある。 マルチエージェントハーネスとタスク固有のオーサリングスキルを備えた市販のLCMであるCircuit Oracleを紹介し,ツールコールを通じて属性グラフを読み取ることで,対象モデルに関する自然言語質問に答える。 本稿では,プローブ回路の急激な特徴の検出,タブーモデルからの隠れた知識の抽出,機能レベルの介入によるジェイルブレイクの抑制という3つの安全関連プロキシタスクについて評価する。 タスクスコア以外にも、オラクルは定性的に評価するプルーニングされたサブグラフとコンテキスト固有の特徴説明を生成する。 結果はまちまちだ。 急激な機能検出では、Circuit Oracleは78.2$\pm$2.4%の精度に達し、単層機能レベルのベースラインを上回っている。 秘密の勧誘に関しては、Activation Oraclesのような訓練された自己説明者が依然として強力なベースラインを維持している。 50以上のプロンプトの拒絶抑制では、単一のコミット介入は差分ベースラインよりわずかに低く、最大5回の試行を許すとそれを超えるだけである。 結果は5回のランとエージェントのモデル選択で安定している。 また,既存のグローバルラベルを改訂した,プルーニングされたサブグラフやコンテキスト固有の特徴読影機能もリリースし,それらの有用性を直接測定できる評価手法の開発に,今後の課題を招待する。

関連論文リスト

• Schema-Agnostic Graph Reasoning Agent for Hybrid Knowledge Graphs [42.698418800007865]
  本稿では,ハイブリッド知識グラフを探索するグラフ推論エージェントGRAを紹介する。 258の産業ベンチマークであるUFK-Mでは、GRAは5.1ppのフルコンテキストエージェントを上回った。 グラフのない制御は、主にグラフトポロジではなく、選択的なエージェントアクセスから得られる利得を示している。
  論文  参考訳（メタデータ） (2026-08-16T16:10:32Z)
• GABench: A Comprehensive Benchmark for Evaluating LLM Agents on Graph Analysis Tasks [43.75794490292518]
  グラフ解析では、エージェントがデータにアクセスし、グラフ環境で操作を実行する必要がある。 既存の大規模言語モデル(LLM)のグラフベンチマークは、グラフタスクとグラフタイプを限定的にカバーする。 エージェントグラフ解析のための総合ベンチマークであるGABenchを紹介する。
  論文  参考訳（メタデータ） (2026-08-03T04:18:31Z)
• ADAG: Automatically Describing Attribution Graphs [50.460651620833055]
  完全自動化されたこれらの属性グラフを記述するためのエンドツーエンドパイプラインである textbfADAG を導入する。 次に、特徴群をグループ化するための新しいクラスタリングアルゴリズムと、これらの特徴群の機能的役割に関する自然言語的説明を生成・スコアするLLM説明器-シミュレータ構成を導入する。 我々は、既知の人為的な回路追跡タスクでシステムを実行し、解釈可能な回路を復元し、さらに、Llama 3.1 8Bインストラクトにおける有害なアドバイスジェイルブレイクの原因となる、ステアブルクラスタを見つけることができることを示す。
  論文  参考訳（メタデータ） (2026-04-08T21:34:37Z)
• Can Large Language Models Analyze Graphs like Professionals? A Benchmark, Datasets and Models [70.03602551880526]
  グラフを処理するために,大規模言語モデル(LLM)のベンチマークであるProGraphを導入する。 その結果,現在のLCMの性能は不満足であり,最高のモデルでは36%の精度しか達成できないことがわかった。 本研究では,6つの広く使用されているグラフライブラリに基づいて,クローリングされたドキュメントと自動生成コードを含むLLM4Graphデータセットを提案する。
  論文  参考訳（メタデータ） (2024-09-29T11:38:45Z)
• GraphReader: Building Graph-based Agent to Enhance Long-Context Abilities of Large Language Models [58.08177466768262]
  大規模言語モデル(LLM)では、複雑なロングコンテクストのタスクに対処するためには、ロングコンテクストの能力が不可欠である。 グラフをグラフに構造化し、エージェントを使ってグラフを自律的に探索することで、長いテキストを扱うように設計されたグラフベースのエージェントシステムであるGraphReaderを紹介する。 LV-Evalデータセットの実験結果によると、GraphReaderは4kコンテキストウィンドウを使用して、16kから256kまでのコンテキスト長で一貫してGPT-4-128kを上回っている。
  論文  参考訳（メタデータ） (2024-06-20T17:57:51Z)
• ROSCOE: A Suite of Metrics for Scoring Step-by-Step Reasoning [63.77667876176978]
  大規模言語モデルでは、最終回答を正当化するためにステップバイステップの推論を生成するように促された場合、ダウンストリームタスクの解釈可能性が改善されている。 これらの推論ステップは、モデルの解釈可能性と検証を大幅に改善するが、客観的にそれらの正確性を研究することは困難である。 本稿では、従来のテキスト生成評価指標を改善し拡張する、解釈可能な教師なし自動スコアのスイートであるROSを提案する。
  論文  参考訳（メタデータ） (2022-12-15T15:52:39Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。