論文の概要: CircuitKIT : Circuit Discovery, Evaluation, and Application Toolkit for Mechanistic Interpretability

• arxiv url: http://arxiv.org/abs/2607.19317v1
• Date: Tue, 21 Jul 2026 17:34:12 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-07-22 19:05:05.502861
• Title: CircuitKIT : Circuit Discovery, Evaluation, and Application Toolkit for Mechanistic Interpretability
• Title（参考訳）: CircuitKIT : 機械的解釈可能性のための回路発見・評価・応用ツールキット
• Abstract要約: CircuitKITは、型付きシリアライズ可能な表現を通じて回路分析ワークフローを接続するライブラリである。 ディスカバリアルゴリズムのスイート、構造化されたデータをディスカバリタスクにマッピングするための宣言的インターフェース、補完的な回路診断、下流アプリケーションモジュールを提供する。
• 参考スコア（独自算出の注目度）: 5.903114730274312
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Circuit analysis can support not only model explanation but also downstream interventions such as pruning, editing, steering, and selective fine-tuning. However, conducting such analyses currently requires stitching together separate implementations for discovery, evaluation, and intervention, as well as hand-authoring the contrastive prompts required by many discovery methods. This fragmentation makes methods difficult to compare and limits their application beyond canonical tasks. We introduce CircuitKIT, a source-available library that connects the circuit-analysis workflow through a typed, serializable representation. CircuitKIT provides a suite of discovery algorithms, declarative interfaces for mapping structured data into discovery tasks, complementary circuit diagnostics, and downstream application modules. Together, these components provide common infrastructure for conducting and comparing circuit analyses. The library, examples, notebooks, and documentation are released at https://github.com/Lexsi-Labs/CircuitKIT .
• Abstract（参考訳）: 回路解析は、モデル説明だけでなく、プルーニング、編集、ステアリング、選択的微調整などの下流介入もサポートする。 しかし、現在そのような分析を行うには、発見、評価、介入のための別々の実装を縫合し、多くの発見手法で必要とされる対照的なプロンプトを手書きする必要がある。 この断片化は、メソッドの比較を困難にし、標準的なタスクを超えてアプリケーションを制限します。 我々はCircuitKITを紹介した。CircuitKITは、タイプ付きシリアライズ可能な表現を通じて、回路解析ワークフローを接続する。 CircuitKITは、ディスカバリアルゴリズムのスイート、構造化データをディスカバリタスクにマッピングするための宣言的インターフェース、補完的なサーキット診断、下流アプリケーションモジュールを提供する。 これらのコンポーネントは、回路分析の実施と比較のための共通基盤を提供する。 ライブラリ、例、ノートブック、ドキュメントはhttps://github.com/Lexsi-Labs/CircuitKIT で公開されている。

関連論文リスト

• Scalable Circuit Learning for Interpreting Large Language Models [49.202271807046365]
  スパース線形回帰に基づくスケーラブルな回路学習手法であるCircuitLassoを提案する。 解釈可能性について、CircuitLassoはSAEの特徴間の関係を効率的に発見し、人間の解釈可能な意味的特徴がモデルを通してどのように伝播し、その予測に影響を与えるかを示す。
  論文  参考訳（メタデータ） (2026-06-15T16:40:43Z)
• ADAG: Automatically Describing Attribution Graphs [50.460651620833055]
  完全自動化されたこれらの属性グラフを記述するためのエンドツーエンドパイプラインである textbfADAG を導入する。 次に、特徴群をグループ化するための新しいクラスタリングアルゴリズムと、これらの特徴群の機能的役割に関する自然言語的説明を生成・スコアするLLM説明器-シミュレータ構成を導入する。 我々は、既知の人為的な回路追跡タスクでシステムを実行し、解釈可能な回路を復元し、さらに、Llama 3.1 8Bインストラクトにおける有害なアドバイスジェイルブレイクの原因となる、ステアブルクラスタを見つけることができることを示す。
  論文  参考訳（メタデータ） (2026-04-08T21:34:37Z)
• Finding Highly Interpretable Prompt-Specific Circuits in Language Models [4.768156759829138]
  固定タスク内であっても、回路は即時特異的であることを示す。 本稿では,よりクリーンで低次元の因果信号を1つの前方パスから抽出するACC++を提案する。 我々はACC++信号を用いて人間の解釈可能な特徴を抽出する自動解釈可能性パイプラインを開発した。
  論文  参考訳（メタデータ） (2026-02-13T21:41:17Z)
• CrossTraffic: An Open-Source Framework for Reproducible and Executable Transportation Analysis and Knowledge Management [18.821780833520116]
  CrossTrafficは、トランスポート方法論と規制知識を継続的にデプロイ可能で検証可能なソフトウェアインフラストラクチャとして扱う、オープンソースのフレームワークである。 CrossTrafficは、標準化されたインターフェースによるクロスプラットフォームアクセスによるトランスポート分析のための実行可能な計算コアを提供する。
  論文  参考訳（メタデータ） (2026-02-08T22:30:27Z)
• Circuit Insights: Towards Interpretability Beyond Activations [20.178085579725472]
  WeightLensとCircuitLensの2つの相補的手法を提案する。 WeightLensは学習したウェイトから直接機能を解釈し、説明モデルやデータセットの必要性を取り除く。 CircuitLensは、コンポーネント間のインタラクションから機能アクティベーションがどのように発生し、回路レベルのダイナミクスを明らかにするのかをキャプチャする。
  論文  参考訳（メタデータ） (2025-10-16T17:49:41Z)
• Position-aware Automatic Circuit Discovery [59.64762573617173]
  我々は既存の回路探索手法のギャップを同定し、モデル成分を入力位置間で等しく関連するものとして扱う。 可変長例を含むタスクであっても,回路に位置性を組み込むための2つの改良を提案する。 提案手法により, 位置感応回路の完全自動検出が可能となり, 従来よりも回路サイズと忠実度とのトレードオフが良好になる。
  論文  参考訳（メタデータ） (2025-02-07T00:18:20Z)
• CktGen: Specification-Conditioned Analog Circuit Generation [28.780603785886242]
  本稿では,特定の仕様に基づいてアナログ回路を直接生成するタスクを提案する。 具体的には、単純だが効果的な変分オートエンコーダ(VAE)モデルであるCktGenを提案する。 オープンサーキットベンチマーク(OCB)の総合的な実験を行い、モデル間の整合性を評価するための新しい評価指標を導入する。
  論文  参考訳（メタデータ） (2024-10-01T18:35:44Z)
• Automatically Identifying Local and Global Circuits with Linear Computation Graphs [45.760716193942685]
  Sparse Autoencoders (SAEs) と Transcoders と呼ばれる変種を用いた回路発見パイプラインを導入する。 本手法は各ノードの因果効果を計算するために線形近似を必要としない。 GPT-2 Small: Bracket, induction, Indirect Object Identification circuits の3種類の回路を解析する。
  論文  参考訳（メタデータ） (2024-05-22T17:50:04Z)
• Sparse Feature Circuits: Discovering and Editing Interpretable Causal Graphs in Language Models [55.19497659895122]
  本稿ではスパース特徴回路の発見と適用方法を紹介する。 これらは言語モデルの振る舞いを説明するための人間の解釈可能な特徴の因果関係の著作である。
  論文  参考訳（メタデータ） (2024-03-28T17:56:07Z)
• Adaptive Planning Search Algorithm for Analog Circuit Verification [53.97809573610992]
  シミュレーションの少ない機械学習(ML)アプローチを提案する。 提案手法により,OCCを全回路の仕様に近づけることができることを示す。
  論文  参考訳（メタデータ） (2023-06-23T12:57:46Z)
• PyRCA: A Library for Metric-based Root Cause Analysis [66.72542200701807]
  PyRCAは、AIOps(AIOps)のためのRoot Cause Analysis(RCA)のオープンソースの機械学習ライブラリである。 複雑なメトリクス因果依存性を明らかにし、インシデントの根本原因を自動的に特定する、包括的なフレームワークを提供する。
  論文  参考訳（メタデータ） (2023-06-20T09:55:10Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。