論文の概要: pyvene: A Library for Understanding and Improving PyTorch Models via Interventions

• arxiv url: http://arxiv.org/abs/2403.07809v1
• Date: Tue, 12 Mar 2024 16:46:54 GMT
• ステータス: 処理完了
• システム内更新日: 2024-03-13 20:30:24.447618
• Title: pyvene: A Library for Understanding and Improving PyTorch Models via Interventions
• Title（参考訳）: pyvene: インターベンションによるPyTorchモデルの理解と改善のためのライブラリ
• Authors: Zhengxuan Wu, Atticus Geiger, Aryaman Arora, Jing Huang, Zheng Wang, Noah D. Goodman, Christopher D. Manning, Christopher Potts
• Abstract要約: $textbfpyvene$は、さまざまなPyTorchモジュールに対するカスタマイズ可能な介入をサポートするオープンソースライブラリである。 私たちは、$textbfpyvene$が、ニューラルモデルへの介入を実行し、他のモデルとインターバルされたモデルを共有するための統一されたフレームワークを提供する方法を示します。
• 参考スコア（独自算出の注目度）: 79.72930339711478
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: Interventions on model-internal states are fundamental operations in many areas of AI, including model editing, steering, robustness, and interpretability. To facilitate such research, we introduce $\textbf{pyvene}$, an open-source Python library that supports customizable interventions on a range of different PyTorch modules. $\textbf{pyvene}$ supports complex intervention schemes with an intuitive configuration format, and its interventions can be static or include trainable parameters. We show how $\textbf{pyvene}$ provides a unified and extensible framework for performing interventions on neural models and sharing the intervened upon models with others. We illustrate the power of the library via interpretability analyses using causal abstraction and knowledge localization. We publish our library through Python Package Index (PyPI) and provide code, documentation, and tutorials at https://github.com/stanfordnlp/pyvene.
• Abstract（参考訳）: モデル内部状態への介入は、モデル編集、ステアリング、堅牢性、解釈可能性など、AIの多くの領域における基本的な操作である。 このような研究を促進するために、さまざまなPyTorchモジュールに対するカスタマイズ可能な介入をサポートするオープンソースのPythonライブラリである$\textbf{pyvene}$を紹介した。 $\textbf{pyvene}$は直感的な設定フォーマットで複雑な介入スキームをサポートし、その介入は静的またはトレーニング可能なパラメータを含むことができる。 我々は、$\textbf{pyvene}$が、ニューラルモデルに介入し、他のモデルと介入を共有するための統一的で拡張可能なフレームワークを提供する方法を示します。 因果抽象と知識局在を用いた解釈可能性解析により,図書館のパワーを説明する。 Python Package Index (PyPI)を通じてライブラリを公開し、https://github.com/stanfordnlp/pyvene.comでコード、ドキュメント、チュートリアルを提供します。

関連論文リスト

• NNsight and NDIF: Democratizing Access to Foundation Model Internals [48.27939917017487]
  NNsightはオープンソースのPythonパッケージで、グラフを構築することで任意のPyTorchモデルの介入を表現できるシンプルなフレキシブルなAPIを備えている。 NDIFは、NNsight APIを通じて基礎的なLLMへのアクセスを提供する共同研究プラットフォームである。
  論文  参考訳（メタデータ） (2024-07-18T17:59:01Z)
• Interpreting Deep Neural Networks with the Package innsight [0.951828574518325]
  innsightは一般的に、ニューラルネットワークのための機能属性メソッドを実装する最初のRパッケージである。 ディープラーニングライブラリとは独立して動作し、任意のRパッケージからモデルの解釈を可能にする。 Innsightは、トーチパッケージの高速かつ効率的な配列計算から内部的に恩恵を受ける。
  論文  参考訳（メタデータ） (2023-06-19T10:12:32Z)
• PyPOTS: A Python Toolbox for Data Mining on Partially-Observed Time Series [0.0]
  PyPOTSは、部分的に保存された時系列のデータマイニングと分析に特化した、オープンソースのPythonライブラリである。 これは、計算、分類、クラスタリング、予測の4つのタスクに分類される多様なアルゴリズムに容易にアクセスできる。
  論文  参考訳（メタデータ） (2023-05-30T07:57:05Z)
• PyGOD: A Python Library for Graph Outlier Detection [56.33769221859135]
  PyGODは、グラフデータの外れ値を検出するオープンソースライブラリである。 外れ値検出のための主要なグラフベースのメソッドを幅広くサポートしています。 PyGODはBSD 2-Clauseライセンスの下でhttps://pygod.orgとPython Package Index (PyPI)でリリースされている。
  論文  参考訳（メタデータ） (2022-04-26T06:15:21Z)
• PyHHMM: A Python Library for Heterogeneous Hidden Markov Models [63.01207205641885]
  PyHHMM は Heterogeneous-Hidden Markov Models (HHMM) のオブジェクト指向Python実装である。 PyHHMMは、異種観測モデル、データ推論の欠如、異なるモデルの順序選択基準、半教師付きトレーニングなど、同様のフレームワークではサポートされない機能を強調している。 PyHHMMは、numpy、scipy、scikit-learn、およびシーボーンPythonパッケージに依存しており、Apache-2.0ライセンスの下で配布されている。
  論文  参考訳（メタデータ） (2022-01-12T07:32:36Z)
• Using Python for Model Inference in Deep Learning [0.6027358520885614]
  pythonで推論を実行しながら、パフォーマンスとパッケージングの制約を満たす方法を示します。 複数のPythonインタプリタを単一のプロセスで使用して,スケーラブルな推論を実現する方法を提案する。
  論文  参考訳（メタデータ） (2021-04-01T04:48:52Z)
• Captum: A unified and generic model interpretability library for PyTorch [49.72749684393332]
  我々は,PyTorch用の新しい,統一されたオープンソースモデル解釈可能性ライブラリを紹介する。 このライブラリには、多くの勾配と摂動に基づく属性アルゴリズムの汎用的な実装が含まれている。 分類モデルと非分類モデルの両方に使用できる。
  論文  参考訳（メタデータ） (2020-09-16T18:57:57Z)
• pyBART: Evidence-based Syntactic Transformations for IE [52.93947844555369]
  pyBARTは、英語のUD木を拡張UDグラフに変換するためのオープンソースのPythonライブラリである。 パターンに基づく関係抽出のシナリオで評価すると、より少ないパターンを必要としながら、より高精細なUDよりも高い抽出スコアが得られる。
  論文  参考訳（メタデータ） (2020-05-04T07:38:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。