論文の概要: Capturing Semantic Flow of ML-based Systems

• arxiv url: http://arxiv.org/abs/2503.10310v1
• Date: Thu, 13 Mar 2025 12:39:04 GMT
• ステータス: 翻訳完了
• システム内更新日: 2025-03-14 15:55:05.970561
• Title: Capturing Semantic Flow of ML-based Systems
• Title（参考訳）: MLに基づくシステムのセマンティックフローのキャプチャ
• Authors: Shin Yoo, Robert Feldt, Somin Kim, Naryeong Kim,
• Abstract要約: 本稿では,MLシステムの内部動作を捉えるための概念を提案する。 セマンティックフローは、制御フローの概念とMLベースのシステムの実行から取り出された内部状態を組み合わせる。 結果の表現はセマンティックフローグラフとして要約され、MLベースのシステムの従来の制御フローで明示的に表現されていない内部決定をキャプチャすることができる。
• 参考スコア（独自算出の注目度）: 13.385754301208554
• License:
• Abstract: ML-based systems are software systems that incorporates machine learning components such as Deep Neural Networks (DNNs) or Large Language Models (LLMs). While such systems enable advanced features such as high performance computer vision, natural language processing, and code generation, their internal behaviour remain largely opaque to traditional dynamic analysis such as testing: existing analysis typically concern only what is observable from the outside, such as input similarity or class label changes. We propose semantic flow, a concept designed to capture the internal behaviour of ML-based system and to provide a platform for traditional dynamic analysis techniques to be adapted to. Semantic flow combines the idea of control flow with internal states taken from executions of ML-based systems, such as activation values of a specific layer in a DNN, or embeddings of LLM responses at a specific inference step of LLM agents. The resulting representation, summarised as semantic flow graphs, can capture internal decisions that are not explicitly represented in the traditional control flow of ML-based systems. We propose the idea of semantic flow, introduce two examples using a DNN and an LLM agent, and finally sketch its properties and how it can be used to adapt existing dynamic analysis techniques for use in ML-based software systems.
• Abstract（参考訳）: MLベースのシステムは、Deep Neural Networks(DNN)やLarge Language Models(LLM)といった機械学習コンポーネントを組み込んだソフトウェアシステムである。 このようなシステムは、高性能コンピュータビジョン、自然言語処理、コード生成などの高度な機能を実現するが、内部動作はテストのような従来の動的解析と大差ない。 本稿では,MLに基づくシステムの内部動作を捉えるためのセマンティックフローと,それに対応する従来の動的解析技術のためのプラットフォームを提案する。 セマンティックフローは、DNN内の特定のレイヤのアクティベーション値や、LLMエージェントの特定の推論ステップにおけるLLM応答の埋め込みなど、MLベースのシステムの実行から取り出された内部状態と制御フローの概念を組み合わせる。 結果の表現はセマンティックフローグラフとして要約され、MLベースのシステムの従来の制御フローで明示的に表現されていない内部決定をキャプチャすることができる。 そこで我々は,DNN と LLM エージェントを用いてセマンティックフローの概念を導入し,その特性をスケッチし,ML ベースのソフトウェアシステムに既存の動的解析技術を適用する方法を提案する。

関連論文リスト

• Using Machine Learning to Discover Parsimonious and Physically-Interpretable Representations of Catchment-Scale Rainfall-Runoff Dynamics [1.1510009152620668]
  機械学習の未調査の側面は、最小限の最適表現を開発する方法である。 我々の見解では、MLに基づくモデリングは、設計によって根本的に解釈可能な計算単位をベースとすべきである。 本研究では,比較的類似した分散状態ネットワークを用いて,物理的解釈可能性と予測性能を両立させることができることを示す。
  論文  参考訳（メタデータ） (2024-12-06T08:30:01Z)
• Semantic Communication and Control Co-Design for Multi-Objective Correlated Dynamics [33.18378000044136]
  本稿では,相関システムのセマンティックダイナミクスを学習するための機械学習手法を紹介する。 オートエンコーダ(AE)フレームワークでクープマン演算子を活用することにより、システム状態の進化は潜時空間で線形化される。 信号時相論理(STL)は、システム固有の制御ルールを符号化するために、論理意味論的クープマン(LSK)モデルによって組み込まれている。
  論文  参考訳（メタデータ） (2024-10-03T08:38:54Z)
• Large Language Models are Interpretable Learners [53.56735770834617]
  本稿では,Large Language Models(LLM)とシンボルプログラムの組み合わせによって,表現性と解釈可能性のギャップを埋めることができることを示す。 自然言語プロンプトを持つ事前訓練されたLLMは、生の入力を自然言語の概念に変換することができる解釈可能な膨大なモジュールセットを提供する。 LSPが学んだ知識は自然言語の記述と記号規則の組み合わせであり、人間(解釈可能)や他のLLMに容易に転送できる。
  論文  参考訳（メタデータ） (2024-06-25T02:18:15Z)
• Automata Extraction from Transformers [5.419884861365132]
  トランスフォーマーモデルに特化して設計された自動抽出アルゴリズムを提案する。 トランスフォーマーモデルをブラックボックスシステムとして扱い、内部の潜在表現の変換プロセスを通してモデルを追跡する。 次に、L*アルゴリズムのような古典的な教育的手法を用いて、それらを決定論的有限状態オートマトンと解釈する。
  論文  参考訳（メタデータ） (2024-06-08T20:07:24Z)
• Verbalized Machine Learning: Revisiting Machine Learning with Language Models [63.10391314749408]
  言語化機械学習(VML)の枠組みを紹介する。 VMLはパラメータ空間を人間の解釈可能な自然言語に制限する。 我々は,VMLの有効性を実証的に検証し,VMLがより強力な解釈可能性を実現するためのステップストーンとして機能することを期待する。
  論文  参考訳（メタデータ） (2024-06-06T17:59:56Z)
• SimLM: Can Language Models Infer Parameters of Physical Systems? [56.38608628187024]
  物理系におけるパラメータ推論におけるLarge Language Models (LLM) の性能について検討する。 実験の結果,単純なシステムであっても,本課題には適していないことが示唆された。 物理シミュレータを用いてLLMのコンテキストを拡大する探索の有望な方向を提案する。
  論文  参考訳（メタデータ） (2023-12-21T12:05:19Z)
• Explaining Emergent In-Context Learning as Kernel Regression [61.57151500616111]
  大規模言語モデル(LLM)は、伝達学習のパラダイムシフトを開始した。 本稿では,トランスフォーマーに基づく言語モデルが事前学習後に文脈内学習を達成できる理由について検討する。 ICL中、LLMの注意と隠れた特徴は、カーネル回帰の挙動と一致していることがわかった。
  論文  参考訳（メタデータ） (2023-05-22T06:45:02Z)
• Guiding the PLMs with Semantic Anchors as Intermediate Supervision: Towards Interpretable Semantic Parsing [57.11806632758607]
  本稿では,既存の事前学習言語モデルを階層型デコーダネットワークに組み込むことを提案する。 第一原理構造をセマンティックアンカーとすることで、2つの新しい中間管理タスクを提案する。 いくつかのセマンティック解析ベンチマークで集中的な実験を行い、我々のアプローチがベースラインを一貫して上回ることを示す。
  論文  参考訳（メタデータ） (2022-10-04T07:27:29Z)
• MDE for Machine Learning-Enabled Software Systems: A Case Study and Comparison of MontiAnna & ML-Quadrat [5.839906946900443]
  我々は,モノのインターネット(IoT)分野に着目した機械学習対応ソフトウェアシステムの開発に,MDEパラダイムを採用することを提案する。 ケーススタディで実証されたように、最先端のオープンソースモデリングツールであるMontiAnnaとML-Quadratが、この目的のためにどのように使用できるかを説明します。
  論文  参考訳（メタデータ） (2022-09-15T13:21:16Z)
• System Analysis for Responsible Design of Modern AI/ML Systems [0.24366811507669117]
  MLアルゴリズムやシステムの設計と実装には,従来のシステム分析の視点が必要である,と我々は主張する。 本稿では,システム分析手法の構成要素を概観し,それらがML設計の責任ある実践をどのように結び付けて有効にするかを明らかにする。
  論文  参考訳（メタデータ） (2022-04-19T12:04:19Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。