論文の概要: Inferring the Shape of Data Frames in R Programs using Abstract Interpretation
- arxiv url: http://arxiv.org/abs/2607.03889v1
- Date: Sat, 04 Jul 2026 14:11:05 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-07-07 22:26:29.746501
- Title: Inferring the Shape of Data Frames in R Programs using Abstract Interpretation
- Title(参考訳): 抽象解釈を用いたRプログラムにおけるデータフレームの形状推定
- Abstract要約: 本稿では,Rプログラムにおけるデータフレームの形状を抽象的解釈を用いて推測する新しい静的解析法を提案する。
本研究では,78個の実世界のRスクリプトを用いて,解析の正確さと正確性を評価する。
推定データフレーム形状を用いて,潜在的に不正なデータフレームアクセスを含む40の実世界Rスクリプトを同定した。
- 参考スコア(独自算出の注目度): 0.45880283710344066
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Data frames are a fundamental data structure in many data analysis tasks and are widely used in programming languages like R. Due to their omnipresence in data analysis, there are many functions that operate on their shape and content, for example, to clean and transform study data. However, languages like R do not offer static guarantees on data frames making it difficult to reason about their shape at a specific point in the program. In this paper, we present a novel static analysis to infer the shape of data frames in R programs using abstract interpretation by tracking the ensured and potential column names, as well as the potential number of columns and rows. For this, we use a reduced product domain and define abstract semantics for the most commonly used data frame operations, such as mutating, filtering, and subsetting. We evaluate the correctness and accuracy of our analysis on a selection of 78 executable real-world R scripts achieving empirical evidence for soundness by never under-approximating the data frame shape. Additionally, we demonstrate the ability of our analysis to infer the shape of data frames on a large dataset of 33,314 real-world R scripts by inferring concrete shape constraints for 42.1 % and exact shapes for 0.9 % of the data frame operations, improving to 58.7 % and 4.2 % if all datasets read in these scripts are available to our analysis. Using the inferred data frame shapes, we identified 40 real-world R scripts containing potential invalid data frame accesses. This shows the potential of our analysis to significantly support researchers in using data frames in data analysis.
- Abstract(参考訳): データフレームは多くのデータ分析タスクの基本データ構造であり、Rのようなプログラミング言語で広く使われている。
しかし、Rのような言語は、データフレームに対して静的な保証を提供していないため、プログラムの特定の時点において、それらの形状を判断することは困難である。
本稿では,Rプログラムにおけるデータフレームの形状を,保証された列名と潜在的列名と,列数と行数を追跡することで,抽象的解釈を用いて推定する新しい静的解析手法を提案する。
このために、還元された製品ドメインを使用し、変更、フィルタリング、サブセット化といった最も一般的なデータフレーム操作に対して抽象的なセマンティクスを定義します。
本研究では,78個の実世界Rスクリプトを用いて,データフレーム形状を過小評価しないことで,音質の実証的証拠を達成し,解析の正確さと正確性を評価する。
さらに,本研究では,データフレーム操作の0.9%に対して,42.1%の具体的な形状制約と正確な形状を推定することにより,33,314個の実世界のRスクリプトでデータフレームの形状を推定できることを示し,これらのスクリプトで読み取られたすべてのデータセットが利用可能であれば,58.7%と4.2%に改善した。
推定データフレーム形状を用いて,潜在的に不正なデータフレームアクセスを含む40の実世界Rスクリプトを同定した。
このことは、データ分析におけるデータフレームの利用において、研究者を著しく支援する分析の可能性を示している。
関連論文リスト
- DataSpace: Benchmarking Data Agents for Verifiable Analytics over Heterogeneous Workspaces [25.28248447900504]
データエージェントは、組織ワークスペース上の自然言語分析を可能にする。
既存のベンチマークは、構造化クエリ、検索、あるいはオープンエンド分析を主に分離している。
データエージェントが検証可能な表形式の結果を生成するベンチマークであるDataSpaceを紹介する。
論文 参考訳(メタデータ) (2026-08-04T10:48:11Z) - Active Learning with Low-Rank Structure for Data Selection [85.43185363043362]
低ランク近似と残差に基づくサンプリングに基づく新しいデータ選択フレームワークを提案する。
平均損失がデータセット全体の平均損失を近似した$tildeOleft(k + frac1varepsilon2right)$データポイントの重み付きサブセットを選択することができることを示す。
論文 参考訳(メタデータ) (2026-06-14T22:29:59Z) - Statistical Embeddings for Similarity, Retrieval, and Interpretable Alignment of Numeric Tabular Datasets [0.0]
提案手法は,構造化探索データ解析記述子による数値データセットの特徴付けを行う。
カノニカル相関解析(CCA)のペナル化された定式化は、スパースで解釈可能な可変レベル対応を復元するために用いられる。
この手法は、汎用ベンチマーク、材料情報学、核グレードのグラファイトのキャラクタリゼーションにまたがる15のデータセットで評価される。
論文 参考訳(メタデータ) (2026-05-28T17:40:42Z) - OpenDataArena: A Fair and Open Arena for Benchmarking Post-Training Dataset Value [74.80873109856563]
OpenDataArena(ODA)は、トレーニング後のデータの本質的な価値をベンチマークするために設計された、総合的でオープンなプラットフォームである。
ODAは4つの主要な柱からなる包括的なエコシステムを確立している。 (i) 多様なモデル間で公平でオープンな比較を保証する統一的なトレーニング評価パイプライン、 (ii) 異なる軸数に沿ってデータ品質をプロファイリングする多次元スコアリングフレームワーク、 (iii) データセットの系図を視覚化してコンポーネントソースを識別するインタラクティブなデータ系統探索である。
論文 参考訳(メタデータ) (2025-12-16T03:33:24Z) - DSBench: How Far Are Data Science Agents from Becoming Data Science Experts? [58.330879414174476]
現実的なタスクでデータサイエンスエージェントを評価するためのベンチマークであるDSBenchを紹介する。
このベンチマークには、466のデータ分析タスクと、EloquenceとKaggleのコンペからソースされた74のデータモデリングタスクが含まれている。
現状のLLM, LVLM, エージェントを評価したところ, 最高のエージェントはデータ解析タスクの34.12%しか解決できず, RPG(Relative Performance Gap)は34.74%であった。
論文 参考訳(メタデータ) (2024-09-12T02:08:00Z) - Are LLMs Capable of Data-based Statistical and Causal Reasoning? Benchmarking Advanced Quantitative Reasoning with Data [89.2410799619405]
実世界のデータを用いた統計的および因果推論において,大規模言語モデルの能力を評価するために,データベンチマークを用いた定量的推論を導入する。
このベンチマークは、教科書、オンライン学習教材、学術論文のデータシートを伴う411の質問のデータセットで構成されている。
データとテキストに対するモデルの量的推論能力を比較するために、ベンチマークを290のテキストのみの質問、すなわちQRTextで強化する。
論文 参考訳(メタデータ) (2024-02-27T16:15:03Z) - On the Anatomy of Real-World R Code for Static Analysis [1.1767330101986737]
我々は,5000万行以上の実世界Rプログラムとパッケージの大規模静的解析を行う。
我々はRユーザのスクリプトとパッケージ作成者の実装の類似点と相違点を比較した。
名前に基づくインデックス、代入、ループの頻度は高いが、R の反射関数のほとんどでは低い頻度である。
論文 参考訳(メタデータ) (2024-01-29T15:29:17Z) - DataFrame QA: A Universal LLM Framework on DataFrame Question Answering
Without Data Exposure [21.951377899915798]
本稿では,大規模言語モデル(LLM)を用いてデータフレーム上での情報検索とデータ解析を行うPandasクエリを生成する新しいタスクであるDataFrame Question answering (QA)を紹介する。
提案手法は,データフレーム列名に依存するため,データプライバシを確保するだけでなく,プロンプトのコンテキストウィンドウを大幅に削減する。
論文 参考訳(メタデータ) (2024-01-27T17:06:53Z) - infoVerse: A Universal Framework for Dataset Characterization with
Multidimensional Meta-information [68.76707843019886]
infoVerseは、データセットの特徴付けのための普遍的なフレームワークである。
infoVerseは、様々なモデル駆動メタ情報を統合することで、データセットの多次元特性をキャプチャする。
実世界の3つのアプリケーション(データプルーニング、アクティブラーニング、データアノテーション)において、infoVerse空間で選択されたサンプルは、強いベースラインを一貫して上回る。
論文 参考訳(メタデータ) (2023-05-30T18:12:48Z) - On Exploring and Improving Robustness of Scene Text Detection Models [20.15225372544634]
我々はシーンテキスト検出モデル ICDAR2015-C (IC15-C) と CTW1500-C (CTW-C) を評価した。
我々は、事前学習データ、バックボーン、機能融合モジュール、マルチスケール予測、テキストインスタンスの表現、損失関数の6つの重要なコンポーネントのロバストネス分析を行う。
本研究では,背景と前景を融合することでテキスト領域の滑らかさを破壊する,シンプルで効果的なデータベース手法を提案する。
論文 参考訳(メタデータ) (2021-10-12T02:36:48Z) - RSCA: Real-time Segmentation-based Context-Aware Scene Text Detection [14.125634725954848]
任意のシーンテキスト検出のためのリアルタイムコンテキスト認識モデル RSCA を提案する。
これらの戦略に基づいて、RSCAは複雑なラベルの割り当てや繰り返しの機能集約なしに、スピードと精度の両方で最先端のパフォーマンスを達成する。
論文 参考訳(メタデータ) (2021-05-26T18:43:17Z) - Chest x-ray automated triage: a semiologic approach designed for
clinical implementation, exploiting different types of labels through a
combination of four Deep Learning architectures [83.48996461770017]
本研究では,異なる畳み込みアーキテクチャの後期融合に基づく深層学習手法を提案する。
公開胸部x線画像と機関アーカイブを組み合わせたトレーニングデータセットを4つ構築した。
4つの異なるディープラーニングアーキテクチャをトレーニングし、それらのアウトプットとレイトフュージョン戦略を組み合わせることで、統一されたツールを得ました。
論文 参考訳(メタデータ) (2020-12-23T14:38:35Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。