論文の概要: Not All Graphs Are Maps: A Task-Agnostic Exploration Framework for Mobile GUI Navigation
- arxiv url: http://arxiv.org/abs/2610.22672v1
- Date: Thu, 15 Oct 2026 21:40:34 GMT
- ステータス: 翻訳完了
- システム内更新日: 2026-10-20 00:56:07.680093
- Title: Not All Graphs Are Maps: A Task-Agnostic Exploration Framework for Mobile GUI Navigation
- Title(参考訳): すべてのグラフがマップであるとは限らない:モバイルGUIナビゲーションのためのタスクに依存しない探索フレームワーク
- Abstract要約: 既存のGUIエージェントバックボーンを再利用可能なデスティネーションメモリでラップするタスク非依存グラフナビゲーションフレームワークであるTAG-Navを紹介する。
将来のタスクの目的地がカバーされると、TAG-Navは目的地を検索し、タスク固有のデモンストレーションなしでルートガイダンスを提供する。
DestBenchはナビゲーション専用プロトコルで、エージェントが正しいプリアクション先画面に到達するかどうかを問う。
- 参考スコア(独自算出の注目度): 12.730127348436321
- License: http://creativecommons.org/licenses/by/4.0/
- Abstract: Modern mobile GUI agents can perceive visible screens and execute local actions, but they still lack persistent app-specific navigation knowledge: where functions live, which pages contain them, and which screens are equivalent across repeated visits. We introduce TAG-Nav, a Task-Agnostic Graph Navigation framework that wraps existing GUI-agent backbones with reusable destination memory. Offline exploration is distilled into compact records of app functions, target pages, and waypoint routes before any evaluated instruction is seen. When a future task's destination is covered, TAG-Nav retrieves the destination and provides route guidance without task-specific demonstrations. This separates mobile GUI destination navigation from full task completion: many tasks share the prefix of reaching the right page, while final actions may enter content, send data, make purchases, delete information, or change sensitive settings. To evaluate route finding without downstream execution confounds, we introduce DestBench, a navigation-only protocol that asks whether an agent reaches the correct pre-action destination screen. DestBench enables a controlled graph-memory study comparing no-memory agents with random, automated BFS, and clean graph memory. Graph-derived memory improves strict navigation success rate of UI-TARS-1.5-7B from 52.4% without graph memory to 58.3% with automated BFS memory, and improves Qwen-VL-Max success rate from 59.5% to 71.4% on the same conditions. Together, TAG-Nav and DestBench show that destination coverage and route cleanliness strongly shape graph-memory value, making graph quality a measured variable rather than an assumed benefit of exploration.
- Abstract(参考訳): 現代のモバイルGUIエージェントは、目に見える画面を認識し、ローカルアクションを実行することができるが、アプリ固有のナビゲーション知識がない。
既存のGUIエージェントバックボーンを再利用可能なデスティネーションメモリでラップするタスク非依存グラフナビゲーションフレームワークであるTAG-Navを紹介する。
オフライン探索は、評価された指示を見る前に、アプリ機能、ターゲットページ、ウェイポイントルートのコンパクトな記録に蒸留される。
将来のタスクの目的地がカバーされると、TAG-Navは目的地を検索し、タスク固有のデモンストレーションなしでルートガイダンスを提供する。
多くのタスクは、右ページに到達するプレフィックスを共有し、最終的なアクションは、コンテンツを入力する、データを送信する、購入する、情報を削除する、または機密性の高い設定を変更する。
DestBenchはナビゲーションのみのプロトコルで、エージェントが適切なプリアクション先画面に到達するかどうかを問う。
DestBenchは、ランダムで自動化されたBFSとクリーンなグラフメモリとの非メモリエージェントを比較した、制御されたグラフメモリ調査を可能にする。
グラフ由来のメモリは、UI-TARS-1.5-7Bの厳格なナビゲーション成功率を52.4%から自動化されたBFSメモリで58.3%に改善し、同じ条件下でQwen-VL-Maxの成功率を59.5%から71.4%に改善する。
TAG-NavとDestBenchは共に、目的地のカバレッジとルートがグラフメモリの値を強く形作ることを示し、グラフ品質を探索の利点というよりも測定変数にする。
関連論文リスト
- STEGNav: Spatio-Temporal Event Graph Reasoning for Multimodal Lifelong Object Navigation [17.685326212060716]
本研究では,従来のシーングラフを相補的空間軸,時間軸に沿ってイベントグラフに拡張する学習自由フレームワークを提案する。
STEGNavは、GOAT-Benchで66.3%のSRと39.7のSPL、HM3D1とHM3Dv2でそれぞれ64.0%と69.4%を達成している。
論文 参考訳(メタデータ) (2026-08-28T12:42:16Z) - Mem-W: Latent Memory-Native GUI Agents [50.87647372904382]
本稿では,メモリをエージェントの連続的コンテキストの一部として扱う,潜在メモリネイティブなGUIエージェントであるMem-Wを紹介する。
4つのWebおよびモバイルナビゲーションベンチマークで、Mem-Wはさまざまなバックボーンとメモリ拡張ベースラインを一貫して改善している。
論文 参考訳(メタデータ) (2026-05-10T04:31:23Z) - GraphPad: Inference-Time 3D Scene Graph Updates for Embodied Question Answering [63.17411943434755]
GraphPadは変更可能な構造化メモリで、エージェントはAPI呼び出しを通じてタスクのニーズに合わせて調整できる。
環境を表す可変なシーングラフと、フレームごとにインデックスするナビゲーションログと、タスク固有のノート用のスクラッチパッドとを備える。
論文 参考訳(メタデータ) (2025-06-01T21:13:38Z) - Memory Proxy Maps for Visual Navigation [6.1190419149081245]
視覚的なナビゲーションは人間からインスピレーションを受け、視覚を使って、詳細な環境マップを使わずに、これまで見えなかった環境をナビゲートする。
これに触発されて、封建的学習を用いた視覚ナビゲーションのための、No-RL、No-graph、No-odometryアプローチを導入し、3つのタイレッドエージェントを構築した。
論文 参考訳(メタデータ) (2024-11-15T02:37:14Z) - GUIOdyssey: A Comprehensive Dataset for Cross-App GUI Navigation on Mobile Devices [47.98821056800437]
クロスプラットフォームなモバイルGUIナビゲーションのためのデータセットであるGUIOdysseyを提示する。
GuiOdysseyは8,334エピソードで構成され、平均15.3ステップで6つのモバイルデバイス、212の異なるアプリ、1,357のアプリの組み合わせをカバーしている。
我々は,履歴リサンプラーモジュールを備えた長期横断ナビゲーションのための探索的マルチモーダルエージェントであるOdysseyAgentを開発した。
論文 参考訳(メタデータ) (2024-06-12T17:44:26Z) - GaussNav: Gaussian Splatting for Visual Navigation [92.13664084464514]
インスタンスイメージゴールナビゲーション(IIN)では、エージェントが探索されていない環境で、目標画像に描かれた特定のオブジェクトを見つける必要がある。
視覚ナビゲーションのためのガウススティング(GaussNav)であるIINの新しいフレームワークを提案し、3次元ガウススティング(DGS)に基づく新しい地図表現を構築した。
当社のGaussNavフレームワークは,Habitat-Matterport 3D(HM3D)データセットにおいて,SPL(Path Length)によるSuccessの重み付けを0.347から0.578に増加させ,大幅なパフォーマンス向上を実現している。
論文 参考訳(メタデータ) (2024-03-18T09:56:48Z) - MemoNav: Working Memory Model for Visual Navigation [47.011190883888446]
イメージゴールナビゲーションは、不慣れな環境でイメージによって示されるゴールにエージェントがナビゲートする必要がある、困難なタスクである。
様々な場面の記憶を利用する既存の手法は、すべての歴史的観察を意思決定に用いているため、非効率な探索に苦しむ。
動作メモリにインスパイアされたパイプラインを用いてナビゲーション性能を向上させる,イメージゴールナビゲーションのための新しいメモリモデルであるMemoNavを提案する。
論文 参考訳(メタデータ) (2024-02-29T13:45:13Z)
関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。
指定された論文の情報です。
本サイトの運営者は本サイト(すべての情報・翻訳含む)の品質を保証せず、本サイト(すべての情報・翻訳含む)を使用して発生したあらゆる結果について一切の責任を負いません。