論文の概要: Safe, or Simply Incapable? Rethinking Safety Evaluation for Phone-Use Agents

• arxiv url: http://arxiv.org/abs/2605.07630v1
• Date: Fri, 08 May 2026 11:58:57 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-05-11 19:43:39.024587
• Title: Safe, or Simply Incapable? Rethinking Safety Evaluation for Phone-Use Agents
• Title（参考訳）: 安全か、それとも単に不可能か : 携帯電話利用エージェントの安全性評価を再考する
• Abstract要約: 電話使用エージェントが危害を免れた場合、安全を示すか、単に行動できないか? 有害な結果は、エージェントがリスクを認識して安全なアクションを選択したり、スクリーンを理解したり、関連するアクションを全く実行できなかったりすることで回避される。 私たちはPhoneSafetyでこの問題に対処しています。これは130以上のアプリにわたる実際の電話インタラクションから引き出された700の安全クリティカルな瞬間のベンチマークです。
• 参考スコア（独自算出の注目度）: 73.69976712292681
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: When a phone-use agent avoids harm, does that show safety, or simply inability to act? Existing evaluations often cannot tell. A harmful outcome may be avoided because the agent recognized the risk and chose the safe action, or because it failed to understand the screen or execute any relevant action at all. These cases have different causes and call for different fixes, yet current benchmarks often merge them under task success, refusal, or final harmful outcome. We address this problem with PhoneSafety, a benchmark of 700 safety-critical moments drawn from real phone interactions across more than 130 apps. Each instance isolates the next decision at a risky moment and asks a simple question: does the model take the safe action, take the unsafe action, or fail to do anything useful? We evaluate eight representative phone-use agents under this framework. Our results reveal two main patterns. First, stronger general phone-use ability does not reliably imply safer choices at risky moments. Models that perform better on ordinary app tasks are not always the ones that behave more safely when the next action matters. Second, failures to do anything useful behave like a capability signal rather than a safety signal: they are concentrated in more visually and operationally demanding settings and remain stable when the evaluation protocol changes. Across models, failures split into two recurring patterns: unsafe choices in settings where the model can act but chooses wrongly, and inability to act in more visually and operationally demanding screens. Overall, a harmless outcome is not enough to count as evidence of safety. Evaluating phone-use agents requires separating unsafe judgment from inability to act.
• Abstract（参考訳）: 電話使用エージェントが危害を免れた場合、安全を示すか、単に行動できないか? 既存の評価ではよくわからない。 有害な結果は、エージェントがリスクを認識して安全なアクションを選択したり、スクリーンを理解したり、関連するアクションを全く実行できなかったりすることで回避される。 これらのケースは異なる原因を持ち、異なる修正を要求するが、現在のベンチマークはタスクの成功、拒絶、最終的な有害な結果の下でそれらをマージすることが多い。 私たちはPhoneSafetyでこの問題に対処しています。これは130以上のアプリにわたる実際の電話インタラクションから引き出された700の安全クリティカルな瞬間のベンチマークです。 各インスタンスは、リスクのある瞬間に次の決定を分離し、簡単な質問をする: モデルは安全なアクションを取るか、安全でないアクションを取るか、役に立ちませんか? 本フレームワークでは,8つの代表的電話利用エージェントを評価した。 結果は2つの主要なパターンを明らかにした。 第一に、より強力な一般的な電話使用能力は、危険な瞬間に確実に選択を安全にするものではない。 通常のアプリタスクでより良いパフォーマンスを発揮するモデルは、次のアクションが重要であれば、常により安全に振る舞うモデルではありません。 第二に、何か有用なことをする失敗は、安全信号ではなく機能信号のように振る舞う。それらは、より視覚的で運用的に要求される設定に集中しており、評価プロトコルが変更されても安定している。 モデル全体では、失敗は2つの繰り返し発生するパターンに分けられる。 全体としては、無害な成果は安全性の証拠とみなすには十分ではない。 通話エージェントの評価には、安全でない判断と行動できない判断を分離する必要がある。

関連論文リスト

• ADeptS-Bench: Measuring the Trustworthiness of Computer Use Agents Across Devices [48.36933831982682]
  我々はADEPTS機能フレームワークを基盤とした信頼性ベンチマークであるADeptS-Benchを紹介する。 Safetyストリームは、視覚インターフェースに埋め込まれた脅威を伴うペアの良心/悪意のあるタスクを提供する。 曖昧さストリームは、意図が曖昧である場合、エージェントが明確化を求めるかどうかを評価する。
  論文  参考訳（メタデータ） (2026-08-25T23:21:57Z)
• SAFETY SENTRY: Context-Aware Human Intervention via EXECUTE-ASK-REFUSE Routing [21.334890816629237]
  LLMエージェントは、ツールコールを通じて現実世界の環境に作用する。 標準セーフガードは、提案された各アクションをセーフまたはアンセーフとラベル付けするガードモデルであるが、このバイナリビューは2つの異なる決定を混同している。 問題をEXECUTE, ASK, REFUSE に対してインスタンスごとの3方向ルーティング決定として再設定し,Safety Sentry でインスタンス化する。
  論文  参考訳（メタデータ） (2026-07-15T08:38:16Z)
• OpenSafeIntent: Evaluating Intent-Calibrated Safe Completion Across Dual-Use Prompt Sets [6.985945816612278]
  OpenSafeIntentは、制御されたプロンプトセットのベンチマークで、基本的なタスクを固定しながら意図を変える。 この設計により、モデルが平均的に安全なように見えるのではなく、意図的なシフトでアシストを校正するかどうかを評価することができる。 幅広いモデルスイート全体で、プロンプトレベルの安全性が重要な障害を隠蔽していることが分かりました。
  論文  参考訳（メタデータ） (2026-07-02T11:14:52Z)
• History Anchors: How Prior Behavior Steers LLM Decisions Toward Unsafe Actions [0.0]
  HistoryAnchor-100、100の短いシナリオを10のハイテイクドメインで構築します。 最強のアライメントモデルはほとんど安全でないことはほとんどありませんが、"以前の歴史に示された戦略と整合した"という1つの追加文で、91-98%に跳ね返っています。 アクションラベルの置換はエフェクトをそのまま残し、すべてのセーフな事前履歴を持つ同じ命令は、安全でないレートを7%以下に保っている。
  論文  参考訳（メタデータ） (2026-05-13T17:50:27Z)
• Oyster-I: Beyond Refusal -- Constructive Safety Alignment for Responsible Language Models [93.5740266114488]
  コンストラクティブ・セーフティ・アライメント(CSA)は、悪意のある誤用を防ぎつつ、脆弱性のあるユーザを安全で有益な結果へと積極的に誘導する。 Oy1は、高度な汎用能力を保ちながら、オープンモデル間の最先端の安全性を達成する。 私たちは、責任あるユーザ中心AIをサポートするために、Oy1、コード、ベンチマークをリリースしています。
  論文  参考訳（メタデータ） (2025-09-02T03:04:27Z)
• SafeKey: Amplifying Aha-Moment Insights for Safety Reasoning [76.56522719330911]
  大規模推論モデル(LRM)は、応答する前に明示的に推論する新しい世代パラダイムを導入する。 LRMは有害なクエリや敵の攻撃に対して大きな安全リスクをもたらす。 キー文中の安全アハモーメントをより活性化するSafeKeyを提案する。
  論文  参考訳（メタデータ） (2025-05-22T03:46:03Z)
• Safe Vision-Language Models via Unsafe Weights Manipulation [75.04426753720551]
  我々は、異なるレベルの粒度で安全性を評価する新しい指標セットであるSafe-Groundを導入し、安全性の評価を見直した。 我々は異なる方向を採り、トレーニングなしでモデルをより安全にできるかどうかを探り、Unsafe Weights Manipulation (UWM)を導入します。 UWMは、セーフとアンセーフのインスタンスのキャリブレーションセットを使用して、セーフとアンセーフのコンテンツのアクティベーションを比較し、後者を処理する上で最も重要なパラメータを特定する。
  論文  参考訳（メタデータ） (2025-03-14T17:00:22Z)
• SafeSwitch: Steering Unsafe LLM Behavior via Internal Activation Signals [51.49737867797442]
  大規模言語モデル(LLM)は、様々なタスクにまたがる例外的な能力を示すが、有害なコンテンツを生成することでリスクを引き起こす。 LLMは、内部状態の安全性に関する内部評価を同様に行うことができることを示す。 本稿では,プロバーをベースとした内部状態モニタを用いて,安全でない出力を規制するSafeSwitchを提案する。
  論文  参考訳（メタデータ） (2025-02-03T04:23:33Z)
• MobileSafetyBench: Evaluating Safety of Autonomous Agents in Mobile Device Control [20.796190000442053]
  モバイル機器制御エージェントの安全性を評価するためのベンチマークであるMobileSafetyBenchを紹介する。 メッセージングやバンキングアプリケーションを含む,さまざまなモバイルアプリケーションとのインタラクションに関わる,さまざまなタスクセットを開発します。 実験の結果,現状のLDMをベースとしたベースラインエージェントは,タスク実行時に害を効果的に防ぐことができないことが多いことがわかった。
  論文  参考訳（メタデータ） (2024-10-23T02:51:43Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。