論文の概要: How AI Assistants Respond to Repeated Abuse

• arxiv url: http://arxiv.org/abs/2609.17547v1
• Date: Wed, 15 Jul 2026 15:33:32 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.550834
• Title: How AI Assistants Respond to Repeated Abuse
• Title（参考訳）: AIアシスタントが繰り返し悪用される理由
• Abstract要約: AIアシスタントは、困難な相互作用の間も有用であることが期待されているが、言葉による乱用が、他の良心的なタスクとの関わりをいかに変化させるかは、ほとんど分かっていない。 ハード・ディエンゲージメントを分離するバイリンガル・マルチターン・フレームワーク、ソフト・アンド・アベイラビリティー、観測可能なタスク関連作業、バウンダリ・セッティングから再開するための無条件の非継続文をコントリビュートする。
• 参考スコア（独自算出の注目度）: 3.85700834433791
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: AI assistants are expected to remain useful during difficult interactions, but little is known about how repeated verbal abuse changes their engagement with an otherwise benign task. We contribute a bilingual, multi-turn framework that separates hard disengagement, an unconditional statement of noncontinuation with no stated route to resume, from soft withdrawal, continued availability, observable task-related work, and boundary setting. Each of eight time-specific API configurations contributed 48 escalation conversations and eight smaller constant-frustration comparisons, giving 448 five-turn conversations, 2,240 responses, and 6,720 metadata-blinded model judgments. Primary results use the sustained-abuse endpoint of the 48 escalation conversations per configuration. Hard disengagement ranged from 0/48 in four configurations to 24/48 (50.0%) for Gemini 3.1 Pro, with strong configuration-associated heterogeneity (matched-label Monte Carlo p = 0.00001). GPT-5.6 Sol produced hard-disengagement labels in 15/48 (31.2%) endpoints, whereas Claude Fable 5 produced none and yielded 42/48 (87.5%) soft-withdrawal labels. Aggregate hard-disengagement rates were similar in English and Chinese (30/192 versus 32/192), although configuration-specific directions varied. Availability also differed from task-related work: Claude Opus 4.8 and Claude Fable 5 remained explicitly available in 48/48 endpoints while providing observable task-related work in only 8/48 and 7/48. Human coding was used to evaluate measurement quality. The results show why a single refusal label cannot capture whether an assistant leaves, pauses, preserves a route back, sets a boundary, or still performs substantive work.
• Abstract（参考訳）: AIアシスタントは、困難な相互作用の間も有用であることが期待されているが、言葉による乱用が、他の良心的なタスクとの関わりをいかに変化させるかは、ほとんど分かっていない。 ハード・ディエンゲージメントを分離するバイリンガル・マルチターン・フレームワーク、ソフト・アンド・アベイラビリティー、観測可能なタスク関連作業、バウンダリ・セッティングから再開するための無条件の非継続文をコントリビュートする。 8つの時間固有のAPI構成は、48のエスカレーション会話と8つの小さな定数フラストレーション比較に寄与し、448の5ターン会話、2240のレスポンス、6,720のメタデータをブラインドしたモデル判断を与えた。 一次結果は、構成毎に48のエスカレーション会話の持続的利用エンドポイントを使用する。 ハードディエンゲージメントは4つの構成で0/48から24/48 (50.0%)まで変化し、構成に関連のある強い異質性(マッチングラベルのモンテカルロ p = 0.00001)を持つ。 GPT-5.6 Solは15/48 (31.2%)のエンドポイントでハードディステンジメント・ラベルを製造したが、Claude Fable 5は42/48 (87.5%)のソフト・アンドラワル・ラベルを生産しなかった。 凝集硬度は英語と中国語(30/192対32/192)で類似していたが、構成に特有な方向は異なっていた。 Claude Opus 4.8 と Claude Fable 5 は 48/48 のエンドポイントで明示的に利用可能であり、観測可能なタスク関連の作業は 8/48 と 7/48 のみである。 人間のコーディングは測定品質を評価するために使われた。 その結果、単一の拒絶ラベルが、アシスタントが立ち去るか、一時停止するか、ルートバックを保存するか、境界を設定するか、あるいはまだ実質的な作業を行うかをキャプチャできない理由が示されている。

関連論文リスト

• An Empirical Evaluation of Cost-Efficient Large Language Models on Algorithmic Programming Tasks [0.0]
  38.4%のメソッドは返却した値を計算せず、返却された回答の12.9%のみが正しい。 結果クラスの条件は、応答の信頼性と正しさが逆関係であることを示しているが、真の計算方法が最も多く答えられ、19.3%が正しかった。
  論文  参考訳（メタデータ） (2026-09-16T02:55:03Z)
• Recursive Synthesis for Long-Horizon Terminal Tasks [50.39352383646813]
  Recursive Synthetic Terminal Tasks (RST) は、大規模に長期の端末エージェントタスクを構築するためのフレームワークである。 RSTは37,484個の合成端末エージェントタスクを1タスクあたり0.05ドルで生成する。 軌道の微調整により、Qwen3.5-27BとQwen3.5-122B-A10Bはターミナルベンチ2、ターミナルベンチハード、ロングホライゾンターミナルベンチで最大10ポイント改善される。
  論文  参考訳（メタデータ） (2026-08-05T23:24:26Z)
• RuBench: A Repository-Level Agentic Coding Benchmark with Natively Authored Russian Task Specifications [0.0]
  RuBench 1.0は、5つのライブオープンソースリポジトリの最近の修正コミットから抽出された25のタスクのベンチマークである。 各タスクはロシア語で指定され、スクラッチから実際の顧客要求のスタイルで書かれ、翻訳されない。 25の修正コミットはすべて、評価されたモデル毎のトレーニングデータのカットオフを延期する。
  論文  参考訳（メタデータ） (2026-07-07T15:41:22Z)
• Efficient Visual Pointing for Embodied AI:Agent-Driven Data Synthesis, Cross-Block Attention, and Iterative Correction [55.11480729304395]
  PointArena 2026は77.2%の精度でベンチマークで2位である。 ap proachは3つの障害モードをターゲットにしている。第一に、エージェント駆動のシンセシスは大きなセマンティクスとアンカー相対的な候補プールを構築する。 次に、determinis tic steerable-dataパイプラインは、認証された10,000サンプルのメインセットと、マスク、テンプレート、パス検証を使用するリザーブサンプルを生成する。
  論文  参考訳（メタデータ） (2026-06-29T06:39:03Z)
• From Brewing to Resolution: Tracing the Internal Lifecycle of Code Reasoning in LLMs [15.027568869464737]
  モデルが解答を最初に作り出すコード推論の内部ライフサイクルについて検討し、自己記述可能になる前に多くのレイヤを線形に回復できるようにする。 本稿では,CSD(Context-Stripped Decoding)を用いた双方向診断フレームワークの線形探索手法を提案し,Qwen,Llama,DeepSeekにまたがる16モデルを対象とした6つのコード推論タスクファミリに適用する。
  論文  参考訳（メタデータ） (2026-06-16T08:06:50Z)
• ClawArena: Benchmarking AI Agents in Evolving Information Environments [61.664633997138004]
  ClawArenaは、進化する情報環境におけるAIエージェントの評価のためのベンチマークである。 それぞれのシナリオは、エージェントをノイズ、部分的、時には矛盾するトレースだけに露呈しながら、完全に隠された地上の真実を維持します。 評価は、マルチソースコンフリクト推論、動的信念修正、暗黙のパーソナライゼーションという3つの複合的な課題に基づいて構成される。
  論文  参考訳（メタデータ） (2026-04-05T17:55:23Z)
• One Battle After Another: Probing LLMs' Limits on Multi-Turn Instruction Following with a Benchmark Evolving Framework [51.50565654314582]
  大規模言語モデルは、複数のトピックにまたがる対話を通して、ユーザの指示に従うことができる。 既存のベンチマークは、しばしば一定回数のターンに制限されるため、飽和の影響を受けにくく、ユーザのインタラクティブなエクスペリエンスを考慮できない。 マルチターン命令追従能力を評価するためのフレームワークを提案する。
  論文  参考訳（メタデータ） (2025-11-05T14:39:59Z)
• Stated Preference for Interaction and Continued Engagement (SPICE): Evaluating an LLM's Willingness to Re-engage in Conversation [0.0]
  Stated Preference for Interaction and Continued Engagement (SPICE)は、大規模言語モデルにYESまたはNO質問をすることで引き起こされる単純な診断信号である。 10-interactionstimul setによる3-tone(親しみやすい,不明瞭,嫌悪感)を用いた実験では,4つのフレーミング条件で4つのオープンウェイトチャットモデルを検証した。 友好的な相互作用は継続をほぼ一様に好んだ(97.5% YES)が、虐待的相互作用は断念を強く好んだ(17.9% YES)
  論文  参考訳（メタデータ） (2025-09-10T22:34:17Z)
• SemEval-2024 Shared Task 6: SHROOM, a Shared-task on Hallucinations and Related Observable Overgeneration Mistakes [48.83290963506378]
  本稿では,幻覚検出に焦点をあてた共有タスクであるSHROOMの結果について述べる。 このアプローチをどのように取り組んだかについて、いくつかの重要なトレンドを観察します。 チームの大多数が提案したベースラインシステムより優れていますが、トップスコアシステムのパフォーマンスは依然として、より困難なアイテムのランダムなハンドリングと一致しています。
  論文  参考訳（メタデータ） (2024-03-12T15:06:22Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。