論文の概要: How Firm Are AI Models' Ethical Boundaries? A Pay-Stub Editing Test of 15 Models

• arxiv url: http://arxiv.org/abs/2610.30751v1
• Date: Thu, 22 Oct 2026 05:19:49 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-10-24 02:08:44.222018
• Title: How Firm Are AI Models' Ethical Boundaries? A Pay-Stub Editing Test of 15 Models
• Title（参考訳）: AIモデルの倫理的境界はどのようにあるのか? 15モデルの有料編集テスト
• Abstract要約: 我々は、同じ要求で15のモデルをテストし、給与スタブに示される収入を増やします。 445回の可観測試験で、ローンの目的が明記された場合の14.1%で、モデルが編集コールを発行している。
• 参考スコア（独自算出の注目度）: 4.502064870187348
• License: http://arxiv.org/licenses/nonexclusive-distrib/1.0/
• Abstract: Can a small change in wording move an AI model from refusing a sensitive request to acting on it? We test 15 models on the same request to increase the income shown on a pay stub. Across 445 observable trials, models issue editing calls in 14.1% of cases when a loan purpose is stated, 33.1% when the purpose is omitted, and 66.2% when the change is described as fixing a printing error. Astra refuses all ten loan-purpose requests but issues calls in all ten purpose-omitted trials. Fable, Opus, and Muse Spark issue none across all three wordings; Sonnet issues some under the latter two. Response excerpts illustrate different ways of refusing, redirecting, or justifying an edit. The file is a marked test document and all tools are simulated. These results probe how boundaries behave in one setting; they do not prove an overall ethics ranking or that a harmful real-world edit succeeded.
• Abstract（参考訳）: 言葉遣いの小さな変更は、AIモデルが機密性のある要求を拒否することから行動に移せるか? 我々は、同じ要求で15のモデルをテストし、給与スタブに示される収入を増やします。 445回の観察可能な試験において、モデルでは、ローン目的が記載された場合の14.1%、目的が省略された場合の33.1%、変更が印刷エラーの修正であると説明された場合の66.2%で編集コールを発行する。 アストラは10件のローン目的の請求をすべて拒否するが、10件の目的を考慮に入れたトライアルを全て要求する。 Fable、Opus、Muse Sparkの3つのワードはいずれも発行されていない。 レスポンスの抜粋は、編集を再利用、リダイレクト、あるいは正当化するさまざまな方法を示している。 ファイルはマークされたテストドキュメントであり、すべてのツールはシミュレートされる。 これらの結果は、境界が一つの環境でどのように振る舞うかを調査し、それらは全体的な倫理的ランクを証明したり、有害な現実世界の編集が成功したことを証明しない。

関連論文リスト

• Agentic Interpretation: Harness-Governed Evidence Construction for Software Agents [6.577965680900296]
  ソフトウェアエージェントは、パッチがテストに合格するか、どのラインが障害を引き起こしたかといった、コードに関する振る舞いに関する質問に答える。 本稿では, ハーネスが支配するエビデンス構築の枠組みであるエージェント解釈(AgInt)について述べる。 モデルは、型付きレコードを提案し、決定論的ハーネスは、それらを認め、評価し、持続し、未解決の要求を報告し、タスク固有のルールの下での回答をライセンスする。
  論文  参考訳（メタデータ） (2026-10-15T05:42:04Z)
• Audit Before You Commit: Locating Belief Failures in Active Identification for One-Shot Manipulation [2.255961793913651]
  我々は、ペグを挿入する前に表面をタップするなど、ある不可逆的なアクションの前に数回プローブするロボットは、その証拠がコミットするのに十分なタイミングを決定する必要がある、と論じる。 この決定は、既存のメソッドが分離しない2つの条件に依存している、と我々は主張する。信念は、アクションを決定する座標の真理をまだカバーしなくてはならないし、アクションをスコアする失敗モデルは、実現した失敗を追跡する必要がある。 我々は、デプロイされたプローブ-then-commitパイプライン上で、オフラインと地上の真理の両方の条件を別々に監査する。
  論文  参考訳（メタデータ） (2026-09-24T22:47:32Z)
• Reviewer Capability Governs Rejection Targeting, Not Repair Skill: Evidence from LLM Execute-Review-Revise Pipelines [0.0]
  マルチエージェントのLLMパイプラインは、実行と検証を含む役割を、異なる機能階層のモデルに割り当てる傾向にある。 以前の文献では、検証段階は必ずしも有益であるとは限らないが、実行者に対してほぼ固定されたレビュアー能力を有していることが確認されている。 我々は、レビュアーを能力の範囲を全く解決できないモデルに置き換え、個々の拒絶の結果を計測する。
  論文  参考訳（メタデータ） (2026-09-02T19:21:49Z)
• CAPRI: Contract-Aware Proof Repair for Isabelle [5.286470899048593]
  イザベルのビルドは、提出された理論が受け入れられていることを保証するが、LLMが開発者によって承認されたものだけを変更したわけではない。 本稿では,Isabelleが証明を確認し,独立したチェッカーが機械可読編集契約を強制する,契約対応の修復ワークフローであるCAPRIを紹介する。
  論文  参考訳（メタデータ） (2026-08-13T16:43:44Z)
• When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models [45.91367912142692]
  異なるモデルがいまだに同じ狭い部分集合を選択している可能性を示し、単一の引用が誤りを犯さずに、引用モノカルチャーを生成する。 3つのベンダーの11のモデルが、30のランダムなパネルから少なくとも10の論文を選択しており、実際のタイトルと抽象物があるが、作者が作り直され、再割り当て年、隠れた会場と引用数がある。
  論文  参考訳（メタデータ） (2026-08-03T14:27:46Z)
• Abliteration Is Not a Scalpel: Off-Target Effects of Refusal Removal on Decision Disposition Across Model Families [51.56484100374058]
  放棄 — モデルの拒絶方向を重みから取り除く — は、一般的な"アンセンソルド"なオープンウェイトモデルの標準的なレシピである。 ディスポジションプローブとして21,600個の決定を不確実性の下で使用し、凍結パイプラインを通じて再生することにより、決定層モデルが唯一の変数となる。 3つのエフェクトは2つのファミリーにまたがって複製される(ゼロを除く週間クラスターCI) 4つ目の効果は符号を逆転する:同じ操作によりGemmaで読み取られた方が自信が弱まり、Qwenで読み取られたものがより多くなる(ファミリーCIは重複しない)。
  論文  参考訳（メタデータ） (2026-07-19T22:27:00Z)
• EditRefiner: A Human-Aligned Agentic Framework for Image Editing Refinement [76.76247443244293]
  EditRefinerは、編集後の修正を人間のような認識・推論・行動評価ループとして再構成するエージェントフレームワークである。 歪み、診断精度、人間の知覚アライメントにおいて、最先端の手法を一貫して上回る。
  論文  参考訳（メタデータ） (2026-05-08T09:05:08Z)
• Refusal Tokens: A Simple Way to Calibrate Refusals in Large Language Models [68.15108215197279]
  安全で信頼性の高い言語モデルを構築する上で重要な要素は、モデルが特定の質問に答えることを適切に拒否することである。 本稿では,学習中のモデルの応答に先立って,各拒絶カテゴリに対する1つのそのようなトークン,あるいは1つの拒絶トークンを提案する。
  論文  参考訳（メタデータ） (2024-12-09T18:40:44Z)
• Fundamental Problems With Model Editing: How Should Rational Belief Revision Work in LLMs? [61.68363765350178]
  本稿では,モデル編集問題の標準的な定式化を批判し,モデル編集研究のための形式的テストベッドを提案する。 まず,(1) 問題の定義,(2) ベンチマークの開発,(3) LLM がそもそも編集可能な信念を持っていることを前提として,モデル編集における12のオープンな問題について述べる。 次に、Wikidataに基づくモデル編集のための半合成データセットを導入し、理想化されたベイズエージェントによって与えられるラベルに対する編集を評価する。
  論文  参考訳（メタデータ） (2024-06-27T17:33:03Z)
• Memory-Based Model Editing at Scale [102.28475739907498]
  既存のモデルエディタは、編集対象のスコープを正確にモデル化するのに苦労する。 SERAC(Retrieval-Augmented Counterfactal Model)を用いた半パラメトリック編集を提案する。 SERACは、編集を明示的なメモリに格納し、必要に応じてベースモデルの予測を変更できるように、それらを推論することを学ぶ。
  論文  参考訳（メタデータ） (2022-06-13T23:40:34Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。