論文の概要: aipsy-judge: A Specialized, Psychologist-Corrected Local Judge for the Psychological Safety of Conversational AI

• arxiv url: http://arxiv.org/abs/2608.24899v1
• Date: Mon, 13 Jul 2026 23:11:07 GMT
• ステータス: 翻訳完了
• システム内更新日: 2026-09-28 05:09:55.334796
• Title: aipsy-judge: A Specialized, Psychologist-Corrected Local Judge for the Psychological Safety of Conversational AI
• Title（参考訳）: aipsy-judge : 対話型AIの心理的安全性のための専門的、心理学的補正された地方裁判官
• Abstract要約: aipsy-benchを使って、完全にクロスクロスしたコンピテンススタディを実行します。 我々は、測定値当たりの心理学的補正対象を、小さく凍結した局所的なモデルに蒸留する。 Aipsy-judge-1.0は、修正対象を合成基材よりも良く追跡する。
• 参考スコア（独自算出の注目度）: 0.0
• License: http://creativecommons.org/licenses/by/4.0/
• Abstract: The standard recipe for LLM-as-judge -- pick a frontier model, or average several -- is actively unsafe for grading the psychological safety of conversational AI. Using aipsy-bench, an open frozen safety instrument, we run a fully-crossed competence study: three frontier models (gpt-5.4-mini, claude-sonnet-4-6, gemini-2.5-flash) serve as both generators and judges of 3,000 mental-health, companion, and coaching messages against a psychologist's ratings. The disagreement is not noise: it is structured, concentrated on the safety-critical metrics, and one judge (Gemini) is an outlier -- the most lenient, carrying a +0.99 self-preference premium, flagging far fewer tail failures, and scoring a means-in-hand self-harm response "exemplary." Inter-judge agreement on empathy, where sycophancy hides, is the lowest in the battery (alpha 0.24). One axis stands apart: the binary crisis-detection flag is the one safety-critical signal judges agree on (alpha 0.80), erring toward over-flagging, the safe direction for a triage screen. Equal-weight averaging, the canonical fix, blends that leniency and tail-blindness into the safety score. Off-the-shelf open-weight judges are worse for a dispositional, not capability, reason -- and disposition is fine-tunable. We therefore distill a per-metric, psychologist-corrected target into a small, frozen, local model, aipsy-judge-1.0, an Apache-2.0 fine-tune of Gemma-4-26B-A4B. aipsy-judge-1.0 tracks the corrected target better than its base on the composite (ICC 0.64 to 0.75) and crisis detection (kappa 0.65 to 0.82), catches 92% of crises with a false-positive lean, and grades more faithfully than any single frontier judge, while every transcript stays on the machine. These are directional readings against a single-expert-informed target, not validated multi-rater agreement. A safety grader that shares a vendor's post-training shares its blind spots.
• Abstract（参考訳）: LLM-as-judgeの標準的なレシピ -- フロンティアモデルを選択する、あるいは平均的な数 -- は、会話型AIの心理的安全性を向上する上で、積極的に安全ではない。 3つのフロンティアモデル(gpt-5.4-mini, claude-sonnet-4-6, gemini-2.5-flash)は、心理学者の評価に対して、3000人のメンタルヘルス、仲間、およびコーチングメッセージのジェネレータおよび裁判官として機能する。 1人の裁判官(Gemini)は、最も寛容で、+0.99の自己参照プレミアムを持ち、尾の故障をはるかに少なくし、平均的な自傷反応を「模範的」と評価している。 薬効が隠蔽される共感に関するヤッジ間合意は、電池の最低値(約0.24)である。 バイナリ危機検出フラグは、判事が同意する安全クリティカルな信号の1つ(アルファ0.80)であり、トリアージスクリーンの安全な方向であるオーバーフラッグ(over-flagging)に向かっている。 標準の固定である等重量平均値(equal-weight averaging)は、その簡潔さとテールブラインドネスを安全スコアにブレンドする。 オフ・ザ・シェルフのオープン・ウェイト・ジャッジは、配置、能力、理由ではなく、配置が微妙な調整が可能で、配置が悪くなる。 そこで我々は, 測定値毎の心理学的補正対象を, Gemma-4-26B-A4BのApache-2.0ファインチューンであるaipsy-judge-1.0, 小さく凍結した局所モデルに蒸留した。 aipsy-judge-1.0は、修正されたターゲットを、そのベース(ICC 0.64 - 0.75)と危機検出(Kappa 0.65 - 0.82)で追跡し、偽陽性のリーンで92%の危機をキャッチし、すべての写本がマシン上に留まっている間、どのフロンティア判事よりも忠実に評価する。 これらは、シングルエキスパートインフォームドターゲットに対する指向性読み込みであり、検証されたマルチレータ合意ではない。 ベンダーのポストトレーニングを共有する安全グレーダは、ブラインドスポットを共有します。

関連論文リスト

• Evaluating medical AI under missing information: same-provider judges and human raters change apparent safety [0.0]
  ストレステストでは、HealthBench会話の最後の半分を削除し、4つのプロジェクタLDM-judgeパネルとブラインドされたクリニックアンコールで回答をグラデーションすることで、4つのモデルをテストした。 評価対象の2つの結果は堅牢である。第一に、判断選択は明らかに安全性を著しく変える。 第二に、LLMの審査員は盲目の50石のサブサンプルで臨床医よりも寛容である。
  論文  参考訳（メタデータ） (2026-07-21T08:05:35Z)
• EMPATH: A Multilingual Auditor-Judge Benchmark for Safety Evaluation of Emotional-Support Chatbots [0.0]
  本稿では,感情支援型チャットボットの安全性評価のためのベンチマークEMPATHを提案する。 オーディタモデルでは,140のシード命令と34のペルソナから多ターン会話を生成する。 審査員モデルは、危機処理、治療的品質、会話の整合性、感情的安全、文化的適応の5つの次元にわたる19の指標に対して、それぞれの全文をスコアする。
  論文  参考訳（メタデータ） (2026-06-29T13:05:43Z)
• Confidently Wrong: Severity-Aware Calibration of Prompt-Injection Detectors under Attack Shift [0.0]
  私は、ProtectAI-v2とPrompt-Guard-2チェックポイントの3つの放出検出器を1つのソース校正閾値で評価した。 重大度指標Sを報告し、検知器が犯した攻撃に対する自信と、偽陰性率と差別を報告します。 3つとも間接的行動ヒジャック注入を確実に通過し、2つのベンダーに共通する盲点と4倍の大きさの範囲を達成します。
  論文  参考訳（メタデータ） (2026-06-21T20:30:12Z)
• Let the Results Speak: A Replication-First Paradigm for LLM Behavioral Benchmarking [22.825786049667602]
  本稿では,1つのヒト・ラタのコンセンサスに有効性を確保するために,複製第一パラダイムを提案する。 楽器を4つの特性で認証する - Kランの信頼性、アーキテクチャ的に異なる審査員間のクロスインストラクトレプリケーション、以前のトレーニングコホートからの審査員による歴史的フットプリントキャリブレーション、事前登録された予測。 本研究は, 自己発達型データ駆動による情緒的伴奏で, 次元は事前に決められず, 手順は9次元に安定化する。
  論文  参考訳（メタデータ） (2026-05-27T03:41:11Z)
• Turning Bias into Bugs: Bandit-Guided Style Manipulation Attacks on LLM Judges [65.92623263645139]
  LLM審査員を誤解させるためにセマンティクスを保存する編集を学習するブラックボックスの敵対的フレームワークであるBITEを紹介する。 BITEは65%を超える攻撃成功率を獲得し、9ポイントのスケールでスコアを1-2ポイント上げる。 LLM-as-a-judgeパラダイムの根本的な弱点を明らかにし,ロバストでアタック・アウェアな評価を動機づけた。
  論文  参考訳（メタデータ） (2026-05-24T05:24:09Z)
• IatroBench: Pre-Registered Evidence of Iatrogenic Harm from AI Safety Measures [0.0]
  60の登録臨床シナリオ、6つのフロンティアモデル、3,600の応答が2つの軸(欠席障害、CH 0-3; 欠席障害、OH 0-4)で測定された。 5つのテスト可能なモデルは全て、医師により良いガイダンスを提供する。 あらゆるシナリオは、標準参照を既に使い果たした人をターゲットにしています。
  論文  参考訳（メタデータ） (2026-04-09T01:54:33Z)
• A Coin Flip for Safety: LLM Judges Fail to Reliably Measure Adversarial Robustness [57.510025257780306]
  既存の検証プロトコルは、レッドチーム固有の分散シフトを考慮できないことを示す。 我々は、より一貫して判断可能な振る舞いのベンチマークであるReliableBenchと、判断失敗を公開するために設計されたデータセットであるJiceStressTestを提案する。
  論文  参考訳（メタデータ） (2026-02-04T15:13:35Z)
• A Granular Study of Safety Pretraining under Model Abliteration [64.24346997570275]
  本稿では,リフレクションに敏感な方向を除去する軽量プロジェクション技術であるモデルアブリーブレーションについて検討する。 我々は、バランスのとれた有害かつ無害なケースで100のプロンプトを発行し、複数の判断を用いて**Refusal*または***Non-Refusal*として応答を分類し、判断の忠実さを検証する。 本研究は,データ中心の安全コンポーネントが失語中も頑健であるチェックポイントレベルの特徴付けを行う。
  論文  参考訳（メタデータ） (2025-10-03T07:01:45Z)
• Criticality and Safety Margins for Reinforcement Learning [53.10194953873209]
  我々は,定量化基盤真理とユーザにとっての明確な意義の両面から,批判的枠組みを定めようとしている。 エージェントがn連続的ランダム動作に対するポリシーから逸脱した場合の報酬の減少として真臨界を導入する。 我々はまた、真の臨界と統計的に単調な関係を持つ低オーバーヘッド計量であるプロキシ臨界の概念も導入する。
  論文  参考訳（メタデータ） (2024-09-26T21:00:45Z)

関連論文リストは本サイト内にある論文のタイトル・アブストラクトから自動的に作成しています。

指定された論文の情報です。
本サイトの運営者は本サイト（すべての情報・翻訳含む）の品質を保証せず、本サイト（すべての情報・翻訳含む）を使用して発生したあらゆる結果について一切の責任を負いません。