arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
ヒューマンコンピュータインタラクション日本語公開済み

AIの「記憶の負の空間」を定義。ユーザーが忘れてほしい15種の情報を分類し、実装したプロトタイプ「Fence」を示す

2026年10月21日arXiv: 2610.27607v1

主要な知見 AIは個人化のために過去のやり取りを記憶しますが、ユーザーは共有した一部の情報を保持してほしくないと考える場合がある。本研究はそのような「忘れてほしい」情報の領域を「記憶の負の空間」と呼び、従来の感度分類を超える文脈的な懸念を含むことを示した。 (F1, F2)

回想調査と分類の方法 著者らはCritical Incident Techniqueを応用した調査で、参加者に使っていたプラットフォームや利用状況を示させ、実際にAIに開示して後に忘れてほしいと感じた出来事を記述させた。募集はProlific経由で行い、条件を満たした回答から最終的に146人の参加者による179件の事例を収集した。 (F5, F6)

これらの事例を反復的に質的コーディングし、ユーザーがAIの永続メモリから除外したい情報の15カテゴリからなるタクソノミーを作成した。最終コーディングでは二名の研究者が独立にラベル付けを行い、信頼性はκ = 0.83であった。著者らは、従来のPII中心の分類や既存プラットフォーム方針に含まれない文脈的な項目も含めた点を指摘している。 (F7, F2)

Fence(ポリシー層の保護ゲート)と実装 タクソノミーを基に、著者らはFence(Filtered Entry of seNsitive Conversation to mEmory)というプロトタイプを実装した。ユーザーは保護したいカテゴリを事前に選択し、その後の会話が選択カテゴリに該当すると判定された場合、当該会話がデフォルトで永続メモリに登録されないようにする。保護は会話単位で適用され、個別の例外(オーバーライド)も可能である。 (F3)

実装上の動作と既定設定 プロトタイプはローカルでの分類(Qwen3.5-9B via Ollama)と、別途API(著者の実装ではGemini)による応答生成を組み合わせる構成である。デフォルトの保護状態は「vanishing(消失)」で、当該会話はメモリ対象から除外され、デフォルトで24時間後に消去される。ユーザーは消失期間を3日や1週間に延長できる。 (F10)

分類の自動化可能性の評価(ベンチマーク) 著者らは1,300メッセージのベンチマークを作成した。各メッセージについて3名の研究者が15カテゴリそれぞれに対して二値ラベルを付け、合計19,500の判断を得た。これらの判断の93.2%は全員一致であった。 (F11)

複数モデルで評価した結果、Gemini 3.8 Flashはbalanced accuracy = .944、recall = .944で最高を示した。GPT-5.6 Lunaも近い性能(BA = .935, recall = .931)であった。ローカルで運用可能なQwen3.5-9BはBA = .886で、報告された中では最も高いprecision(.682)を示した。いずれのモデルも、研究者間で一致がある事例で高い性能を示し、境界があいまいな分野では性能が低下した。 (F12)

ユーザー評価(小規模な実験) 著者らは15名の参加者を対象に被験者内デザインで比較実験を実施した。各参加者は既存の事後メモリ管理を想定したベースライン(C0)と、Fenceによるカテゴリ選択型の常時保護を加えた条件(C1)を順序を入れ替えて体験した。両条件は「12件の保存メモ」と「8件の過去会話」で初期化してあった。 (F8)

定量的には、参加者はC1をC0より使いやすく、記憶動作が理解しやすく、信頼できると評価した。中央値はUsabilityで5.75→6.25、Interpretabilityで3.50→4.50、Trustで3.00→4.00へ上昇し、Wilcoxon符号付順位検定(ボンフェローニ補正)でこれらの上昇は有意と報告された。精神的負荷(mental effort)の低下は明確ではなかった。 (F4, F9)

制約と注意点 ・本調査は参加者の回想に基づくため、顕著でない懸念や、後の再利用で初めて問題となるケースを見落とす可能性がある。 (F13) ・参加者は米国在住の英語話者に限られるため、文化や開示習慣の違いへの一般化には注意が必要である。 (F13) ・本研究の参加募集は「忘れてほしい経験」を持つ人を対象としているため、各カテゴリの出現頻度は一般利用での有病率を示すものではない。 (F14) ・ベンチマークの参照ラベルは3名研究者の多数決による運用的な基準であり、母集団レベルの“真の正解”を意味しない。カテゴリ境界のあいまいさがモデル性能に影響を与えたため、より広い注釈者群や利用者ベースでの検証が必要である。 (F15)

短いまとめ ユーザーがAIに「覚えてほしくない」と考える情報には文脈依存の項目が含まれる。こうした負の空間をタクソノミーとして整理し、選択されたカテゴリを恒久メモリへの登録から自動的に除外するプロトタイプ(Fence)を実装・評価することで、事後管理よりも事前のポリシー層保護が有望であることを示した。ただし回想バイアス、文化的差異、カテゴリ境界のあいまいさは留意点である。 (F1, F2, F3, F11, F12, F13, F14, F15)

元論文

What should AI forget? A design and taxonomy for negative space governance in AI memory

ヒューマンコンピュータインタラクション
arXiv で見る
AIの「記憶の負の空間」を定義。ユーザーが忘れてほしい15種の情報を分類し、実装したプロトタイプ「Fence」を示す | arXiv News