arXiv News

すべての人に一次情報を

サイト

Aboutプライバシーポリシー利用規約

© 2026 arXiv News

arXiv News

英語日本語

言語を切り替え

英語日本語
アカウントを読み込み中…

すべての人に一次情報を

トップページに戻る
機械学習日本語公開済み

Claude Opus 5.5 は小規模ニューラルネットの重みを局所的に計算し、データセットの先入観を利用して学習内容を推測できる

2026年11月9日arXiv: 2611.08070v1

本研究では、Claude Opus 5.5 が重みファイルをテキストで受け取るだけで、5つの画像データセットに訓練された約12万5千パラメータの小規模畳み込みネットワークが何を学習したかを正確に推測できることを示した。 まず、重みを並べただけのセッションで、モデルはバッチ正規化統計量から重みが約3回の最適化ステップで停止したことを推測した。また、出力層の符号パターンから CIFAR‑10 の vehicle/animal 分類を復元し、データセット名やクラス順序を想起していた。 重要なのは、モデルが入力から出力への計算経路を追跡していない点だ。仲介層の計算サンプルや単純なトレースは検証に失敗し、直接的なフォワードパスも実行されなかった。 これらの結果は、学習済みモデルの重みを「重みフロー」ではなく「局所算術」と「データセットの先入観」によって解釈できることを示唆する。さらに、この方法が有効である条件は重みの表現形式やデータセットの分布が事前に記憶されている場合に限られる。

CIFAR‑10出力層で、7ユニットがクラス0,1,8,9を車両グループ、クラス2〜7を動物グループに分けている構図。
Figure 3. Figure 3 CIFAR‑10におけるModel 1の出力層構造。7個の隠れユニットが0–9のクラスを車両{0,1,8,9}と动物{2–7}に分離し、標準CIFAR‑10ラベル順と一致する。Ahmed, Nazmus Sakib · arXiv:2611.08070v1 · Figure 3: · CC BY 4.0

元論文

Can an LLM Actually Reason and Program about Neural Network's Weights or is it just memorization on steroids? Exploring "Weight-Space Programming"

機械学習
人工知能
arXiv で見る
Claude Opus 5.5 は小規模ニューラルネットの重みを局所的に計算し、データセットの先入観を利用して学習内容を推測できる | arXiv News