すべての人に一次情報を
本研究では、Claude Opus 5.5 が重みファイルをテキストで受け取るだけで、5つの画像データセットに訓練された約12万5千パラメータの小規模畳み込みネットワークが何を学習したかを正確に推測できることを示した。 まず、重みを並べただけのセッションで、モデルはバッチ正規化統計量から重みが約3回の最適化ステップで停止したことを推測した。また、出力層の符号パターンから CIFAR‑10 の vehicle/animal 分類を復元し、データセット名やクラス順序を想起していた。 重要なのは、モデルが入力から出力への計算経路を追跡していない点だ。仲介層の計算サンプルや単純なトレースは検証に失敗し、直接的なフォワードパスも実行されなかった。 これらの結果は、学習済みモデルの重みを「重みフロー」ではなく「局所算術」と「データセットの先入観」によって解釈できることを示唆する。さらに、この方法が有効である条件は重みの表現形式やデータセットの分布が事前に記憶されている場合に限られる。
