すべての人に一次情報を
本稿の主要な提案は、モデル出力の共分散行列を設計依存に予測する確率的エミュレータを、能動パイロットサンプリングで学習する枠組みです。共分散は行列対数で変換した相関と対数標準偏差でパラメトリゼーションされ、正定値性を保ちます。 (F1)
共分散の表現とエミュレータ 共分散行列は Σ(ξ)=D(ξ) R(ξ) D(ξ) と分解します。標準偏差は対数 ℓ(ξ)=log σ(ξ) で表し、相関は行列対数を用いる γ 表現 γ(ξ)=vecl(log R(ξ)) によってパラメータ化します。これにより M(M+1)/2 の無制約パラメータで Σ(ξ) を表現します。 (F4) 各変換成分(各 γ_i と各対数標準偏差 ℓ_m)は独立したガウス過程(GP)でモデル化されます。デモンストレーションでは定数平均とRBFカーネルを用い、ハイパーパラメータは最尤推定で設定しました。 (F5) 有限のパイロットサンプルから得られる変換観測値は加法的ガウス観測ノイズを仮定します。観測ノイズ分散は、サンプル共分散のサンプリング分布(Wishart)からのプッシュフォワード標本で推定します。 (F6) GPの事後予測(平均・分散)から得た γ と ℓ の事後分布を逆変換すると、正定値な設計特異的共分散 Σ(ξ′) の事後サンプルまたは事後平均を得られます。これを下流の近似制御変量(ACV)推定器で用いて、設計ごとの重みやサンプル配分を決めます。 (F7)
能動パイロットサンプリングとワークフロー パイロット配置には二種類の獲得関数を提案します。1) 共分散エミュレータの事後不確実性を狙う不確実性サンプリング a_us、2) 共分散不確実性に目的関数の予測平均を重み付けした mean-weighted 不確実性サンプリング a_mw です。後者は最適化により関連の深い領域にパイロットを優先します。 (F8) ワークフローは二段階です。第1段階でオフラインの能動パイロットサンプリングを実行し、局所共分散を推定してエミュレータを訓練します。第2段階で訓練済みエミュレータを固定し、下流の確率的最適化ループ内で設計特異的共分散を供給します。 (F9)
実証と主要結果 本手法は一次元の四分岐ベンチマークと、対流–拡散系におけるセンサ配置と測定時間選択を含む多忠実度ベイズ実験設計で実証されました。報告された結果は、単一忠実度モンテカルロや簡易なパイロット戦略に比べて最適化性能の改善を示します。 (F3) 四分岐ベンチマークの設定例:設計領域 Ξ=[−3,3]、Θ∼U(−6,6)、高忠実度期待目的 U_0(ξ)=E[f_0(ξ,Θ)]。参照最適点は 10^6 サンプルのMCで近似され、(ξ*, U_0(ξ*))=(0, 2.159) です。相関は領域に沿って滑らかに変化し、設計依存の共分散表面の学習が有用であることを示します。 (F11) 比較手法は次の通りです。MC-SF(高忠実度のみのMC)、ACV-γ-OPT(訓練済みエミュレータから設計特異的共分散を用いるACV)、ACV-FLAT(オフラインで得たドメイン平均共分散を用いるACV)、ACV-INDEP(各最適化クエリで独立に共分散を推定するACV)。 (F10) 例として示した実行では、能動パイロット数 N_pd=12、各パイロットでのランダム入力サンプル N_pilot=32、総予算 B=2988.2824 の設定で N_opt=40 の平均最適化反復が得られました。初期化後の反復当たり割当て予算はおおよそ、MC-SF 約74.7、ACV-γ-OPT と ACV-FLAT が64、ACV-INDEP が約73.7 でした。 (F12) 30 回試行と複数のハイパーパラメータ設定での評価では、全ての多忠実度手法が終了時点でMC-SFを上回り、最適化後悔が概ね 8×–35× 低減しました。ドメイン全体で共分散を共有する手法(ACV-FLAT と ACV-γ-OPT)は、試験した設定と予算チェックポイントで最良性能を示しました。 (F13) 振る舞いの傾向としては、ACV-FLAT が初期段階で有利なことがあり得る一方、最適化が収束する段階では局所共分散情報が重要になり ACV-γ-OPT が最大の改善を示しました。ACV-INDEP は初期に繰り返しの局所推定で苦しむが、収束近傍で競争力を高める傾向が観察されました。 (F14) また、パイロット設計点数を N_pd=6 から N_pd=12 に増やすと、示した設定下でACV系手法の平均的な後悔削減が改善しました。これは、より多くのパイロットで共分散表面を学習する価値を示しています。 (F15)
制約と注意点 本稿では、固定の計算予算をパイロット学習と目的最適化に最適に配分する一般問題は解きません。既定のパイロット予算やスケジュールが与えられた上で使うための獲得関数とエミュレータ手法を提示しています。 (F16) 共分散エミュレータは各変換成分に独立GPを用いる実用的選択で構築されています。より構造化した多出力エミュレータを用いることは可能ですが、本稿では扱っていません。 (F17) 下流のACV分散推定にエミュレータ予測を使う際、共分散エミュレータの事後不確実性を完全に伝搬してACVのハイパーパラ最適化に反映することはしていません。代わりに、高忠実度の対数標準偏差エミュレータの事後上位量(例:平均+2標準偏差)を用いて分散推定を膨らませるヒューリスティックを採用しています。完全なベイズ的伝搬は計算上現実的でないため、この近似を用いて不確実性の過小評価を防ぐ設計になっています。 (F18)
結論 提案枠組みは、設計依存の共分散表面を学習して設計特異的共分散推定を再利用できます。これにより、各設計で同じ共分散を毎回独立に推定する必要は減ります。能動学習は、共分散が不確実でかつ目的に関連する領域にパイロットを割り当てるよう設計されています。予算配分の最適化や共分散エミュレータ不確実性の完全な伝搬は今後の課題です。 (F2,F1,F16,F18)