第14章｜14-9 変数選択｜説明変数を増やしすぎず予測力と解釈性を両立する

変数選択は、候補となる説明変数の中から、目的に必要な変数を選んで回帰モデルを構築する手順です。

NIST Dataplotは、全ての部分集合、前進ステップワイズ、後退ステップワイズを代表的な選択方法として整理しています。

1. なぜ変数を選ぶのか

変数を増やせばR²は上がりやすい一方、過学習・共線性・解釈困難が増えます。必要十分なモデルを作るために選択します。

2. 全ての部分集合回帰

候補変数の全組合せを評価する方法です。変数数が少ない場合は網羅的ですが、p個なら2^p個のモデル候補となり、変数数が増えると急増します。

3. 前進選択法

少ない変数から始め、追加したとき最も改善する変数を1つずつ入れます。一度入れた変数を原則残す方法では、後から不要になった変数を取り除けない欠点があります。

4. 後退消去法

全候補を入れたモデルから始め、寄与の小さい変数を1つずつ削除します。初期のフルモデルを推定できる十分な標本数が必要です。

5. ステップワイズ法

追加と削除を繰り返し、途中で一度入った変数も再評価します。自動化しやすい一方、データ依存が強く、わずかなデータ変更で選択結果が変わることがあります。

6. Mallows Cpなど複数指標を見る

NISTのBEST CPは、候補モデルを比較する指標としてCpを扱います。調整済みR²、AIC/BIC、予測誤差など、目的に合う指標を組み合わせます。

7. 統計的に不要でも工程上必要な変数がある

安全上重要な交絡因子や既知の物理要因を、自動選択だけで削ると誤った解釈につながります。工程知識を優先して固定変数を決める場合があります。

8. 選択後のp値を過信しない

同じデータで何度もモデルを選び、その最終モデルのp値だけを見ると不確かさを過小評価しやすくなります。可能なら検証データや交差検証で再確認します。

9. よくある質問（FAQ）

p値が大きい変数は全部削除してよいですか？

いいえ。交絡調整、階層原則、工程知識などで残すべき変数があります。

自動ステップワイズが最適ですか？

最適とは限りません。候補生成の一手段として使い、診断・検証・工程知識で確認します。

10. 一次情報・参考資料

• NIST Dataplot｜BEST CP / Variable Selection
• NIST/SEMATECH｜Linear Least Squares Regression
• 日本規格協会｜QC検定レベル表

最終確認：2026年10月1日。

11. まとめ

変数選択は、モデルを小さくすること自体ではなく、予測力・安定性・解釈性を両立するための工程です。 自動選択だけに任せず、検証と工程知識を組み合わせます。

品質管理の教科書TOP：全16章・191テーマへ戻る

執筆・最終確認：UG。NIST・JSA公開情報をもとに整理しています。

← 前：14-8｜重回帰分析 ｜ 品質管理の教科書TOP ｜ 次：14-10｜主成分分析 →