🔖 拡張キーワード索引

本セクションは カーネル主成分分析（Kernel PCA）（Kernel PCA） をジャストインタイム型に学べるよう、 12 観点で再整理した拡張索引です。 各チップは本ページ内の該当節へジャンプします。

💡 30 秒で分かる結論（拡張版）

• カーネル主成分分析（Kernel PCA）とは何か：カーネル法により高次元特徴空間で PCA を行い、 非線形構造を捉える。
• 属する分野：次元削減・非線形。 統計データ解析コンペでは特に多次元データの要約や予測の場面で頻出。
• SSDSE-B-2026 での位置づけ：47 都道府県 × 約 110 指標 × 複数年のパネルデータ。 カーネル主成分分析（Kernel PCA） は、 これら指標群を要約／予測／生成／最適化する際の基本道具。
• 最低限の実装：本ページ「🐍 Python 実装（拡張）」のコードをそのまま data/raw/SSDSE-B-2026.csv に対して実行すれば再現可能。
• 典型的なつまずき：定義の混同・スケーリング忘れ・適用条件無視・外挿・データリーク。 詳細は「⚠️ 落とし穴（拡張）」へ。
• 次に読むべきページ：主成分分析・次元削減・t-SNE。 本ページ末尾の「🔗 関連用語」リンクから移動できます。

時間が限られている方はこのブロックだけで OK。 ただし、 実務投入前には必ず「⚠️ 落とし穴」と「✅ 実務チェックリスト」を一読してください。 『知っていたが対処を忘れた』が分析事故の最大原因です。

📍 文脈ボックス — あなたが今見ているもの（拡張版）

本ページは『2026 統計・データ解析コンペティション』向けジャストインタイム用語集の カーネル主成分分析（Kernel PCA） 解説です。 想定読者は、 SSDSE-B-2026 を使った分析レポートを書こうとしている学部・修士・実務初学者層。 数式は最低限に抑え、 公的統計を題材に手を動かしながら習得できるよう設計しています。

この用語は単独で完結する概念ではなく、 上位概念・並列概念・派生概念のネットワークの一節点です。 ページ末尾の「🔗 関連用語（前提・並列・発展）」と「🌐 関連手法・派生」を併読することを強くおすすめします。

🎨 直感で掴む（拡張版）

47 都道府県を曲面に貼り付け、 平面ではなく曲がった『主成分』で要約する。 渦巻き状の分布も解ける。

カーネル主成分分析（Kernel PCA） を直感的に把握する 3 つの視点を以下に並べます。 自分の理解スタイルに合うものを選んでください。

📐 数式または定義（拡張版）

カーネル主成分分析（Kernel PCA） の中心的な定義式は次のとおりです。

$$ K_{ij}=k(\mathbf{x}_i,\mathbf{x}_j),\quad K\mathbf{\alpha}=\lambda N \mathbf{\alpha} $$

この式は、 カーネル主成分分析（Kernel PCA） の本質を最も簡潔に表現したもの。 関連分野では同じ概念が別の表記で現れることもあるため、 教科書・論文を読む際は記号定義表を必ず確認してください。

🔬 数式を言葉で読み解く（拡張版）

数式は「言葉の圧縮」。 ここでは上式の各記号を日本語に翻訳します。

同じ記号でも分野により意味が異なる点に注意。 学習の習熟度が上がると、 文脈から自然に解釈できるようになります。

🧮 実値で計算してみる — SSDSE-B-2026（拡張版）

SSDSE-B-2026（公的統計の社会・教育系データセット）を用いて、 カーネル主成分分析（Kernel PCA） を体感します。 ファイルは data/raw/SSDSE-B-2026.csv。 読み込みコードは下記です。

1
2
3
4
5
6
7
8
9

import pandas as pd
import numpy as np

# SSDSE-B-2026 を読み込む（cp932 / Shift_JIS）。最初の行は英文ヘッダー、2 行目は日本語ヘッダー
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')
print('shape:', df.shape)              # (564, 112)
print('years:', sorted(df['SSDSE-B-2026'].unique())[:5])
latest = df[df['SSDSE-B-2026'] == df['SSDSE-B-2026'].max()].copy()
print(latest[['Prefecture', 'A1101']].head())

使用列 A1101（総人口（人））を中心に、 47 都道府県の最新値で カーネル主成分分析（Kernel PCA） を計算します。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13

# 基本統計：平均・標準偏差・四分位範囲
x = latest['A1101'].astype(float).values
print(f'n = {len(x)}')
print(f'mean = {np.mean(x):,.1f}')
print(f'std  = {np.std(x, ddof=1):,.1f}')
print(f'min  = {np.min(x):,.1f}  max = {np.max(x):,.1f}')
print(f'Q1 = {np.quantile(x, 0.25):,.1f}  Q3 = {np.quantile(x, 0.75):,.1f}')

# 上位 5 県・下位 5 県
top5 = latest.nlargest(5, 'A1101')[['Prefecture', 'A1101']]
bot5 = latest.nsmallest(5, 'A1101')[['Prefecture', 'A1101']]
print('TOP5\n', top5.to_string(index=False))
print('BOTTOM5\n', bot5.to_string(index=False))

上記の結果から、 47 都道府県の 総人口（人） の散らばり方が一目で分かります。 続いて カーネル主成分分析（Kernel PCA） の本来の演算を当てはめましょう。

1
2
3
4
5
6
7
8
9

# 標準化（zスコア化）
z = (x - x.mean()) / x.std(ddof=1)
print('z (head 5) =', np.round(z[:5], 3))

# 上位 10 / 下位 10 / 中位 27 の 3 グループに分けて平均差を確認
import pandas as pd
g = pd.qcut(latest['A1101'], q=[0, 0.25, 0.75, 1.0], labels=['low', 'mid', 'high'])
grp = latest.assign(group=g).groupby('group', observed=True)['A1101'].agg(['mean', 'std', 'count'])
print(grp)

カーネル主成分分析（Kernel PCA） は、 こうした実データの集計・要約・予測・最適化を支える基盤的な道具です。 SSDSE-B-2026 の他の列（B 系：労働、 E 系：教育、 H 系：医療、 L 系：消費）にも同様に適用できます。

🐍 Python 実装（拡張版）

pandas + numpy + scipy + scikit-learn を組み合わせた カーネル主成分分析（Kernel PCA） の標準実装を 4 段階で示します。

① データ読み込みと前処理

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13

import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')
latest = df[df['SSDSE-B-2026'] == df['SSDSE-B-2026'].max()].copy()

# 欠損確認
print('NA per col (top 5):')
print(latest.isna().sum().sort_values(ascending=False).head())

# 数値列のみ抽出
num = latest.select_dtypes(include='number').drop(columns=['SSDSE-B-2026'])
print('numeric cols:', num.shape[1])

② 基本的な カーネル主成分分析（Kernel PCA） 適用

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

from sklearn.preprocessing import StandardScaler
from scipy import stats

# 標準化（カーネル主成分分析（Kernel PCA） の前処理として必須）
scaler = StandardScaler()
X = scaler.fit_transform(num[['A1101']].dropna())
print('X shape:', X.shape, 'mean:', X.mean().round(6), 'std:', X.std().round(6))

# 基本統計検定の例：単一標本平均が 0 と異なるか
t, p = stats.ttest_1samp(X.flatten(), 0)
print(f't = {t:.3f}, p = {p:.4f}')

③ 可視化

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21

import os
import inspect
import matplotlib.pyplot as plt

os.makedirs('figs', exist_ok=True)   # 保存先が無いと savefig は失敗する

fig, ax = plt.subplots(1, 2, figsize=(12, 4))
ax[0].hist(latest['A1101'].dropna(), bins=20, color='#4DB6AC', edgecolor='white')
ax[0].set_title('総人口（人） 分布（47 都道府県・最新年度）')
ax[0].set_xlabel('総人口（人）')
ax[0].set_ylabel('県数')

# 横向きの箱ひげ図。引数名が matplotlib の版で違うので、使える方を選ぶ
_p = inspect.signature(ax[1].boxplot).parameters
_horiz = {'orientation': 'horizontal'} if 'orientation' in _p else {'vert': False}
ax[1].boxplot(latest['A1101'].dropna(), **_horiz)
ax[1].set_title('総人口（人） 箱ひげ図')
ax[1].set_xlabel('総人口（人）')
plt.tight_layout()
plt.savefig('figs/kernel-pca_dist.png', dpi=140)
print('saved figs/kernel-pca_dist.png')

④ 応用：他指標との結合分析

1
2
3
4
5
6
7
8
9

# 主要指標との相関ランキング
target = 'A1101'
corr_with_target = num.corr()[target].drop(target).sort_values(key=abs, ascending=False)
print('|r| 上位 10:')
print(corr_with_target.head(10).round(3))

# 共線性チェック
high_corr = (num.corr().abs() > 0.95) & (num.corr().abs() < 1.0)
print('|r|>0.95 の組:', high_corr.sum().sum() // 2)

これら 4 段階を踏めば、 SSDSE-B-2026 の任意の列に カーネル主成分分析（Kernel PCA） を適用してレポートに使える結果を再現できます。 コードは引数や変数名を最小限にし、 初学者でも読み下せる構成にしました。

⚠️ よくある落とし穴（拡張版）

カーネル主成分分析（Kernel PCA） を実務で扱う際にハマりやすい 8 件を、 症状・原因・対策の 3 点セットで整理します。

1. 定義の混同：似た概念（順列／組合せ、 行列／配列、 SVM／SVR など）と取り違える。 対策：用語ページのリンクを順に辿り、 似て非なる定義を 1 文で書き出す。
2. 適用条件の見落とし：仮定（独立性、 正規性、 線形性、 IID など）が崩れている場面で使い、 結果が解釈不能になる。 対策：本ページ「📐 数式」直下の仮定を必ずチェック。
3. スケールの不一致：総人口（人）（数百万単位）と人口比指標（数十単位）を同じスケールで扱い、 結果が偏る。 対策：StandardScaler や MinMaxScaler を前処理に挟む。
4. 欠損の暗黙除去：pandas が黙って NA を落とすケース。 対策：df.isna().sum() を毎回確認し、 補完／除外の方針を明示。
5. 多重共線性：強相関の説明変数を複数投入し、 係数が不安定になる。 対策：VIF を確認、 PCA や正則化で対処。
6. 外挿の危険：観測範囲外で予測を信じる。 対策：訓練データの分布を超えた点では予測値に幅広い信頼区間を添える。
7. データリーク：未来情報や目的変数の関数を特徴量に混入させる。 対策：時系列なら時間順分割、 群構造があれば GroupKFold を使う。
8. 解釈の過信：カーネル主成分分析（Kernel PCA） の出力を因果関係と読み替える。 対策：『相関は因果ではない』を毎回唱える。 必要なら因果推論手法（DID, IV, RDD）を併用。

🌐 関連手法・派生（拡張版）

カーネル主成分分析（Kernel PCA） の周辺で、 一緒に学ぶと理解が深まる手法を 4 件挙げます。

• 🌐 主成分分析 — カーネル主成分分析（Kernel PCA） と密接に関連する手法
• 🌐 次元削減 — カーネル主成分分析（Kernel PCA） と密接に関連する手法
• 🌐 t-SNE — カーネル主成分分析（Kernel PCA） と密接に関連する手法
• 🌐 クラスタリング — カーネル主成分分析（Kernel PCA） と密接に関連する手法

どれも本リポジトリ内に専用ページがあります。 リンクから辿って、 概念マップを自分の頭の中に少しずつ構築してください。

🔗 関連用語（前提・並列・発展）— 拡張版

カーネル主成分分析（Kernel PCA） を読み解くための関連用語を 前提（基礎概念）／並列（同カテゴリ）／発展（応用先） の 3 区分でまとめます。

📥 前提となる用語

• 🔗 平均 — 中心傾向の最も基本的な要約
• 🔗 分散 — ばらつきの定量化
• 🔗 標準偏差 — 分散の平方根、 原データと同単位
• 🔗 確率 — 不確実性の数学的基礎
• 🔗 確率分布 — 確率の分布記述

↔️ 並列・関連の用語

• 🔗 相関 — 2 変数の線形関係
• 🔗 共分散 — 相関の規格化前の量
• 🔗 線形回帰 — 関係性のモデル化
• 🔗 仮説検定 — 統計的判断の枠組み
• 🔗 信頼区間 — 推定の不確実性

↗️ 発展・応用の用語

• 🔗 クラスタリング — 教師なし分類への発展
• 🔗 主成分分析 — 次元削減の代表
• 🔗 時系列解析 — 時間構造の取り扱い
• 🔗 因果推論 — 介入の効果評価
• 🔗 機械学習 — モデル駆動の応用

📚 関連グループ教材（拡張版）

本リポジトリには『同カテゴリの用語を横断的に学べるグループ教材』が複数あります。 カーネル主成分分析（Kernel PCA） に関連の深いものを掲示します。

• 📚 クラスタリング教材 — 教師なし学習・分類
• 📚 時系列解析教材 — 時間構造の系統的学習
• 📚 処置群・対照群教材 — 因果推論の基本設計
• 📚 対照群教材 — 比較設計の論点
• 📚 自然言語処理教材 — テキストデータ向け手法

🧪 ケーススタディ — カーネル主成分分析（Kernel PCA） を SSDSE-B-2026 で実践

想定シナリオ：データ解析コンペで「47 都道府県の総人口（人）と他指標の関連を要約せよ」という設問が出題された場合の、 カーネル主成分分析（Kernel PCA） を活用した解答プロセスを 6 ステップで示します。

合計 2-4 時間の作業で、 カーネル主成分分析（Kernel PCA） を使った 1 つの分析レポートが完成します。 慣れれば短縮可能ですが、 初心者は「⑥ 報告」を省略せず必ず行ってください。 ここを丁寧にやることが、 査読対応力を大幅に上げます。

🗺 適用判断フローチャート — カーネル主成分分析（Kernel PCA） を使うべきか

カーネル主成分分析（Kernel PCA） は万能ではなく、 適切な場面で使う必要があります。 以下のフローチャートで判定してください。

[START]
   ↓
Q1: 目的は何か？
   ├ 要約・記述  → A. 適合（カーネル主成分分析（Kernel PCA） の出番）
   ├ 予測・分類  → Q2 へ
   ├ 因果推論    → 別手法（DID/IV/RDD）を優先
   └ 生成・最適化 → Q3 へ

Q2: データ規模・型は？
   ├ n < 100, 単純構造 → A. 適合
   ├ n >= 100, 多次元    → A. 適合（前処理を強化）
   └ 画像・系列         → 深層学習系の検討を併行

Q3: 計算資源は？
   ├ ローカル CPU で OK → A. 適合
   └ GPU/分散が必要      → 適合だが実装難度↑

[END] → A の場合、 本ページの「🐍 Python 実装」へ

フローチャートで A 判定が出たら、 本ページの実装をそのまま流用できます。 別手法に分岐した場合は、 ページ末尾の「🔗 関連用語（発展）」リンクから移動してください。

🚧 よくある誤用集 — レビューで指摘される 10 パターン

カーネル主成分分析（Kernel PCA） を使ったレポートを共同作業者・査読者に見せたときに、 高確率で指摘される 10 パターンを並べます。 提出前に自分のレポートと突き合わせてください。

1. 「相関 = 因果」と書いてしまう：必ず『関連』『関係』に言い換える。
2. 有意 = 重要と混同：p < 0.05 でも効果量が小さければ実務的に無意味。
3. 外れ値を消し過ぎ：47 都道府県でいうと東京や北海道は外れ値に見えるが、 本来そのまま扱うべき場合が多い。
4. 標準化の忘れ：カーネル主成分分析（Kernel PCA） の前処理として標準化を行わず、 結果が歪む。
5. 学習・検証データのリーク：時系列なら時間順 split、 群構造なら GroupKFold。
6. 多重比較未補正：複数仮説を同時に検定して偶然有意を量産。 Bonferroni 等で補正。
7. 過学習：訓練精度のみ報告し、 汎化性能を測らない。
8. 過剰なモデル複雑性：データ規模に対して係数が多すぎる。 AIC/BIC や交差検証で適正化。
9. 仮定違反の見落とし：正規性、 等分散性、 独立性などの確認を省略。
10. 不確実性の隠蔽：点推定だけ報告し、 信頼区間や標準誤差を書かない。

10 件のうち 2-3 件は誰でもやってしまいます。 重要なのは『指摘される前に自分で潰す』姿勢です。 チェックリストを印刷して机に置いておくと事故率が激減します。

📝 報告書テンプレート — カーネル主成分分析（Kernel PCA） 結果の書き方

カーネル主成分分析（Kernel PCA） を使った分析結果を報告書・論文・スライドに載せる際のテンプレートです。 5 つの構成要素を順に埋めれば、 過不足のない記述になります。

このテンプレートを使えば、 査読プロセスでよく指摘される『方法の透明性』『限界の明示』『再現性』の 3 観点をカバーできます。

📜 歴史と背景 — カーネル主成分分析（Kernel PCA） のあゆみ

Kernel PCA は、 統計学と計算機科学の流れの中から生まれました。 下の年表はこの分野全体の流れで、 Kernel PCA 固有の年表ではありません。 この用語がどの時代の産物かを掴むために置いています。

歴史を知ると、 各手法が『なぜそのような形をしているか』が腹落ちします。 特に新手法を学ぶときは、 既存手法との関係・歴史的経緯を併せて押さえると、 表面的な暗記を超えた理解に到達できます。

✅ 実務チェックリスト — カーネル主成分分析（Kernel PCA） を使う前に確認すべき 15 項目

カーネル主成分分析（Kernel PCA） を実務・コンペで使う前に、 以下の 15 項目をすべてチェックしてください。 1 つでも未確認なら、 結果の信頼性が大きく揺らぐ可能性があります。

❓ FAQ — カーネル主成分分析（Kernel PCA） に関するよくある質問

📋 ミニ用語辞典 — カーネル主成分分析（Kernel PCA） 周辺で必ず出会う 20 語

カーネル主成分分析（Kernel PCA） を学ぶ過程で頻出する 20 の関連用語を、 1 行ずつ簡潔に定義します。 詳細はそれぞれの専用ページへリンクされています。

🎯 拡張版まとめ — カーネル主成分分析（Kernel PCA） を 1 分で復習

本ページでは カーネル主成分分析（Kernel PCA）（Kernel PCA） を 12 セクション + 拡張 8 セクションで体系的に整理しました。 ジャストインタイム学習の原則に従い、 すべての節は独立して読めるよう設計されています。 必要な節だけ拾い読みしても OK、 通読しても OK。

• 1 行要約：カーネル法により高次元特徴空間で PCA を行い、 非線形構造を捉える
• カテゴリ：次元削減・非線形
• 主要式：$$ K_{ij}=k(\mathbf{x}_i,\mathbf{x}_j),\quad K\mathbf{\alpha}=\lambda N \mathbf{\alpha} $$
• 典型データ：SSDSE-B-2026 の A1101（総人口（人））等
• 使える場面：要約・予測・最適化・生成のいずれか
• 避けるべき場面：仮定違反、 サンプル不足、 外挿、 因果主張

本ページが役に立ったら、 ページ末尾の「🔗 関連用語（前提・並列・発展）」と「📚 関連グループ教材」から次の用語に進んでください。 知識のネットワークが少しずつ広がり、 全体像が見えてきます。

🔬 深堀り — カーネル PCA の発展的論点

カーネル PCA は線形 PCA を非線形に拡張した手法。 RBF カーネル k(x, y) = exp(-γ ||x-y||²)、 多項式カーネル、 シグモイドカーネルなどが選べます。 カーネルトリックにより、 高次元特徴空間を陽に計算せずに分解可能。 ハイパーパラメータ γ の選定が結果を大きく左右します。 経験則として 1/(n_features) や中央値ヒューリスティクスから出発し、 グリッドサーチや交差検証で最適化。 47 都道府県のような小サンプルでは過学習しやすいので注意が必要です。

本セクションでは、 カーネル PCA を理解した方が次に踏み込むべき発展的論点を 5 つ取り上げます。 いずれも 2026 年現在の研究と実務の最前線で問題になっているテーマです。

これら 5 論点は、 カーネル PCA 単独の話題ではなく統計学・機械学習全般を横断するメタテーマです。 2026 年現在、 各論点について多数の研究と実装ツールが公開されており、 用語ページから関連ページへ辿ることで体系的に学べます。

🐍 発展的コード例 — カーネル PCA を SSDSE-B-2026 で複合的に使う

本ページの基礎コードを踏まえ、 カーネル PCA を複数の指標と組み合わせた発展的な分析例を示します。 すべて data/raw/SSDSE-B-2026.csv をそのまま使えます。

A. パネル構造の活用

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16

import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')

# 都道府県 × 年度のパネル化
panel = df.pivot_table(index='Prefecture', columns='SSDSE-B-2026', values='A1101')
print('panel shape:', panel.shape)
print(panel.iloc[:5, :5])

# 各都道府県の 総人口（人） の年率変化
growth = panel.pct_change(axis=1).mean(axis=1).sort_values()
print('\n増加率（下位 5 県）:')
print(growth.head())
print('\n増加率（上位 5 県）:')
print(growth.tail())

B. 多指標の同時分析

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

from sklearn.preprocessing import StandardScaler
from sklearn.decomposition import PCA

latest = df[df['SSDSE-B-2026'] == df['SSDSE-B-2026'].max()].copy()
features = latest.select_dtypes(include='number').drop(columns=['SSDSE-B-2026']).dropna(axis=1)

X = StandardScaler().fit_transform(features.values)
pca = PCA(n_components=5)
Z = pca.fit_transform(X)

print('説明率:', pca.explained_variance_ratio_.round(3))
print('累積:', pca.explained_variance_ratio_.cumsum().round(3))

# 第 1 主成分の寄与上位 10 指標
load = pd.Series(pca.components_[0], index=features.columns).sort_values(key=abs, ascending=False)
print('\nPC1 上位 10:')
print(load.head(10).round(3))

C. クラスタリングへの応用

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

from sklearn.cluster import KMeans

km = KMeans(n_clusters=4, n_init=10, random_state=0).fit(Z)
clusters = pd.Series(km.labels_, index=latest['Prefecture'].values, name='cluster')

print('クラスター別 都道府県数:')
print(clusters.value_counts().sort_index())

print('\nクラスター 0 の都道府県:')
print(clusters[clusters == 0].index.tolist())
print('\nクラスター 1 の都道府県:')
print(clusters[clusters == 1].index.tolist())

D. 結果のレポート用整形

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

# サマリー表を出力
# to_markdown() は tabulate という別のライブラリが要る（ブラウザには入っていない）ので、
# 追加ライブラリの要らない to_string() を使う
summary = pd.DataFrame({
    'metric': ['n', 'mean', 'std', 'min', 'max', 'p1', 'p99'],
    'value': [len(latest['A1101'].dropna()),
              float(latest['A1101'].mean()),
              float(latest['A1101'].std()),
              float(latest['A1101'].min()),
              float(latest['A1101'].max()),
              float(latest['A1101'].quantile(0.01)),
              float(latest['A1101'].quantile(0.99))],
})
print(summary.to_string(index=False))

A-D の 4 段階を踏むことで、 SSDSE-B-2026 を素材とした カーネル PCA の応用分析が一通り完成します。 コードはそのまま貼り付けて実行可能、 引数や変数は最小限にして可読性を優先しました。

📊 比較表 — カーネル PCA と類似手法の使い分け

カーネル PCA は単独で完結する手法ではなく、 周辺手法と比較して使い分ける必要があります。 以下に主要な類似・代替手法との比較を表でまとめます。

線形 PCA で十分なら最優先。 非線形多様体 (スイスロール、 同心円データ等) には カーネル PCA。 可視化が主目的で局所構造重視なら t-SNE / UMAP を選ぶ。

🔭 多角的視点 — カーネル PCA を 5 つのレンズで眺める

同じ概念でも、 学問分野によって呼び名・記法・強調する側面が異なります。 カーネル PCA を 5 つの分野視点から眺めることで、 各教科書・論文を読む際の翻訳力が身につきます。

同じ カーネル PCA でも、 立場により注目する論点が異なります。 自分の関心がどの視点に近いかを意識すると、 学習効率が大きく向上します。

📚 学習リソース — カーネル PCA を深掘りするための参考資料

カーネル PCA をさらに深く学ぶための、 教科書・ウェブ資料・実践書籍を 3 カテゴリで紹介します。 すべて初学者から実務家までを想定した、 日本語・英語のスタンダードな資料です。

推奨の読み方：日本語入門で全体像 → 英語標準教科書で厳密さ → 実装書で手を動かす → 論文で最先端、 の 4 段階で 1-2 年かけて到達できます。 一気に全部はできないので、 必要になった部分から少しずつ。

🛑 アンチパターン集 — カーネル PCA を使ってはいけない 5 パターン

カーネル PCA は強力な道具ですが、 不適切な場面で使うとむしろ害になります。 以下の 5 パターンに該当する場合は、 別手法を検討するか、 そもそも分析自体を見直してください。

1. サンプル数が極端に少ない：n < 10 だと、 どんな手法を使っても安定した推定は困難。 まずデータ収集の追加を検討。
2. 目的変数の定義が曖昧：『何を予測／要約したいか』が決まらないまま手を動かすと、 結果の解釈不能。 まず問題定義を 1 文で書く。
3. 因果関係を主張したい：カーネル PCA の多くは相関関係を扱う。 因果には別の枠組み（DID, IV, RDD など）が必要。
4. 未来の予測に過去のみ使う：時系列の構造を無視した予測は外挿で破綻する。 時系列専用手法を併用。
5. 公平性が要求される場面：差別的判断につながる出力を カーネル PCA で出すと法的・倫理的問題。 公平性指標と監査を組み込む。

これら 5 パターンは、 知っていれば回避可能ですが、 締切に追われると誰でも踏みやすい罠です。 共同作業者と相互チェックする習慣を持つことが防止策になります。

🎯 最終チェック — カーネル PCA を体得したかセルフテスト

本ページを読了したら、 以下のセルフテストで理解度を確認してください。 すべて『はい』と答えられれば、 SSDSE-B-2026 を使った分析レポートに カーネル PCA を自信を持って投入できます。

• ☐ カーネル PCA の定義式を、 記号の意味を説明しながら 30 秒で語れる
• ☐ 47 都道府県の 総人口（人） を題材に、 カーネル PCA の計算を Python で書ける
• ☐ カーネル PCA の主要な仮定を 3 つ以上挙げ、 SSDSE-B-2026 での確認方法を説明できる
• ☐ カーネル PCA と類似手法（少なくとも 2 つ）の使い分けを判断できる
• ☐ カーネル PCA の典型的な落とし穴を 5 つ以上挙げられる
• ☐ カーネル PCA を使った結果を、 査読者に伝わる形でレポートに書ける
• ☐ 不確実性の定量化（信頼区間・標準誤差等）を結果に併記できる
• ☐ カーネル PCA の歴史的背景を 1-2 分で語れる

不安な項目があれば、 該当セクションに戻って復習を。 ジャストインタイム学習なので、 完璧を目指すより必要に応じて戻ってくる方が効率的です。 本ページが カーネル PCA 習得のお役に立てたら幸いです。

🔭 SSDSE-B-2026 で実装する カーネル PCA — 47 都道府県データでの徹底検証

ここまでは数式と概念の説明が中心でした。 本セクションでは SSDSE-B-2026（都道府県別社会・人口統計体系） から実際の数値を読み込み、 カーネル PCA を端から端まで実行し、 結果を読み解く流れを示します。 単に「動かす」だけでなく、 「なぜその結果になるのか」「線形 PCA と何が違うのか」「カーネル選択でどう結果が変わるのか」 を 47 都道府県の具体的な値を眺めながら解説します。 これは教科書を読むだけでは身につかない実戦的な知識で、 コンペや研究現場で カーネル PCA を投入する判断力に直結します。

📥 データの読み込みと前処理 — 47 都道府県 × 複数指標

このコードでやること: SSDSE-B-2026 を読み込み、 47 都道府県 × 6 指標（総人口、 出生数、 死亡数、 婚姻件数、 離婚件数、 65歳以上人口）の行列を作成する。 各指標は単位が異なるため、 平均 0・分散 1 に標準化する。 これがカーネル PCA への入力となる。

📥 入力データ（SSDSE-B-2026 抜粋）:

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import pandas as pd
import numpy as np
from sklearn.preprocessing import StandardScaler

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')
year = df.columns[0]
latest = df[df[year] == df[year].max()]            # 最新年度の 47 都道府県
cols = ['A1101', 'A4101', 'A4200', 'A9101', 'A9201', 'A1303']
X = latest[cols].astype(float).values
scaler = StandardScaler()
X_std = scaler.fit_transform(X)
print('X_std shape :', X_std.shape)
print('X_std mean  :', np.round(X_std.mean(axis=0), 4))
print('X_std std   :', np.round(X_std.std(axis=0), 4))

📤 実行例:

💬 結果の読み方: 標準化後、 全 6 指標の平均が 0、 標準偏差が 1 になっている → スケールの違いを排除した。 ここから カーネル PCA に入る準備が整った。 もし標準化を忘れると、 総人口（数百万単位）が他を圧倒し、 主成分は事実上 総人口 だけを表現する単一指標になってしまう。

🐍 線形 PCA との比較 — まずは "違い" を可視化する

このコードでやること: 標準化済みの 47 都道府県 × 6 指標に対し、 (1) 通常の線形 PCA と (2) RBF カーネル PCA を適用し、 第 1・第 2 主成分の散布図を比較する。 線形 PCA では分離できない構造が カーネル PCA で見えるかを確認する。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13

from sklearn.decomposition import PCA, KernelPCA

pca_linear = PCA(n_components=2)
Z_linear = pca_linear.fit_transform(X_std)

pca_rbf = KernelPCA(n_components=2, kernel='rbf', gamma=0.3)
Z_rbf = pca_rbf.fit_transform(X_std)

print('線形 PCA  第1主成分の分散説明率:', round(pca_linear.explained_variance_ratio_[0], 3))
print('線形 PCA  第2主成分の分散説明率:', round(pca_linear.explained_variance_ratio_[1], 3))
print('線形 PCA  累積分散説明率(PC1+PC2):', round(pca_linear.explained_variance_ratio_[:2].sum(), 3))
print('Z_linear[:3] =', np.round(Z_linear[:3], 3))
print('Z_rbf[:3]    =', np.round(Z_rbf[:3], 3))

📤 実行例:

💬 結果の読み方: 線形 PCA では第 1 主成分だけで 98.8% の分散を説明している。 これは「6 指標がほぼ人口規模という 1 軸で説明できる」事実を反映する。 一方 カーネル PCA は カーネル空間上の固有値分解なので分散説明率という概念はそのまま使えず、 値は単位なしのスコア。 重要なのは 「2 つの空間で都道府県の並び方がどう変わるか」。 北海道（行 0）は線形では (2.40, -0.83)、 カーネルでは (0.93, 0.02)。 青森（行 1）と岩手（行 2）は線形でほぼ重なるが（差 0.05）、 カーネルでもほぼ重なる（差 0.04）→ 似た構造を持つ県は両手法で近接する、 という確認ができた。

📈 図 1: SSDSE-B-2026 を カーネル PCA で 2 次元射影した散布図

図 1 は カーネル PCA の出力 Z_rbf を散布図にしたものです。 線形 PCA と比較すると、 東京の位置がより極端に分離されている点が目を引きます。 線形 PCA は「人口規模」という 1 軸で並べるため、 東京と神奈川は第 1 主成分上で隣接しますが、 カーネル PCA は「人口あたりの婚姻率」「出生・死亡比」など複合的な非線形構造を捉えるため、 東京を別クラスタとして識別します。 これは 「東京は単に人口が多いだけでなく、 人口動態のパターン自体が他と異なる」 という、 線形手法では見落とす情報を可視化していることを意味します。 コンペでこの図を提示すれば、 「東京を特殊ケースとして別モデル化する」という説得力ある主張ができます。

📈 図 2: 第 1 主成分スコアの分布 — 都道府県をどう順位付けたか

図 2 はスコア分布のヒストグラムです。 右偏（right-skewed）が顕著で、 「平均的な県の集団」と「少数の都市県」に二極化していることが視覚的に確認できます。 この分布は標準正規分布から大きく外れるため、 もし下流タスクで「主成分スコアの z 検定で都道府県を分類」のような正規性を仮定する解析を行うと誤った結論を導きます。 カーネル PCA の出力は 非ガウス分布になりやすい という性質を、 ヒストグラム 1 枚で実感できます。 この事実は本ページ前半の「⚠️ 落とし穴」セクションで言及した内容を実データで裏付けるものです。

📈 図 3: カーネル選択による結果の違い — RBF vs Polynomial vs Sigmoid

図 3 は カーネル選択がいかに結果を左右するか を可視化しています。 同じデータでも、 RBF カーネルは [-0.3, +0.6] の範囲に圧縮、 多項式カーネル（次数 3）は [-3, +8] と広範囲、 シグモイドカーネルは中央値が約 -0.1 と他と異なる位置にきます。 これは カーネル PCA の出力スコアが カーネル関数そのものの性質に強く依存する ことを示しており、 「どのカーネルが正しいか」は理論だけでは決められない（クロスバリデーションや下流タスクの精度で評価するしかない）ことを意味します。 コンペで カーネル PCA を使う場合、 必ず複数カーネルを試し、 最終的に何を選んだかとその根拠を明記してください。 単一カーネルだけで結論を出すのは「都合のいい結果を選んだ」と疑われます。

🔢 カーネル PCA の主要パラメータと SSDSE-B-2026 での推奨値

🔬 47 都道府県スコアの完全リスト — RBF カーネル PCA（gamma=0.3）の出力

📊 結果の地理的・経済的な解釈 — 4 つのクラスタが見える

スコア一覧を眺めると、 第 1 主成分（PC1）はおおむね人口規模の大きさに沿って県を並べていることが分かります。 PC1 が高い順に見ると、 千葉（+1.023）・兵庫（+0.982）・埼玉（+0.977）・福岡（+0.960）・愛知（+0.939）・北海道（+0.932）・神奈川（+0.789）・大阪（+0.761）といった大規模県が上位を占めます。 興味深いのは、 人口が突出して多い東京（+0.565）がむしろ上位集団の内側に収まっている点です。 これは RBF カーネルの飽和特性によるもので、 東京のように他県から極端に離れた外れ値は、 ガウス型カーネルの裾（exp の指数が大きく負）で類似度がほぼ 0 に潰れ、 スコアが際限なく伸びずに頭打ちになるためです。 線形 PCA では東京が第 1 主成分で最遠点になりますが、 カーネル PCA では「非常に大きいが飽和した」位置に置かれる ── これは線形 PCA との重要な質的違いです。 一方、 秋田（-0.297）・青森（-0.303）・山形（-0.306）・岩手（-0.306）・奈良（-0.306）・大分（-0.310）など人口の少ない県は PC1 が -0.3 前後に密集し、 「小規模県クラスタ」を形成します。 このように、 単一指標（人口だけ）を見るのとは異なり、 6 指標を同時に非線形圧縮することで『規模の頭打ち』と『地方の密集』という構造を カーネル PCA が可視化してくれます。

🔬 線形 PCA との詳細比較 — 何が変わったか

⚠️ 47 都道府県データで実際に起きた「ハマりどころ」3 件

ハマりどころ 1: gamma を 1e-5 にしたら線形 PCA と同じ結果になった。 RBF カーネルは exp(-gamma * ||x - y||²) の形なので、 gamma が極小だと指数の中身がほぼ 0、 カーネル値がほぼ 1 となり、 結果として「全点が同じ場所」とみなされて主成分は退化します。 逆に gamma を 100 にすると各点が完全独立扱いとなり、 主成分は 47 個全てがほぼ同じ大きさになります。 SSDSE-B-2026 では gamma=0.1〜1.0 の範囲で意味ある構造が見えました。

ハマりどころ 2: 標準化を忘れて総人口が支配的になった。 総人口は婚姻件数・離婚件数より 2〜3 桁大きい数値です。 標準化せずに カーネル PCA に投入すると、 距離計算が事実上「総人口の差」だけになり、 主成分も総人口に強く依存します。 「カーネル PCA を使ったのに線形 PCA と結果が同じ」場合、 まず標準化を確認してください。

ハマりどころ 3: fit_transform と transform の挙動が異なる。 sklearn の KernelPCA は fit_transform(X) と fit(X).transform(X) が同じ結果を返す保証がありません（中央化処理の都合）。 必ず fit_transform を 1 回呼ぶか、 新規データへの適用時は transform を別途使い、 訓練データへの結果と区別してください。 これは scikit-learn の公式ドキュメントにも明記されている注意点ですが、 初学者が見落としやすい部分です。

🧭 カーネル PCA の選択フローチャート — いつ使うべきか

1. データに 明らかな非線形構造（円・螺旋・クラスタ等）がある → カーネル PCA を試す価値あり
2. 線形 PCA で第 1 主成分の分散説明率が 80% 以上 → 線形 PCA で十分、 カーネル化は過剰
3. 下流タスクが 分類・クラスタリング → カーネル PCA で前処理することで精度向上の可能性
4. 下流タスクが 回帰 → カーネル PCA より部分最小二乗（PLS）や カーネルリッジ回帰の方が直接的
5. サンプル数が 10,000 を超える → メモリ・計算時間の制約から ニストロム近似 や ランダム特徴量法を併用
6. 結果の 解釈性が必須（経営層への報告等） → 線形 PCA を優先、 補助的に カーネル PCA
7. 新規データ（来期分）への 頻繁な追加がある → 線形 PCA の方が運用負荷が低い

SSDSE-B-2026 は 47 行 × 6 列という小規模データなので、 カーネル PCA・線形 PCA いずれもミリ秒単位で計算が終わります。 「とりあえず両方試して結果を比較する」が最も効率的なアプローチです。 大規模データになって初めて計算量を意識すれば十分です。

🎓 演習問題 — カーネル PCA を SSDSE-B-2026 で実践する

1. SSDSE-B-2026 から 47 都道府県 × 10 指標（任意選択）を抽出し、 RBF カーネル PCA を gamma={0.01, 0.1, 1.0, 10.0} の 4 通りで実行し、 散布図を並べて比較せよ。
2. 同じデータに対し、 線形 PCA・カーネル PCA・t-SNE・UMAP の 4 手法を適用し、 結果の散布図を 2×2 でレイアウトせよ。 どの手法が最も「東京の特殊性」を強調するか考察せよ。
3. カーネル PCA の第 1 主成分スコアと、 都道府県の「合計特殊出生率」（SSDSE-B-2026 の別カラム）の相関係数を計算し、 何を意味するか考察せよ。
4. RBF カーネル PCA の fit_inverse_transform=True を使い、 再構成誤差が最大の県 3 つを特定せよ。 これらは何を意味するか（特異な構造を持つ県）議論せよ。
5. カーネル PCA で得た 2 次元スコアを使って k-means クラスタリング（k=4）を実行し、 4 クラスタが地理的にどう分布するか日本地図上で可視化せよ。

📑 レポート作成ガイド — カーネル PCA の結果をどう書くか

コンペや論文で カーネル PCA を使った結果を報告する際、 以下の 7 項目を必ず記述してください。 これらが欠けていると「再現できない」「恣意的」と判断され、 評価が下がります。

1. データソース: SSDSE-B-2026、 ダウンロード URL、 取得日
2. 前処理: 欠損値の扱い、 標準化の有無、 外れ値除去の有無
3. カーネル選択: 試した複数カーネルの一覧と最終選択の根拠
4. ハイパーパラメータ: gamma、 degree、 n_components の値と決定方法
5. 評価指標: 下流タスクの精度（分類精度、 シルエット係数等）
6. 比較対象: 線形 PCA や t-SNE 等との比較結果
7. 限界: 47 サンプルでの結論の頑健性、 新規データへの拡張可能性

🌍 産業応用事例 — カーネル PCA が現場でどう使われているか

カーネル PCA は学術的な手法に留まらず、 実産業で広く使われています。 (1) 異常検知: 工場のセンサーデータ（温度・振動・圧力）に カーネル PCA を適用し、 再構成誤差が大きいタイミングを異常として検出。 線形 PCA では捉えられない非線形な相互作用を考慮できる。 (2) 顔画像認識: 1990 年代後半の Eigenface（固有顔）に カーネル PCA を組み合わせた KernelEigenface が提案され、 表情変化への頑健性が向上。 (3) 分子設計: 化合物の分子記述子（数百次元）を カーネル PCA で低次元化し、 類似化合物の探索や物性予測に活用。 (4) 金融時系列: 株価リターンの相関構造を カーネル PCA で抽出し、 非線形なリスクファクターを発見。 SSDSE-B-2026 のような社会統計データへの応用は学術的にも比較的新しい領域です。

📖 さらなる学習リソース

• Schölkopf, B., Smola, A., & Müller, K.-R. (1998). "Nonlinear Component Analysis as a Kernel Eigenvalue Problem". Neural Computation. — カーネル PCA の原典論文。
• Bishop, C. M. (2006). "Pattern Recognition and Machine Learning". Chapter 12.3. — カーネル PCA の数式展開が丁寧。
• scikit-learn 公式ドキュメント: sklearn.decomposition.KernelPCA. — 実装の詳細と API リファレンス。
• Shawe-Taylor & Cristianini (2004). "Kernel Methods for Pattern Analysis". — カーネル法全般の教科書。
• SSDSE 公式: 都道府県別社会・人口統計体系。 独立行政法人統計センター。 — 本ページで使用したデータの取得元。

本セクションを通じて、 カーネル PCA を 「数式が分かる」段階から「SSDSE-B-2026 で実際に動かせる」段階へ進めたはずです。 次は本ページの「🔗 関連用語（前提・並列・発展）」から、 主成分分析（線形 PCA）の基礎を復習し、 t-SNE や UMAP の非線形次元削減手法へ進むのがおすすめの学習経路です。

🧮 数式に値を入れて手で計算する: RBF カーネル値

合成 2D 点で RBF カーネル K(x_i, x_j) = exp(-γ|x_i-x_j|²) を計算する。

Step 1: 距離計算

Step 2: γ 別カーネル値

🐍 Python で再現

1
2
3
4
5
6
7

import numpy as np
x1 = np.array([1, 2])
x2 = np.array([3, 4])
dist2 = ((x1 - x2)**2).sum()
for g in [0.1, 0.5, 1.0]:
    k = np.exp(-g * dist2)
    print(f"γ={g}: K={k:.4f}")

📤 実行結果

💬 手計算 (Step 2) と Python 出力が完全一致。 γ 大 → カーネル鋭く。

🌳 手法選択フロー

Kernel PCA を実際の課題に当てはめるとき、 用語固有の判断軸に沿って次の 3 段階で適切な選択を行う。

1. データが線形分離可能か? Yes → 通常の PCA、 No → 次へ
2. サンプル数 N が 1 万以下か? Yes → Kernel PCA (RBF/多項式カーネル)、 No → 次へ
3. 大規模 & 高速性が必要か? Yes → Nyström 近似 Kernel PCA / Random Fourier Features、 No → t-SNE / UMAP も検討

このフローは非線形次元削減の標準判断軸。 Kernel PCA はカーネル選択 (RBF の γ など) が結果を大きく左右するため、 交差検証 + 再構成誤差で γ を決定する。

🔗 隣接手法への橋渡し

Kernel PCA は線形 PCA をカーネル空間へ拡張する手法であり、 前段のカーネル選択・パラメータ調整と、 後段の可視化・下流分類器との接続によって有効性が決まる。

• 上流: 前段のスケール変換・カーネル選択 (線形PCA、 標準化)
• 並列: 並列の非線形次元削減 (t-SNE, UMAP, Isomap) (LLE、 Isomap、 t-SNE) と比較・併用
• 下流: 下流の可視化・分類器入力 (UMAP、 k-meansクラスタリング)

上流の標準化で各特徴のスケールを揃え (RBF カーネルは距離に強く依存)、 並列の t-SNE/UMAP と比較して局所構造の保存度を確認し、 下流の k-means/分類器に kernel-PCA 抽出済み低次元特徴を渡すことで「非線形分離可能な空間での学習」が成立する。

📖 カーネル主成分分析（Kernel PCA） 完全ガイド — 拡張解説

カーネル主成分分析（Kernel PCA）は、 通常の主成分分析（PCA）が線形変換しか扱えないという制約を、 カーネル法によって非線形に拡張した次元削減手法です。 直感的には「データを一度高次元空間に写してから、 その空間で線形の PCA を適用する」イメージですが、 カーネルトリックのおかげで高次元空間を陽に計算する必要がなく、 N×N の カーネル行列 K だけで完結します。 教育現場・実務の両面で、 線形 PCA との対比として最初に学ぶべき非線形次元削減アルゴリズムです。

この拡張解説では、 カーネル PCA を「直感」「数式」「実装」「落とし穴」「実データ実験」「比較研究」「Q&A」の 7 ステップで再構成します。 全体を読み通すと、 単に scikit-learn を呼び出して終わりにせず、 「カーネル PCA が何を最適化しているのか」「なぜ γ の選び方が結果を左右するのか」「線形 PCA・t-SNE・UMAP とどう使い分けるのか」を、 SSDSE-B-2026 の都道府県データで具体的に確認できます。

1. なぜカーネル PCA が必要なのか — 線形 PCA の限界

PCA は分散最大化方向を探す手法ですが、 探索範囲が「線形変換」に限定されているため、 円環・螺旋・三日月などの曲がった構造を含むデータを正しく分離できません。 たとえば、 47 都道府県を「平均所得 × 平均年齢」の 2 次元で見たとき、 産業構造や立地によってデータが直線ではなく曲線上に並ぶことがあり、 線形 PCA の第 1 主成分はその曲線を不正確に直線近似してしまいます。 カーネル PCA は、 RBF カーネルや多項式カーネルを使って曲線を「ほぐした」空間で PCA を行うため、 こうした非線形構造を保ったまま次元削減できます。

具体的な例として、 SSDSE-B-2026 の 総人口 (A1101)・合計特殊出生率 (A4103)・65歳以上人口 (A1303) という 3 変数を考えてみます。 これらは「東京・大阪・愛知」のような大都市と「鳥取・島根・高知」のような地方では、 単純な比例関係では結ばれていません。 大都市は人口規模が大きい一方で出生率が低く、 地方は人口が少なくても高齢化率が高いなど向きの異なる傾向を示すため、 散布図上では曲がった曲線・分岐構造を見せます。 線形 PCA はこの構造を 1 本の直線 としか捉えられませんが、 RBF カーネル PCA を使えば、 大都市クラスタと地方クラスタを 異なる主成分上に分離 することが可能です。

2. カーネル PCA の数式的背景

カーネル PCA の本質は、 入力空間の点 \( \mathbf{x}_i \) を写像 \( \phi(\mathbf{x}_i) \) によって特徴空間 \( \mathcal{F} \) に送り、 そこで通常の PCA を行うことです。 \( \mathcal{F} \) は無限次元の可能性すらある巨大な空間ですが、 内積 \( k(\mathbf{x}_i, \mathbf{x}_j) = \phi(\mathbf{x}_i)^\top \phi(\mathbf{x}_j) \) さえカーネル関数として計算できれば、 \( \phi \) を陽に書き下す必要はありません。 この性質を「カーネルトリック」と呼びます。

具体的には、 N サンプルからカーネル行列 \( K \in \mathbb{R}^{N\times N} \) を作り、 中央化（centering）操作を施して \( \tilde{K} = K - \mathbf{1}_N K - K \mathbf{1}_N + \mathbf{1}_N K \mathbf{1}_N \) を得ます (\( \mathbf{1}_N \) は全要素 \( 1/N \) の N×N 行列)。 そして固有方程式 \( \tilde{K} \mathbf{\alpha}_k = N \lambda_k \mathbf{\alpha}_k \) を解くことで、 k 番目の主成分方向に対応する係数ベクトル \( \mathbf{\alpha}_k \) と固有値 \( \lambda_k \) が得られます。 新しいデータ点 \( \mathbf{x}_\ast \) の k 番目主成分への射影は \( y_k(\mathbf{x}_\ast) = \sum_{i=1}^{N} \alpha_{k,i} \, k(\mathbf{x}_i, \mathbf{x}_\ast) \) です。

3. 代表的なカーネル関数と選び方

カーネル PCA で用いるカーネルは、 データの性質と目的に応じて選びます。 教育目的の最初の一手は RBF カーネル です。 RBF は連続値データ全般に有効で、 ハイパーパラメータが γ ひとつだけなのでチューニングしやすいという利点があります。 多項式カーネルは「特徴間の組み合わせ」を捉えたいときに、 シグモイドカーネルはニューラルネットワーク的な活性化を模倣したいときに使います。

γ の初期値選定では 中央値ヒューリスティクス が広く使われます。 「全サンプル間のユークリッド距離の中央値の 2 乗」を \( \sigma^2 \) として、 \( \gamma = 1/(2\sigma^2) \) と設定する方法です。 これは「ペア間距離の典型値」を 1 単位とみなす意味を持ち、 多くのデータセットで合理的なスタート地点になります。 SSDSE-B-2026 のような 47 サンプルの小規模データでも、 中央値ヒューリスティクスは多くの場合直感に合う結果を与えます。

4. SSDSE-B-2026 で実際に試す

このコードでやること: SSDSE-B-2026 の 総人口 (A1101)・合計特殊出生率 (A4103)・65歳以上人口 (A1303) の 3 変数に対して RBF カーネル PCA を適用し、 線形 PCA との差を可視化する。

📥 入力データ例 (SSDSE-B-2026 抜粋、 A1101=総人口〔人〕/ A4103=合計特殊出生率 / A1303=65歳以上人口〔人〕):

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

import pandas as pd
from sklearn.decomposition import PCA, KernelPCA
from sklearn.preprocessing import StandardScaler

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')
year = df.columns[0]
latest = df[df[year] == df[year].max()]          # 最新年度の 47 都道府県
cols = ['A1101', 'A4103', 'A1303']   # 総人口 / 合計特殊出生率 / 65歳以上人口
sub = latest[cols].dropna()

X = StandardScaler().fit_transform(sub.values)

pca_lin = PCA(n_components=2).fit_transform(X)
pca_rbf = KernelPCA(n_components=2, kernel='rbf', gamma=0.3).fit_transform(X)

print('線形 PCA 寄与率:', PCA(n_components=2).fit(X).explained_variance_ratio_)
print('カーネル PCA 第1座標範囲:', pca_rbf[:,0].min(), '〜', pca_rbf[:,0].max())

📤 実行例:

💬 結果の読み方: 線形 PCA では第 1 主成分が 82% の分散を説明しており、 ほぼ「規模」軸 1 本に集約される (総人口と 65歳以上人口は強く正相関)。 一方で RBF カーネル PCA は規模軸を 1 つの主成分に潰さず、 大都市 (東京・大阪) と、 高齢化や出生率の傾向が異なる地方とを別座標に分けて捉えます。

5. γ を変えると結果はどう変わるか

RBF カーネル PCA の挙動は γ に強く依存します。 γ が小さすぎると線形 PCA に近づき、 γ が大きすぎると「自分以外のすべての点との類似度がほぼ 0」になり、 個別データ点を孤立させる過学習状態になります。 γ のスケールを変えながら結果を観察するのは、 カーネル PCA を理解する最良の練習です。

6. 線形 PCA・t-SNE・UMAP との比較

カーネル PCA は非線形次元削減の代表格ですが、 t-SNE・UMAP などの近年の手法と目的が少し異なります。 大ざっぱには、 カーネル PCA は「数学的に厳密に分散最大化方向を求めたい」場面、 t-SNE/UMAP は「クラスタ構造をビジュアライズしたい」場面で選ばれます。 一方で、 カーネル PCA は新しいデータ点を一意に射影できる (out-of-sample 拡張がカーネル評価のみで可能) という大きな長所を持ちます。

7. よくある落とし穴と回避策（拡張版）

カーネル PCA はパワフルですが、 ブラックボックス化しやすく、 結果が「もっともらしく見えるが意味がない」というパターンに陥りがちです。 以下の 8 つの落とし穴は、 47 都道府県データのような小規模データで特に顕在化します。

1. γ を未指定のまま使う: scikit-learn のデフォルトは gamma=None で、 1/n_features に設定される。 だが SSDSE-B のように特徴数が 3-5 程度の場合、 これが極端に大きい値となり、 過学習を招く。 必ず中央値ヒューリスティクスから決め直すこと。
2. 標準化を忘れる: RBF カーネルはユークリッド距離ベースなので、 人口 (百万単位) と賃金 (千単位) を混ぜたまま入れると、 距離が人口だけで決まってしまう。 必ず StandardScaler をかけてから渡す。
3. 固有値を見ずに次元数を決める: 線形 PCA と同様、 eigenvalues_ を確認して累積寄与率が 80-90% を超える最小次元数を選ぶこと。 デフォルトの 2 次元では情報損失が大きすぎる場合がある。
4. 外挿を信用する: カーネル PCA は学習データの分布を超えた領域 (例: 学習に北海道-沖縄しかないのに「東京の 5 倍人口の架空県」を射影) では信頼性が低下する。 新規データは学習データの範囲内に収まる場合のみ意味を持つ。
5. 主成分の符号反転に振り回される: 固有ベクトルは符号の任意性を持つため、 ライブラリのバージョンやシード差で第 1 主成分の符号が反転することがある。 解釈の際は座標の絶対値ではなく相対位置に注目する。
6. 計算コストを軽視する: カーネル行列 K は N×N サイズで、 N=10,000 では 100,000,000 要素となる。 メモリ不足で実行できないケースが頻発する。 ナイストローム近似 (Nystroem) や Random Fourier Features への置き換えを検討する。
7. クラス分離を期待しすぎる: カーネル PCA は教師なし手法であり、 ラベル情報を使わない。 「カーネル PCA でクラスがきれいに分かれるはず」という期待は外れることが多い。 教師ありで分離したいなら LDA・カーネル LDA・SVM を使う。
8. ハイパーパラメータ依存を報告しない: 論文や報告書では γ・カーネル種類・標準化方法をすべて明記する。 これらを記さないと、 第三者が結果を再現できないため、 「カーネル PCA の結果は再現性が低い」と誤解される原因になる。

8. ハイパーパラメータ探索の実践

カーネル PCA そのものは教師なしですが、 後段に分類器・回帰器を置く場合は、 「カーネル PCA で次元削減 → 後段モデルの精度」をスコアとしてグリッドサーチが可能です。 scikit-learn では Pipeline と GridSearchCV を組み合わせて簡潔に書けます。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

import pandas as pd
from sklearn.preprocessing import StandardScaler
from sklearn.pipeline import Pipeline
from sklearn.decomposition import KernelPCA, PCA
from sklearn.linear_model import Ridge
from sklearn.model_selection import GridSearchCV, cross_val_score

# ── この抜粋だけで動くように、X（説明変数）と y（目的変数）を用意する ──
_d = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
_d = _d[_d['SSDSE-B-2026'] == 2023]
X = StandardScaler().fit_transform(
    _d[['A1101', 'A1301', 'A1303', 'A4101']].astype(float))   # 人口構成 4 変数
y = _d['L3221'].astype(float).values                           # 消費支出

pipe = Pipeline([
    ('kpca', KernelPCA(n_components=2, kernel='rbf', random_state=0)),
    ('reg', Ridge(alpha=1.0)),
])
param_grid = {
    'kpca__gamma': [0.01, 0.1, 0.3, 1.0, 3.0],
    'kpca__n_components': [2, 3, 4],
}
gs = GridSearchCV(pipe, param_grid, cv=5, scoring='r2')
gs.fit(X, y)
print('best params:', gs.best_params_)
print('best R^2:', round(gs.best_score_, 4))

# 比べる相手（線形 PCA + Ridge）も同じ条件で測る。
# 「カーネルにすると良くなる」は確かめずに言ってはいけない。
lin = cross_val_score(Pipeline([('pca', PCA(n_components=2, random_state=0)), ('reg', Ridge(alpha=1.0))]),
                      X, y, cv=5, scoring='r2').mean()
print('線形 PCA + Ridge の R^2:', round(lin, 4))

📤 実行例:

💬 結果の読み方: グリッド探索の結果は γ=3.0・成分数 2 で、 best R² は −0.596。 比較用に同じ条件で測った線形 PCA + Ridge も −0.685 で、 どちらも負（平均を答えるより悪い）である。 つまりこのデータでは、 カーネル PCA に替えても予測は良くならない。 理由は 2 つ。 (1) 47 件しかないので 5-fold の各 fold が 9〜10 件しかなく、 R² が容易に負に振れる。 (2) 人口構成 4 変数と消費支出の間に、 カーネルで拾えるほどの非線形構造がそもそも無い。 「カーネルにすれば良くなる」は、比較相手を同じ条件で測って初めて言えることで、 ここではその比較が「効果なし」を示している。 上の落とし穴で述べた「クラス分離を期待しすぎる」と同じ話が、 回帰でも起きているとみてよい。

9. プリイメージ問題 — カーネル PCA の弱点

線形 PCA は射影と逆射影 (再構成) が同じ行列の転置で簡単に書けますが、 カーネル PCA は写像 \( \phi \) の逆を陽に持たないため、 特徴空間上の点を入力空間に「戻す」ことが原則できません。 これをプリイメージ問題と呼びます。 scikit-learn の KernelPCA(fit_inverse_transform=True) はリッジ回帰で近似的なプリイメージを推定しますが、 完全な逆射影ではなく近似にとどまります。 ノイズ除去・異常検知・生成モデルとして使う際は、 この限界を理解しておく必要があります。

10. カーネル PCA を使った異常検知

プリイメージ問題があっても、 カーネル PCA は再構成誤差ベースの異常検知に応用できます。 学習データを RBF カーネル PCA で k 次元に圧縮し、 各サンプルの再構成誤差を計算。 誤差が異常に大きいサンプルを「外れ値・異常」と判定する手法です。 SSDSE-B-2026 では、 東京・大阪などの大都市が高い再構成誤差を示すことが多く、 「平均的な県とは違う構造を持つ」という意味で外れ値として検出できます。

11. Q&A — カーネル PCA の頻出疑問

Q1. 線形 PCA で十分かどうかをどう判断する？

A1. 散布図行列で「直線関係っぽい」場合は線形 PCA で十分。 曲線・分岐・複数クラスタが見えたらカーネル PCA を検討。 数値的には「線形 PCA の累積寄与率が 95% に到達する次元数」と「カーネル PCA の累積寄与率」を比較し、 後者の方が少ない次元でより高い寄与率に達するなら、 非線形構造があったと判断できる。

Q2. RBF カーネル以外を使う場面は？

A2. テキスト埋め込みなど方向性データはコサインカーネル。 特徴の交互作用を明示したいときは多項式カーネル。 ニューラルネットワーク的活性化を試したいときはシグモイドカーネル。 ただし、 ほとんどの場合 RBF を最初の選択肢にすれば十分。

Q3. サンプル数 N が大きいときの対策は？

A3. sklearn.kernel_approximation.Nystroem でカーネル行列を低ランク近似し、 線形 PCA に渡す。 これでメモリは O(N²) から O(Nm) (m は近似次元、 通常 100-1000) に下がる。 100 万行の SSDSE 全国データでも実用的に処理可能になる。

Q4. 結果の解釈はどうすればよい？

A4. 線形 PCA の主成分負荷量に相当する概念はカーネル PCA では存在しない (特徴空間が陽に書けないため)。 そこで「ある主成分の高い／低い側にどんなサンプルが集まっているか」を見ることで意味付けする。 SSDSE-B-2026 なら「第 1 主成分が大きい県は大都市、 小さい県は地方」のように、 サンプル名から逆方向に解釈する。

Q5. 教師ありで使えないの？

A5. カーネル PCA 自体は教師なしだが、 ラベル付きで使いたいときはカーネル LDA (KFDA) や Supervised PCA を選ぶ。 また、 カーネル PCA → 教師あり後段モデル (SVM・Ridge) のパイプラインも実務でよく使われる。

12. まとめ — カーネル PCA を 30 秒で振り返る

• カーネル PCA は線形 PCA をカーネル法で非線形拡張した手法
• RBF カーネル + 中央値ヒューリスティクスから始めるのが定石
• 標準化を忘れず、 グリッドサーチで γ を調整する
• SSDSE-B-2026 のような小規模データでも非線形構造が見える
• 大都市と地方の分離、 異常検知、 ノイズ除去に応用可能
• プリイメージ問題と計算コストには注意し、 大規模時はナイストローム近似を使う
• t-SNE/UMAP との使い分けは「新規データ射影」と「数学的厳密性」で判断

本ページの拡張ガイドが、 カーネル PCA を「知っている」から「使いこなす」へと進む足がかりとなれば幸いです。 関連用語ページや次元削減カテゴリのグループ教材も併せて参照してください。

📚 カーネル主成分分析（Kernel PCA） を学ぶための物語 — 詳細ナラティブ

ここでは、 カーネル主成分分析（Kernel PCA）を「歴史」「直感的な理解」「数式から実装までの橋渡し」「実務での意思決定」という 4 つの視点から、 やや長めの読み物形式で解説します。 本ページの他のセクションでは取り上げきれなかった文脈・背景・歴史的な経緯・実務上の判断基準を、 まとめて読むことで、 カーネル PCA という手法を立体的に理解できるようになります。

A. 歴史的経緯 — なぜカーネル PCA が生まれたか

主成分分析自体は 1901 年に Karl Pearson によって導入され、 1933 年に Harold Hotelling によって統計学の文脈で再定式化された、 統計分析の古典中の古典です。 100 年以上にわたり、 多変量解析の教科書には必ず登場する基本手法として君臨してきました。 しかし、 PCA はその数学的構造上「線形変換」しか扱えず、 現実のデータに含まれる非線形構造を捉えるには限界がありました。

1990 年代後半、 サポートベクターマシン（SVM）の成功とともに、 カーネル法という枠組みが機械学習コミュニティに広く認知されるようになりました。 カーネル法の核心は「内積で書ける線形手法は、 すべてカーネル化できる」という洞察にあります。 PCA は分散最大化問題として、 内積を経由した固有値問題に帰着できるため、 自然にカーネル化の対象となりました。 1998 年に Bernhard Schölkopf・Alexander Smola・Klaus-Robert Müller によって発表された論文「Nonlinear Component Analysis as a Kernel Eigenvalue Problem」が、 カーネル PCA の正式な誕生とされています。

この論文の意義は、 単に PCA に非線形性を加えただけではありません。 「カーネル関数で非線形性を表現すれば、 線形手法の数学的厳密性を保ったまま非線形問題が解ける」という、 後のカーネル法ブームを牽引する思想を、 PCA という最もシンプルな例で示したことに価値があります。 SVM・カーネル LDA・カーネル CCA・ガウス過程など、 同時代以降に発展した一連のカーネル化手法の祖先的な位置づけとして、 カーネル PCA は機械学習史に名を残しています。

B. 直感的な理解 — 紙の上で動かしてみる

カーネル PCA の動作を直感的に掴むには、 「写像 φ で点を高次元空間に持ち上げ、 そこで PCA する」という説明よりも、 「データ点同士の類似度行列を作り、 その行列を固有値分解する」という説明の方が分かりやすいかもしれません。 カーネル PCA で実際に計算しているのは N×N の カーネル行列 K だけです。 K の (i, j) 要素は、 サンプル i とサンプル j がどれだけ似ているかを 1 つの数値で表しています。

RBF カーネル \( k(x, y) = \exp(-\gamma\|x-y\|^2) \) を使う場合、 K の対角成分は常に 1 (自分自身との類似度) で、 オフ対角成分は 0 から 1 までの値を取ります。 距離が小さいペアは 1 に近く、 距離が大きいペアは 0 に近くなります。 つまり、 K は「データ点の近傍関係をすべてのペアで定量化した類似度行列」とみなせます。 線形 PCA がデータ行列 X の共分散行列を分解するのに対して、 カーネル PCA はこの類似度行列 K を分解しているのです。

SSDSE-B-2026 の 47 都道府県のデータでこれを実行すると、 K は 47×47 の対称行列になります。 東京と大阪のように特徴 (総人口・出生率・高齢者数) が似ている県は K の対応要素が 0.8 以上、 東京と鳥取のように特徴が大きく異なる県は K の要素が 0.01 以下、 といった具合に距離関係が数値化されます。 この行列を固有値分解すると、 「47 都道府県の類似度パターンを最もよく要約する軸」が第 1 固有ベクトル、 「次によく要約する軸」が第 2 固有ベクトル、 と順に得られます。

C. 数式から実装への橋渡し — 教科書の式と scikit-learn の API

カーネル PCA の数式は一見複雑ですが、 scikit-learn の API は驚くほどシンプルです。 KernelPCA(n_components=2, kernel='rbf', gamma=0.3).fit_transform(X) のたった 1 行で、 入力データ X を 2 次元のカーネル主成分座標に変換できます。 ここで、 内部的に何が起きているかを段階的に追ってみましょう。

第 1 ステップは、 入力データ X (N サンプル × d 特徴) からカーネル行列 K (N×N) を計算することです。 RBF カーネルの場合、 全サンプルペアについて \( k(x_i, x_j) = \exp(-\gamma\|x_i-x_j\|^2) \) を計算します。 scikit-learn では sklearn.metrics.pairwise.rbf_kernel(X, gamma=0.3) として直接利用できます。 計算量は O(N²d) で、 N=10,000 でも数秒で完了しますが、 N=100,000 を超えるとメモリ不足になります。

第 2 ステップは、 カーネル行列の中央化 (centering) です。 線形 PCA でデータを平均 0 に揃えるのと対応する操作で、 \( \tilde{K} = K - \mathbf{1}_N K - K \mathbf{1}_N + \mathbf{1}_N K \mathbf{1}_N \) と書けます。 ここで \( \mathbf{1}_N \) は全要素が \( 1/N \) の N×N 行列です。 中央化を忘れると主成分が「平均ベクトル方向」に引きずられて意味のない結果になるため、 必須の前処理です。 scikit-learn では KernelCenterer として実装されています。

第 3 ステップは、 中央化されたカーネル行列の固有値分解です。 \( \tilde{K} \mathbf{\alpha}_k = N \lambda_k \mathbf{\alpha}_k \) を解いて、 固有値 \( \lambda_k \) と対応する固有ベクトル \( \mathbf{\alpha}_k \) を得ます。 大きい固有値から順に k 個取れば、 それが上位 k 主成分の係数になります。 scikit-learn では scipy.linalg.eigh または scipy.sparse.linalg.eigsh を内部で使っており、 N=1,000 程度なら 1 秒以内で完了します。

第 4 ステップは、 新しいサンプル \( x_\ast \) の主成分座標への射影です。 \( y_k(x_\ast) = \sum_{i=1}^{N} \alpha_{k,i} \, k(x_i, x_\ast) \) という式で、 学習データ全 N 点と新サンプルの間のカーネル値を計算し、 係数 \( \alpha_{k,i} \) で重み付けして合算します。 つまり、 新サンプル 1 つを射影するのに O(Nd) の計算が必要で、 これは線形 PCA の O(kd) よりずっと高コストです。 大規模デプロイ時の推論レイテンシで問題になることがあります。

D. 実務での意思決定 — カーネル PCA を選ぶか別手法を選ぶか

実務でカーネル PCA を選ぶかどうかは、 以下の 6 つの問いに対する答えで決まります。 質問順に進んで、 否定的な答えが出たら別手法を検討する、 という意思決定フローとして使えます。

1. 問 1. データに非線形構造があるか？ ─ 散布図行列を描き、 直線でない関係が見えるか確認する。 直線関係なら線形 PCA で十分。 曲線・分岐・複数クラスタが見えればカーネル PCA を検討。
2. 問 2. サンプル数 N は扱える規模か？ ─ N≤10,000 ならフルカーネル PCA で問題なし。 N≥100,000 ならナイストローム近似や Random Fourier Features を使う。 N≥1,000,000 はオートエンコーダや UMAP が現実的。
3. 問 3. 新規データを射影する必要があるか？ ─ あるならカーネル PCA は強力な選択肢 (out-of-sample 拡張が容易)。 一回限りの可視化なら t-SNE/UMAP の方が美しい結果を出すことが多い。
4. 問 4. 結果の解釈が必要か？ ─ 厳密な解釈が必要なら線形 PCA (負荷量で解釈可能)。 カーネル PCA はサンプル位置からの逆方向解釈になる。 ラベルがあるならカーネル LDA も検討。
5. 問 5. ハイパーパラメータをチューニングできるか？ ─ γ・カーネル種類の調整に時間をかけられるかが鍵。 探索リソースがなければ線形 PCA か UMAP のデフォルト設定の方が安全。
6. 問 6. 後段モデルがあるか？ ─ 後段に分類器・回帰器を置くならパイプライン化してグリッドサーチが可能で、 カーネル PCA の効果が最大化される。 単独可視化用途では t-SNE/UMAP に軍配。

E. SSDSE-B-2026 を超えた応用例

本ページでは SSDSE-B-2026 の都道府県データを主な題材としていますが、 カーネル PCA は他にも幅広い分野で応用されています。 画像処理では「顔画像の固有値分解」(Kernel Eigenfaces)、 化学では「分子記述子の次元削減」、 バイオインフォマティクスでは「遺伝子発現データのクラスタ抽出」、 金融では「金利曲線の主成分抽出」など、 ドメインを問わず使われています。

特に注目すべき応用は異常検知です。 カーネル PCA の上位 k 主成分から元の入力を再構成し、 再構成誤差が大きいサンプルを「異常」と判定する手法は、 製造業の不良品検出、 ネットワーク侵入検知、 クレジットカード不正検知などで実績があります。 通常データを主成分の少数次元で表現できるという仮定に基づいているため、 通常と大きく異なる挙動のサンプルは再構成できず、 大きな誤差として検出されます。

最近では、 オートエンコーダ・変分オートエンコーダ (VAE)・拡散モデルなど、 ニューラルネットワークベースの非線形次元削減が主流になりつつあります。 これらはカーネル PCA より柔軟で大規模データに対応しやすい一方、 学習に膨大な計算資源を要し、 結果の再現性も低い傾向があります。 47 都道府県・数百サンプル規模のデータでは、 むしろカーネル PCA の方が手早く堅実な結果を返してくれます。

F. 学習の次の一歩 — このページを読んだあとに進むべき方向

カーネル PCA を一通り学んだら、 次に踏み込むべき関連トピックは大きく 3 つあります。 第 1 は他のカーネル化手法です。 カーネル LDA・カーネル CCA・カーネル Ridge 回帰・サポートベクターマシンなど、 同じ「線形手法のカーネル化」の枠組みで理解できる手法を順に学ぶことで、 カーネル法という統一的視点が身につきます。

第 2 は他の非線形次元削減手法です。 t-SNE・UMAP・Isomap・LLE (Locally Linear Embedding)・Diffusion Maps など、 カーネル PCA と並ぶ非線形次元削減アルゴリズムを比較しながら学ぶと、 「目的に応じた使い分け」ができるようになります。 これらは本ページの「🌐 関連手法・派生」リンクから個別ページに進めます。

第 3 はカーネル法の数学的基礎です。 再生核ヒルベルト空間 (RKHS)・Mercer の定理・表現定理 (Representer Theorem) など、 カーネル法を支える関数解析の知識を深めると、 「なぜカーネルトリックが成り立つのか」「どんな関数がカーネルとして使えるのか」を厳密に理解できます。 これは大学院レベルの内容ですが、 機械学習の理論研究を志す人には必須の素養です。

G. よくある実装ミスとデバッグのコツ

カーネル PCA の実装で初学者が陥りやすいミスを 5 つ挙げます。 これらはバグというより「カーネル PCA の本質を理解していれば避けられるミス」で、 デバッグの際にチェックリストとして使えます。

1. 標準化前にカーネルを計算してしまう ─ RBF カーネルはユークリッド距離ベースなので、 単位の異なる特徴 (人口 vs 出生率) を混ぜると距離が片方に支配される。 必ず StandardScaler を先に適用する。
2. カーネル行列の中央化を忘れる ─ scikit-learn の KernelPCA は内部で自動的に中央化するが、 自前実装するとよく忘れる。 中央化を忘れると第 1 主成分が「定数方向」になり、 意味のない結果になる。
3. γ をデフォルトのまま使う ─ gamma=None は 1/n_features に変換される。 特徴数が少ないデータでは大きすぎる γ となり、 過学習する。 必ず中央値ヒューリスティクスや交差検証で決め直す。
4. 固有値の符号を確認しない ─ 数値誤差で固有値がわずかに負になることがある。 上位主成分が負の固有値を持つときは数値的に不安定な兆候で、 γ を変えるかカーネルを変える必要がある。
5. テストデータを fit に含めてしまう ─ 教師あり学習との混同で、 テストデータも fit に渡すと情報リークが起きる。 必ず学習データのみで fit し、 テストデータは transform だけにする。

以上が、 カーネル主成分分析（Kernel PCA）の詳細ナラティブ拡張版です。 本セクションは通読を想定していますが、 「歴史的経緯」「直感」「数式と実装」「意思決定」「応用」「次の一歩」「デバッグ」のいずれか 1 節だけ読んでも完結するように書かれています。 必要な節だけ拾い読みしてください。

H. 補足 — カーネル PCA に関する追加の小ネタ

カーネル PCA は scikit-learn だけでなく、 R の kernlab パッケージ、 Julia の MultivariateStats.jl、 Python の pyKPCA など、 さまざまな言語・環境で実装されています。 同じカーネル・同じ γ を指定しても、 ライブラリによって主成分の符号が反転していたり、 出力の正規化方法が異なっていたりするため、 環境を移すときは結果を比較確認することをおすすめします。

また、 教科書では取り上げられにくい話題として、 「カーネル PCA とガウス過程 (Gaussian Process) の関係」があります。 ガウス過程回帰の事前分布をカーネル関数で定義したとき、 訓練データに対する事前共分散行列はカーネル PCA で用いるカーネル行列とまったく同じ構造を持ちます。 この対応関係は、 カーネル PCA を「ガウス過程的なデータ表現の主成分抽出」として再解釈する道を開いており、 ベイズ的次元削減の文脈でも研究が進んでいます。

本ページの拡張ガイドは以上で終わりです。 カーネル主成分分析（Kernel PCA）が、 単なるアルゴリズム名から「使いこなせる手法」へと変わる助けとなれば幸いです。 質問・誤り指摘・追加リクエストはリポジトリの Issue へお寄せください。

🎮 触って理解する

線形 PCA では分離できない非線形データ（同心円・三日月）に対し、 RBF カーネルのパラメータ γ をスライダーで動かしてみましょう。 カーネル空間の第 1・第 2 主成分による埋め込みがリアルタイムに変わり、 内側と外側（あるいは 2 つの三日月）が「線形に分離できる」形へと引き伸ばされる様子を体感できます。 右端のカーネル埋め込み図は、 指でなぞる／マウスで左右ドラッグしても γ を変えられます。

※ 計算方法: 各クラス 30 点（計 60 点）を生成→2 次元を標準化→RBF カーネル行列 K_ij=exp(-γ‖x_i-x_j‖²) を構築→カーネル行列を中央化→対称行列の固有値分解（Jacobi 法）→上位 2 固有ベクトルを α_k·√λ_k でスケールして埋め込み、 という scikit-learn の KernelPCA と同等の手順を JavaScript で厳密に実装しています（点数のみ軽量化）。 線形 PCA は標準化済み 2 次元データの共分散行列を解析的に固有値分解しています。

🎨 直感 — 高次元へ写像してから線形 PCA

同心円データを線形 PCA でどの向きに射影しても、 内側の輪と外側の輪は必ず重なってしまいます（②を見てください。 単なる回転なので分離しません）。 カーネル PCA は、 各点を「他のすべての点との近さ（RBF カーネル値）」からなる高次元ベクトルへと暗黙に写像し、 その高次元空間で線形 PCA を行います。 高次元では「円の内か外か」が 1 本の軸で表せるようになり、 ③の第 1 主成分だけでクラスがきれいに分かれます。 γ は「近い」と見なす距離スケールを決めるツマミで、 適切な帯に入ったとき分離度が跳ね上がります。

⚠️ よくある落とし穴

• カーネル選択 ─ RBF が万能ではありません。 データの非線形構造に合わないカーネル（例: 周期構造に線形カーネル）ではいくら調整しても分離しません。 まず RBF を基準に、 中央値ヒューリスティクスで γ の初期値を決めるのが定石です。
• γ の調整 ─ 上のスライダーで確かめられるとおり、 γ が小さすぎると全点がほぼ同じ（カーネル値≈1）で分離せず、 大きすぎると各点が孤立（対角しか残らない）して過学習気味になります。 「ちょうど良い帯」は交差検証や下流タスクの性能で選びます。
• 逆写像の困難さ ─ カーネル PCA は写像 φ が陽に分からないため、 低次元埋め込みから元の空間へ戻す「pre-image 問題」が一般に解けません。 可視化・前処理には使えても、 再構成誤差ベースの異常検知などでは近似的な逆写像アルゴリズムが必要です。
• 標準化と中央化 ─ RBF はユークリッド距離ベースなので、 スケールの異なる特徴は必ず標準化してから。 さらにカーネル行列は必ず中央化しないと第 1 主成分が「定数方向」になり無意味になります（本デモは両方実施済み）。

🚀 発展 — カーネルトリックと t-SNE / UMAP との違い

カーネルトリック: 高次元写像 φ(x) を陽に計算せず、 内積 φ(x)·φ(y) をカーネル関数 κ(x,y) だけで済ませる仕掛けです。 これにより無限次元の特徴空間（RBF は無限次元）でも n×n のカーネル行列さえ作れば線形 PCA が実行できます。 計算量が点数 n に依存する（特徴次元には依存しない）のがカーネル法の本質です。

t-SNE / UMAP との違い: カーネル PCA は固有値分解に基づく大域的・線形代数的で決定的な手法で、 新しい点を同じ変換で射影できます（out-of-sample が容易）。 一方 t-SNE / UMAP は近傍グラフ上の確率的埋め込みで、 局所構造の保持とクラスタの視認性に優れる反面、 埋め込み座標の距離や大域構造は解釈しにくく、 新点の追加も原理的に苦手です。 「線形代数で解ける非線形次元削減」がカーネル PCA、 「近傍を美しく可視化する非線形埋め込み」が t-SNE / UMAP、 と役割を分けて理解すると混乱しません。

🔗 関連ページ: 主成分分析 (PCA) ／ 次元削減 ／ 固有値 ／ 多様体学習 ／ t-SNE ／ UMAP

🧭 解説深化 ── γの決め方と「有効次元」から見るカーネルPCA

この節は追記の深掘りです。既存の解説と重複しない独自角度として、(1) γをデータから自動決定する「メディアン・ヒューリスティック」と、(2) 固有値スペクトルの「有効次元」でカーネルPCAの過剰適合を数値的に可視化する2点に絞ります。数値はすべて data/raw/SSDSE-B-2026.csv の2023年・47都道府県の実測値から Python で算出しています。

🎨 直感

線形PCAは「データ雲にまっすぐな物差しを当てる」操作でした。カーネルPCAはその物差しをゴムのように曲げて、近い点はより近く・遠い点はより遠く見えるレンズ越しに主成分を取ります。このレンズの倍率がγです。γが小さいとレンズはほぼ素通し（線形PCAに一致）、γが大きいと各点が孤立して見え、主成分は「誰が誰の隣か」という局所情報しか拾わなくなります。つまりカーネルPCAの成否はほぼ全てγという1つのつまみで決まる――ここが線形PCAには存在しない緊張点です。

⚠️ 落とし穴（重要）

落とし穴1：γを勘で決めている。 本ページ他所の実装例は説明用に gamma=0.3 等を固定していますが、実務ではデータのスケールから逆算すべきです。定番がメディアン・ヒューリスティック――標準化後の全ペア距離の中央値 m を求め、γ = 1 / (2·m²) と置く方法。SSDSE-B-2026（2023年・47都道府県／総人口・15歳未満人口・出生数・転入者数・年平均気温・着工建築物数・幼稚園数の7指標を標準化）で実測すると、ペア距離の中央値は m = 1.942、よって推奨γは γ ≈ 0.133。勘で置く 0.3 や 1.0 は、この実データでは大きすぎることがわかります。

落とし穴2：n=47では変数が「散らばりすぎ」て過剰適合する。 カーネル行列を中心化して固有値分解し、上位成分がどれだけ分散を占めるかを見ると差は歴然です（同7指標・実測）。

読み方：線形PCAはわずか2成分で97.4%を説明しきる（この7指標は本質的に低次元）。ところがRBFカーネルはγを上げるほど分散が多数の成分にばらけ、有効次元（固有値の参加率 (Σλ)²/Σλ²）が 1.9→4.6→6.7→11.8 と膨張し、90%説明に必要な成分数は 3→18 へ跳ね上がります。n=47しかないのに10成分以上必要という状態は、構造を捉えているのではなくノイズを各点ごとに暗記している過剰適合のサインです。この実データの教訓は明快――指標が線形に素直で標本が小さいSSDSE規模では、まず線形PCAで十分。カーネルPCAを持ち出すなら、円環・三日月のような明らかな非線形構造がある場合に限る（そうした構造は本ページ上部のインタラクティブ・ウィジェットで体験できます）。

📝 補足：上表はあくまで「変数の分散がどこに乗るか」の指標であり、下流タスク（分類・可視化）の良し悪しとは別物です。最終的なγは、目的タスクの交差検証スコアで選ぶのが本筋。メディアン・ヒューリスティックはその探索の出発点（初期値）として使うのが正しい位置づけです。

🚀 発展

メディアン・ヒューリスティックを再現する最小コード（実測値と一致します）。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

import pandas as pd, numpy as np
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
d  = df[df['SSDSE-B-2026'] == 2023]
cols = ['A1101','A1301','A4101','A5101','B4101','C3301','E1101']  # 総人口 ほか7指標
Z = (d[cols].astype(float) - d[cols].astype(float).mean()) / d[cols].astype(float).std(ddof=0)
D2 = ((Z.values[:,None,:] - Z.values[None,:,:])**2).sum(2)      # 全ペア二乗距離
m  = np.median(np.sqrt(D2[np.triu_indices(len(Z),1)]))         # 中央値 m = 1.942
gamma = 1.0 / (2 * m**2)                                        # γ ≈ 0.133
print(round(m,3), round(gamma,4))
# scikit-learn へ: KernelPCA(kernel='rbf', gamma=gamma) を出発点に CV でγを微調整

なぜ「中央値」なのか：ペア距離の代表スケール m に対し exp(-γ·m²) がちょうど exp(-0.5)≈0.61 になるようγを合わせる、という発想です。これで「典型的な2点の類似度が飽和（全部≈1）も消失（全部≈0）もしない」中庸の帯にカーネルが収まり、固有値スペクトルが極端に潰れも散りもしません。標準化を挟むのは、距離が単位の大きい変数（総人口は数百万オーダー）に支配されるのを防ぐため――これを怠るとγの意味そのものが崩れます。

さらに一歩：メディアン・ヒューリスティックは単一の等方性γを仮定します。変数ごとにスケールや重要度が違うなら、ARD（自動関連度決定）カーネルのように次元別バンド幅を持たせる拡張や、複数カーネルを線形結合する多重カーネル学習（MKL）が視野に入ります。ただしパラメータが増えるほど n=47 では過剰適合が加速するため、SSDSE規模では等方性γ1つ＋CVに留めるのが安全です。

🔗 関連ページ

• 主成分分析（PCA） ── まず線形で足りるかを判断する基準線。本節の「線形PCAは2成分で97.4%」の対照元。
• 次元削減 ── 有効次元・寄与率という物差しの全体像。カーネルPCAはその一手法という位置づけ。
• 多次元分析 ── 複数指標を同時に扱う際の前処理（標準化）と可視化の作法。