🔖 キーワード索引

本ページは 混合ガウスモデル（Gaussian Mixture Model）を多角的に解説します。 上のチップは、 検索・関連語の手がかりです。

「gaussian mixture」は統計データ分析の文脈で扱う重要概念のひとつ。 本ページでは「gaussian mixture」を取り巻く中核キーワードを以下にチップで一覧化する。 各キーワードは関連する概念・手法・道具立てを含み、 文献検索や学習計画の起点になる。

これらのキーワードは「gaussian mixture の理解 → 適用 → 検証」のプロセスを構成する。 各章で詳しく解説する。

🎨 直感で掴む — 具体例で理解する

K-means と GMM の比較：

例：身長・体重の散布図で、 男女別の楕円クラスタを GMM で推定。 K-means だと「身長 160cm, 体重 60kg の人は男女どちら？」が二択だが、 GMM は「男性 30%, 女性 70%」と確率で答える。

🎨 直感を深める — SSDSE-B-2026 で都道府県人口を 3 クラスタに

SSDSE-B-2026 の 2023 年 47 都道府県の総人口は、 東京（14,086,000 人）から鳥取（537,000 人）まで 26 倍以上の開きがあります。 この分布は 対数正規っぽい右裾の長い形をしており、 GMM で対数空間で混合分布を当てると「大都市・中規模・小規模」の 3 グループに自然に分かれます。

K-means だと「ハードに 3 つに分ける」だけですが、 GMM は 各県が「中規模 70%・大都市 30%」のように所属確率（負担率 γ）を返してくれます。 たとえば北海道（509 万人）は「大都市群 80%・中規模群 20%」のように 境界線の県を曖昧に扱えるのが GMM の強みです。

🎨 GMM の可視化テクニック

1 次元：ヒストグラム + ガウス密度

log10 人口のヒストグラムを描き、 上に 3 本のガウス曲線（重み付き）と その和を重ねる。 SSDSE で K=3 の場合、 5.7〜7.2 の範囲に滑らかな 3 山が見える。

2 次元：散布図 + 共分散楕円

人口 × 高齢化率の散布図に、 各クラスタの 1σ・2σ 楕円を matplotlib.patches.Ellipse で描画。 楕円の向きと大きさが共分散行列を表す。

高次元：PCA 後の 2D 散布図

PC1 × PC2 平面に投影。 元の高次元で得た GMM クラスタを 色分けして可視化。 SSDSE のような 47×100 では PC1 と PC2 で 60〜80% の分散を説明できることが多い。

境界線サンプルの強調

最大負担率 γ_max が 0.95 未満のサンプルに異なるマーカーで印を付ける。 SSDSE では静岡・茨城・滋賀・沖縄などが目立つ。

🎮 触って理解する — 混合分布が「できていく」様子を動かして見る

混合ガウスの本質は「正規分布を重み付きで足し合わせる」という 1 行に尽きます。 下のスライダーで 2〜3 個の成分の 重み π・平均 μ・標準偏差 σ を動かすと、 各成分の密度曲線（破線）とそれらを足した混合密度（黒の実線）がリアルタイムに変わります。 さらに グラフ上を左右にドラッグすると、 その位置 x での 責任度（負担率） γ_k(x) が下のバーに表示され、 「この点はどの成分から来た確率が高いか」という ソフト割当を体感できます。

👀 見どころ — 「単峰 ⇄ 多峰」の境目とソフト割当

初期状態（π = 0.5/0.5, μ = −1.5/+1.5, σ = 1/1）では山が 2 つ見えます。 μ を近づけて |μ₁−μ₂| が 2σ 以下になると山は 1 つに融合します（等重み・等 σ の場合の理論的な境目。 数値的にも間隔 2.0σ で単峰、 2.1σ で双峰になることを確認済み）。 つまり 「混合 = 多峰」とは限らない — 成分が近いと混合しても単峰のままで、 ヒストグラムを見ただけでは混合に気づけないことがあります。 これが「K の選択が難しい」ことの視覚的な理由です。

責任度バーの具体値も確認しておきましょう。 π = (0.6, 0.4)、 μ = (−1.5, +1.5)、 σ = (1, 1) のとき、 x = 0.5 では γ = (0.251, 0.749) — 位置としては成分 2 寄りですが「成分 1 の可能性も 25%」残ります。 x = 1.5（成分 2 の中心）まで動かすと γ = (0.016, 0.984) とほぼ確定します。 K-means ならどちらも「成分 2」と 0 か 1 で割り切るところを、 GMM は確率でグラデーション表現する — これが ソフト割当で、 K-means との本質的な違いです（多次元ではさらに、 共分散行列によって楕円形のクラスタも表現できます）。

⚠️ ウィジェットで体感できる落とし穴

• 特異性（σ→0 の尤度発散）：σ スライダーを最小（0.1）にすると鋭いスパイクが立ちます。 最尤推定では「1 つの成分をデータ点 1 個に密着させて σ→0」とすると、 その点での密度 N(x|μ,σ) = 1/(σ√2π) が無限大に発散し、 尤度をいくらでも大きくできてしまいます（σ = 1 なら密度の最大値は 0.399 ですが、 σ = 0.1 なら 3.99 に跳ね上がる）。 これは 意味のある解ではなく数値的な病理で、 sklearn が reg_covar で共分散に下駄を履かせるのはこのためです。
• 成分数 K の選択：成分 3 を有効にして 3 つの成分を近づけてみてください。 見た目の密度曲線は 2 成分のときとほとんど変わりません — 異なる K が「ほぼ同じ密度」を作れるため、 当てはまりの良さだけでは K を決められず、 BIC や AIC のような罰則付き基準が必要になります。
• 初期値依存・ラベルの入れ替わり：成分 1 と成分 2 の設定をそっくり入れ替えても混合密度（実線）は完全に同一です。 これは「ラベル・スイッチング」と呼ばれ、 EM がどちらの解に収束するかは初期値次第 — 複数初期値（n_init）での再実行が推奨される理由が直感できます。

🚀 発展 — このスライダーの「手動フィット」を自動化するのが EM

実データのヒストグラムに合うように π・μ・σ を手で調整する作業を想像してください。 EM アルゴリズムはまさにこれを自動化したもので、 「現在のパラメータで各点の γ を計算（E ステップ）→ γ で重み付けして π・μ・σ を更新（M ステップ）」を繰り返します。 あなたがドラッグで見ていた γ バーこそ E ステップの出力です。 そして「成分をいくつ混ぜるか」は BIC で走査して決める — 本ページ前半の SSDSE-B-2026 の実例がその流れです。 各成分の部品である正規分布そのものは正規分布のページ、 GMM のモデル全体・推定・実装の別角度からの解説は姉妹ページ GMM を参照してください。

📐 定義・数式

EM アルゴリズム：

📐 数学的深堀り — 対数尤度の最大化

GMM のパラメータ $\theta = \{\pi_k, \mu_k, \Sigma_k\}_{k=1}^K$ を求める原理は 対数尤度の最大化です：

EM は次の補助関数 $Q$（期待対数尤度）を最大化することを通じて、 元の尤度を単調に改善します：

SSDSE 都道府県人口の対数尤度の典型値：

→ K=2 から K=3 への対数尤度の改善（0.1）はわずかなのに、 パラメータが 3 個増えて BIC の罰則が 10 増えるため、 K=2 の方が選ばれます。 これが 「BIC は過剰適合を抑制する」仕組みです。

🔬 記号・要素の読み解き

🔬 数式を言葉で読み解く — GMM の各記号を SSDSE で具体化

🔬 他のクラスタリング手法との比較

SSDSE-B-2026 都道府県人口を 5 種類のクラスタリング手法に当てると、 それぞれ異なる結果になります：

SSDSE のような 少サンプル・滑らかな分布では GMM が最も素直に動きます。 DBSCAN は密度が一様でない（東京が孤立、 小規模県が密集）データに弱く、 大都市群を異常値として除外することがあります。

🛠 sklearn の GaussianMixture 詳細パラメータ

SSDSE のような小サンプル（n=47）では n_init=10, reg_covar=1e-4 あたりが安定。 多次元（D>10）に拡張するなら covariance_type='diag' でパラメータ数を減らすのが定石です。

🎲 BayesianGaussianMixture — K を自動決定するベイズ版

sklearn の BayesianGaussianMixture は GMM のベイズ版で、 Dirichlet Process（または有限 Dirichlet）に基づき K を上限内で自動的に削減します。 K を事前に決めなくて良い点が魅力。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

from sklearn.mixture import BayesianGaussianMixture

# 最大 K=10 で当てるが、 不要なコンポーネントは π → 0 に
bgmm = BayesianGaussianMixture(
    n_components=10,
    weight_concentration_prior_type='dirichlet_process',
    weight_concentration_prior=0.01,  # 小さい値で K を抑制
    random_state=0
)
bgmm.fit(X)
print('有効な K:', (bgmm.weights_ > 0.05).sum())
print('π:', bgmm.weights_.round(3))

📤 SSDSE 都道府県人口での実行結果：

→ 上限 K=10 を与えても、 ベイズ GMM は 2 コンポーネントしか活性化しません。 残りは π=0 に縮退。 これは「データを説明するのに必要なコンポーネント数」を 事後分布から自動推定した結果です。 BIC 最小と整合的（SSDSE は K=2 が適切）。

📈 GMM を密度推定として使う

GMM はクラスタリングだけでなく、 任意の連続分布の密度推定にも使えます。 SSDSE 都道府県人口の密度をプロットしてみると：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22

# ── この抜粋で使うモデルを用意します（1 次元 GMM）──
import numpy as np
import pandas as pd
from sklearn.mixture import GaussianMixture

_d = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
_x = np.log10(_d[_d['年度'] == _d['年度'].max()]['総人口']
              .values.astype(float)).reshape(-1, 1)
gmm = GaussianMixture(n_components=2, random_state=42).fit(_x)

# 評価点を 5.5 から 7.5 まで 200 点
x_eval = np.linspace(5.5, 7.5, 200).reshape(-1, 1)

# 対数密度を計算
log_dens = gmm.score_samples(x_eval)
dens = np.exp(log_dens)

# 主要 5 点での密度
for x, d in zip([5.7, 6.0, 6.3, 6.8, 7.2],
                np.exp(gmm.score_samples(
                    np.array([[5.7],[6.0],[6.3],[6.8],[7.2]])))):
    print(f'log10(人口)={x}  密度={d:.3f}')

📤 出力：

→ 密度は 3 つの山を持つ多峰分布として表現されています。 6.0（小規模群）が最も密度が高く、 7.2（東京）は端の裾に位置します。 この密度は新しいサンプル（架空の県）が「どれくらい起こりやすいか」を表します。 異常検知にもこの密度を活用できます（密度が低い = 異常）。

🔍 GMM による異常検知 — SSDSE で「異常な県」を見つける

SSDSE 都道府県人口で GMM を学習し、 各県の対数尤度を計算すると、 値が著しく低い県（密度の薄い領域）が 「異常」と判定できます：

東京と鳥取は両端の外れ値として対数尤度が低めですが、 SSDSE は 47 県すべて「都道府県」という限定された母集団なので、 真の異常検知には正常データ（数百〜数千件）の方が向きます。 SSDSE では「歴史的に類例の少ない年（コロナ前後）」のような時系列異常を検出するのに使えます。

🔗 他の確率モデルとの関係

GMM はこれらモデルの 中核となる構成要素です。 EM の手法も他のモデル（PPCA、 因子分析、 HMM）で再利用されます。

⚡ パフォーマンスと大規模データ

GMM の計算量は $O(N K D^2 T)$（$N$ サンプル、 $K$ クラスタ、 $D$ 次元、 $T$ 反復）。 SSDSE 程度（47 × 100）なら 1 秒未満ですが、 大規模化のヒント：

• D が大きい（>50）→ covariance_type='diag' でパラメータ削減
• N が大きい（>100,000）→ ミニバッチ EM や、 サブサンプリングで先に学習
• K が大きい（>20）→ BIC で打ち切るか、 BayesianGMM で自動削減
• PCA で前処理 → 高次元データは PCA で 5〜20 次元に圧縮してから GMM
• GPU 化 → 純粋な sklearn では GPU 対応なし、 大規模なら PyTorch / JAX で自前実装

SSDSE 47 サンプルでは「収束しない」「特異化する」といったトラブルが起きやすい。 n_init=20, reg_covar=1e-3, max_iter=500 あたりで余裕を持って動かすのが安全です。

📖 さらに学ぶための文献・リソース

• Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Chapter 9 「Mixture Models and EM」. GMM の数学的基礎の決定版
• Dempster, Laird, Rubin (1977). "Maximum Likelihood from Incomplete Data via the EM Algorithm". JRSS-B, 39(1). EM アルゴリズムの原典
• scikit-learn：Gaussian Mixture Models 公式ドキュメント
• scikit-learn 例：Gaussian Mixture Model Selection — BIC での K 選択の実装例
• SSDSE 公式：統計データ分析コンペティション SSDSE — 本ページの実例データ提供元
• 「パターン認識と機械学習」（Bishop 著・日本語訳）：上記 PRML の翻訳版。 章末問題まで日本語で理解可
• Murphy, K. P. (2012). Machine Learning: A Probabilistic Perspective. Chapter 11 「Mixture models and the EM algorithm」

国内では 「データサイエンスのための確率と統計」（東京大学出版会）の混合分布の節、 「scikit-learn と TensorFlow による実践機械学習」（Géron 著）第 9 章「教師なし学習」がよくまとまっています。

🎯 GMM 使い方チートシート

1
2
3
4
5
6

import pandas as pd, numpy as np
from sklearn.mixture import GaussianMixture
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
X = np.log10(df[df['年度']==2023][['総人口']].values.astype(float))
gmm = GaussianMixture(n_components=3, n_init=10, random_state=0).fit(X)
print(gmm.weights_, gmm.means_.flatten(), gmm.bic(X))

SSDSE-B-2026 47 都道府県の人口を GMM で解析することで、 「ガウス分布の混合」というシンプルな数学的対象が、 実データの構造をどう捉えるかが肌で分かります。 ぜひ手を動かしてみてください。

🔬 EM アルゴリズムと K-means の数値的な違いを「同じデータで」検証

「GMM (EM) と K-means って結局何が違うの?」という疑問は受講者から最もよく出る質問です。 ここでは SSDSE-B-2026 の同じ 2 変数データに対して K-means と GMM を当てはめ、 (a) 同じクラスタ割当になるケース、 (b) 大きく異なるケース、 (c) 各手法の境界線の形 — を数値と表で比較します。

3.1 同じ入力に対する K-means / GMM のクラスタ割当を比較

このコードでやること: SSDSE-B-2026 の 2 変数で K-means (K=2) と GMM (K=2) を学習し、 割当の一致率と境界線の形状を比較する。

📥 入力データ: Step 3 で標準化した X_std (47 × 2 行列)。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

from sklearn.cluster import KMeans
from sklearn.mixture import GaussianMixture
from sklearn.metrics import adjusted_rand_score

km = KMeans(n_clusters=2, n_init=10, random_state=42).fit(X_std)
gmm2 = GaussianMixture(n_components=2, random_state=42).fit(X_std)

agreement = adjusted_rand_score(km.labels_, gmm2.predict(X_std))
print(f"K-means vs GMM Adjusted Rand Index = {agreement:.3f}")
print(f"K-means の各クラスタ重心:\n{km.cluster_centers_.round(2)}")
print(f"GMM の各成分平均:\n{gmm2.means_.round(2)}")

📤 実行すると次の出力が得られる:

💬 SSDSE-B-2026 では「大都市 2 県 vs 地方 45 県」の差が極端なため、 K-means と GMM が完全一致 (ARI=1.000)した。 重心も小数第 2 位まで同じ。 しかし、 これは「クラスタ間距離 >> クラスタ内分散」の理想的なケース。 もっと境界が曖昧なデータ (例: 3 大都市圏の周辺県を含む) では両者は乖離する。

3.2 K-means と GMM が「大きく異なる」典型ケース

教育現場では「まず K-means で目星をつけてから、 楕円形を疑うなら GMM」というワークフローが定番です。 GMM は学習に時間がかかるので、 探索段階では K-means、 報告段階では GMM、 と使い分けると効率が良い。

3.3 EM アルゴリズムの収束を「ログ尤度の推移」で観察

EM (Expectation-Maximization) アルゴリズムは「対数尤度が必ず単調増加する」という保証された手法です。 ここでは warm_start=True + 1 イテレーションずつ回して、 ログ尤度が増加していく様子を観察します。

このコードでやること: GMM を 1 イテレーションずつ進めて、 対数尤度の収束過程を表示する。

📥 入力データ: Step 3 の X_std。

1
2
3
4
5
6
7
8
9

from sklearn.mixture import GaussianMixture

history = []
for n_iter in [1, 2, 3, 5, 10, 20, 50, 100]:
    g = GaussianMixture(n_components=2, max_iter=n_iter,
                        random_state=42, init_params='kmeans').fit(X_std)
    ll = g.score(X_std) * 47  # 47 サンプルの総対数尤度
    history.append((n_iter, ll, g.converged_))
    print(f"max_iter={n_iter:3d}: log L = {ll:7.3f}, 収束={g.converged_}")

📤 実行すると次の出力が得られる:

💬 対数尤度は単調増加 (-65.21 → -56.32) し、 5 イテレーションで収束。 SSDSE-B-2026 のような「明確に分離可能なデータ」では EM は非常に高速 (5 ステップ以下)。 一方、 クラスタ重複が大きいデータでは数十イテレーション必要なこともある。 max_iter のデフォルト 100 は実用上ほぼ十分。

🧮 数値例・実値計算

例：身長・体重データ（n=1000）に K=2 の GMM を当てはめる：

K を 1, 2, 3, 4 と変えて BIC を計算し、 最小の K を採用するのが標準手順。

🧮 実値で計算してみる — SSDSE-B-2026 都道府県人口 GMM

SSDSE-B-2026（2023 年 47 都道府県）の総人口を 10 進対数（log10）変換してから GMM を当てはめると、 BIC は次のようになります：

→ BIC は K=2 が最小（37.79）。 サンプル数 47 件と少ないので、 BIC の罰則がきつく出て「大都市 vs 非大都市」の 2 群に集約されます。 もし「大都市・中・小」の 3 群に分けたいなら、 ドメイン知識（人口集中の段階）に基づいて K=3 を選ぶ判断もあります。

K=3 で当てはめた結果：

🧮 数式に値を入れて手で計算する: GMM の混合密度

合成 2 ガウス混合 (μ=0, σ=1; μ=4, σ=1; π=0.6, 0.4) の x=2 での密度を計算する。

Step 1: 各成分の密度

Step 2: 混合密度

🐍 Python で再現

1
2
3
4
5
6
7

from scipy.stats import norm
pi = [0.6, 0.4]
mu = [0, 4]
sigma = [1, 1]
x = 2
p = sum(pi[k] * norm.pdf(x, mu[k], sigma[k]) for k in range(2))
print(f"p(x=2) = {p:.4f}")

📤 実行結果

💬 手計算 (Step 2) 0.0540 と Python 出力が完全一致。

🐍 Python 実装例

最小コードで動かしてみる例：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15

from sklearn.mixture import GaussianMixture
import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
df = df[df['年度'] == 2023].copy()
df['高齢人口'] = df['65歳以上人口']
X = df[['総人口', '高齢人口']].dropna()

# K=3 の GMM
gmm = GaussianMixture(n_components=3, random_state=0)
gmm.fit(X)
labels = gmm.predict(X)
probs = gmm.predict_proba(X)
print('混合比:', gmm.weights_)
print('BIC:', gmm.bic(X))

🐍 Python 実装 2 — SSDSE-B-2026 の人口 GMM（K=3）

🎯 このコードでやること：SSDSE-B-2026 の 2023 年 47 都道府県・総人口を log10 変換し、 K=3 の GMM で「大都市・中規模・小規模」に分類する。 各県の所属確率（負担率）まで出力する。

📥 入力データ：47 行 × 1 列（log10 総人口）

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16

import pandas as pd
import numpy as np
from sklearn.mixture import GaussianMixture

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
d23 = df[df['年度'] == 2023].copy()

X = np.log10(d23[['総人口']].values.astype(float))

gmm = GaussianMixture(n_components=3, random_state=0, n_init=5)
gmm.fit(X)

print('混合比 π:', gmm.weights_.round(3))
print('平均 μ (log10):', gmm.means_.flatten().round(3))
print('平均 (人換算):', (10**gmm.means_.flatten()).astype(int))
print('BIC:', round(gmm.bic(X), 2))

📤 実行すると次の出力が得られる：

💬 結果の読み方：3 つのクラスタが 970 K 人 / 1,912 K 人 / 6,856 K 人の中心を持つことが確認できました。 混合比から、 小規模群が全体の 45%、 中規模群が 34%、 大都市群が 21% を占めると分かります。 BIC=47.92 は K=2（37.79）より大きいので、 統計的には K=2 が選ばれますが、 ドメイン上 3 群分類の方が解釈しやすい場合は K=3 を採用します。

🐍 Python 実装 3 — 各都道府県の所属確率（負担率 γ）

🎯 このコードでやること：各県がどのクラスタにどの程度属するか、 3 つの確率（γ）を出力する。 境界線の県（北海道、 静岡、 福岡など）を見つける。

📥 入力データ：上と同じ log10 人口（47 行）

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

labels = gmm.predict(X)             # ハードな割り当て
gamma = gmm.predict_proba(X)      # ソフトな所属確率

d23['cluster'] = labels
d23['γ_大都市'] = gamma[:, 1].round(2)  # 大都市群の負担率
d23['γ_中規模'] = gamma[:, 2].round(2)
d23['γ_小規模'] = gamma[:, 0].round(2)

# 境界線県（最大 γ が 0.95 未満）
boundary = d23[gamma.max(axis=1) < 0.95]
print(boundary[['都道府県','総人口','γ_大都市','γ_中規模','γ_小規模']])

📤 実行すると次の出力が得られる：

💬 結果の読み方：静岡県は「大都市群 62%・中規模群 38%」と判定され、 大都市の入り口に位置していると解釈できます。 同様に滋賀県は「中規模 74%・小規模 26%」と境界。 K-means なら強制的に 1 つのクラスタに振り分けますが、 GMM は このような曖昧な所属を確率で表現できる点が実務上の強みです。

🐍 Python 実装 4 — BIC で K を自動選択

🎯 このコードでやること：K=1 〜 6 で SSDSE-B-2026 都道府県人口の GMM を当てはめ、 BIC と AIC を表示。 最小 BIC を取る K を 客観的に選ぶ。

📥 入力データ：47 都道府県 × log10 総人口

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

import pandas as pd
import numpy as np
from sklearn.mixture import GaussianMixture

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
X = np.log10(df[df['年度']==2023][['総人口']].values.astype(float))

print(f'{"K":>3}  {"BIC":>7}  {"AIC":>7}')
for k in range(1, 7):
    g = GaussianMixture(n_components=k, random_state=0, n_init=5)
    g.fit(X)
    print(f'{k:3}  {g.bic(X):7.2f}  {g.aic(X):7.2f}')

📤 実行すると次の出力が得られる：

💬 結果の読み方：BIC は K=2 で 37.79 と最小。 これは「47 都道府県の人口分布は本質的に 大都市群 vs それ以外の 2 山構造」と数学的に判定されたことを意味します。 AIC も K=2 が最小（28.54）。 ただし AIC は K=3 でも 33.12 とそれほど悪くないので、 ドメイン上 3 群が望ましければ K=3 を採用する余地もあります。 BIC は罰則項 $\ln(N) \cdot p$（$N$=サンプル数、 $p$=パラメータ数）が AIC より厳しいため、 サンプル小（47）では特に K を抑える方向に働きます。

⚙️ EM アルゴリズムの動作 — 反復ごとに何が起きるか

EM は 「鶏が先か卵が先か」を交互に解く反復法です。 SSDSE 都道府県人口で 3 クラスタを当てはめる例：

→ log-likelihood が単調に増加するのが EM の数学的保証です（極大値に向かう）。 たいてい 10〜20 反復で収束し、 改善が tol=1e-3 未満になったら停止。 初期値依存性があるので n_init=5（5 つの初期値から最良を取る）を指定するのが安全です。

M ステップは「γ で重み付けた平均と分散を計算する」だけ。 K-means の M ステップ（最近傍に振り分けて平均）の確率版と理解できます。

⚖️ GMM vs K-means の深掘り比較

理論的には GMM の共分散を $\sigma^2 I$（球状）に固定し、 $\pi_k = 1/K$ にして、 各点を最大 γ のクラスタに割り当てると K-means と一致します。 K-means は GMM の特殊ケースです。

🎚 共分散タイプの選択（covariance_type）

sklearn の GaussianMixture は covariance_type 引数で 4 種類の共分散構造を選べます：

SSDSE 都道府県人口（1 次元）では full, tied, diag, spherical はほぼ同じ結果になります（D=1 では共分散行列が単なるスカラー）。 多次元データ（例：総人口 × 高齢化率 × 年少人口比率 の 3 列）では選択で結果が大きく変わるので、 BIC で比較しましょう。

💼 GMM の実応用例

1. 画像セグメンテーション（背景 vs 前景）

画像の RGB ヒストグラムを GMM で 2 群に分けると、 各ピクセルが「背景」「前景」に属する確率を出せます。 OpenCV の cv2.createBackgroundSubtractorMOG2 は内部で GMM を使っています。

2. 異常検知

正常データで GMM を学習し、 新規データの 対数尤度が閾値以下なら異常と判定。 「正常な振る舞いを混合分布で近似」する手法。 ネットワーク侵入検知、 製造業の品質管理で使われます。

3. 話者識別（音声）

各話者の MFCC 特徴量を GMM で表現し、 入力音声が どの話者の GMM に最も尤度が高いかで識別。 1990 年代の話者認識の標準手法でした（現在はディープラーニングに置き換わっている）。

4. 顧客セグメンテーション

RFM 分析（Recency, Frequency, Monetary）を GMM でクラスタリングすると、 「高頻度・高単価」「低頻度・高単価」のような 顧客層を確率的に表現できます。 マーケティング施策に活用。

5. 確率密度推定

GMM は 任意の連続分布を近似できる（K を増やせばどんな密度でも表現可）。 ヒストグラムや KDE の代替として、 滑らかで解釈しやすい密度推定が得られます。 SSDSE の人口分布なら K=3 の GMM がうまくフィットします。

⚠️ よくある落とし穴

⚠️ さらなる落とし穴 — GMM の実務的注意点

❓ よくある質問 FAQ

🌐 関連手法・派生

• K-means：GMM の特殊ケース（球状・等重み）
• DBSCAN：密度ベース、 形状自由
• HDBSCAN：DBSCAN の階層版
• VAE：深層生成モデル（GMM の発展形）
• カーネル密度推定：ノンパラメトリック版
• Dirichlet Process Mixture：K を自動決定するベイズ版

🔗 関連用語

🔗 関連用語（前提・並列・発展）

📌 前提となる用語

📌 並列・対比される用語

📌 発展・応用される用語

📝 章末まとめ

• GMM は「正規分布の重み付き混合」でデータの密度を表現する確率モデル
• パラメータ $(\pi_k, \mu_k, \Sigma_k)$ は EM アルゴリズムで反復推定
• K-means は GMM の特殊ケース（球状共分散、 ハード割り当て、 等混合比）
• SSDSE-B-2026 都道府県人口（log10）で K=3 を当てると 大都市群 / 中規模群 / 小規模群に分かれる
• K の選択は BIC / AIC。 BIC の方が罰則がきつく K を小さくしやすい
• 境界線サンプルの所属確率（負担率 γ）が分かるのが K-means にはない強み
• 落とし穴：対数変換忘れ、 スケーリング忘れ、 初期値依存、 特異共分散、 解釈の罠

「正規分布の混ぜ合わせ」という単純なアイデアから、 密度推定・クラスタリング・異常検知の 3 役を 1 つの数学的フレームで扱えるのが GMM の美しさです。

🪜 ステップバイステップ — SSDSE-B-2026 で GMM 解析の完全フロー

SSDSE-B-2026 を題材に、 GMM 解析の 典型的な 7 ステップを見ていきます。 これを 1 度自分の手で動かせば、 GMM の威力と限界が体感できます。

ステップ 1：データ準備（前提：log 変換）

SSDSE 総人口は右裾の長い分布。 log10 を取ると東京（10^7.15）から鳥取（10^5.73）まで 1.4 程度のスケールに収まり、 ガウス分布の混合として扱いやすくなります。

ステップ 2：K の候補を BIC で探索

K=1〜6 で BIC を計算。 SSDSE では K=2（37.79）が最小。 ただし「大都市・中規模・小規模」と 3 群に分けたいという ドメイン要請がある場合は K=3 も検討。

ステップ 3：共分散タイプの選択

1 次元データなので covariance_type はどれでも同じ。 多次元なら full から始め、 過学習なら diag や tied に下げる。

ステップ 4：初期値の頑健化（n_init=10）

EM は局所最適に陥るので n_init=10 で 10 セットの初期値から最良解を選ぶ。 SSDSE 規模なら 1 秒未満で完了。

ステップ 5：負担率 γ を確認

gmm.predict_proba(X) で各県の所属確率を出力。 最大 γ が 0.95 未満の県を 「境界線県」として注目すると、 SSDSE では静岡・茨城・滋賀・沖縄などが該当。

ステップ 6：解釈とラベル付け

クラスタ番号（0, 1, 2）には意味がない。 gmm.means_ を見て「最大平均 = 大都市」「最小平均 = 小規模」のように 人間が解釈可能なラベルを付ける。 これを忘れると後の図表が混乱する。

ステップ 7：可視化と検証

log10 人口のヒストグラムに 3 つのガウス密度を重ねてプロット。 fit がデータをよく説明しているか目視確認。 BIC や対数尤度だけでなく 視覚的なフィットもチェックする。

📊 SSDSE GMM 全 47 都道府県の負担率テーブル

K=3 GMM を当てた結果、 47 都道府県を 所属確率の最大値で分類すると次のようになります（人口降順）：

→ 静岡県・滋賀県が最も境界線にいることが分かります。 静岡は人口 355 万人と大都市群（東京〜北海道）に近いものの、 平均 686 万人にはまだ届かないので γ=0.62。 滋賀県は中規模と小規模の中間で γ=0.74。 こうした 所属確率の解釈が GMM の付加価値です。

🧊 多次元 GMM への拡張

SSDSE-B-2026 には人口以外にも多くの列があります。 2 次元・3 次元での GMMを試すと、 「大都市は人口も大きく若年層も多いが、 高齢化率は低い」のような 多変量の構造が見えてきます。

SSDSE のような 47 サンプル × 100 次元は次元の呪い直行。 多次元 GMM を当てる前に PCA で 2〜5 次元に圧縮するのが現実的です。

📚 関連グループ教材

この用語の全体像を学ぶには、 まず横断的な教材で文脈を掴むのが効率的です：

• 📚 教師なし学習 — クラスタリング・密度推定

📚 ケーススタディ — SSDSE-B-2026 で深掘り 3 例

ケース 1：人口減少県と増加県の分離

SSDSE-B-2026 の 2023 年人口を基準に、 過去 10 年（2013 → 2023）の 人口変化率を計算し、 GMM で「減少県・横ばい県・増加県」の 3 群に分けることを考えます。

GMM は人口減少の 程度を確率的に表現するため、 「秋田は減少群 95%・横ばい群 5%」のように 政策判断に使える曖昧さを残せます。

ケース 2：県別出生率の混合分布

SSDSE の「出生数 / 総人口」で粗出生率を計算し、 GMM で 2 群に分けると、 「沖縄を含む高出生率群」「本州中心の低出生率群」の 2 山構造が浮かびます。 沖縄は古くから出生率が高く、 これが単独で 1 つの山を作ります。

ケース 3：多変量で「県のタイプ」を抽出

SSDSE の 総人口・高齢人口・年少人口・出生数・消費支出 の 5 変数を標準化して GMM（K=4）を当てると、 次の 4 タイプが見えてきます：

→ こうした 多変量での自然なグループ化は GMM の真骨頂です。 各タイプに政策パッケージを当てる、 など実用的な議論に発展できます。

🎓 やってみよう — SSDSE 練習問題

これら 5 問を全て解けば、 GMM の 「K 選択」「クラスタ解釈」「共分散選択」「ベイズ化」「生成」という 5 つの主要機能を一通り体験できます。

🗺 概念マップ — GMM を中心とした学習ツリー

GMM は 「正規分布 + 潜在変数 + EM」の組合せで、 統計と機械学習をつなぐ重要概念です。 ここを理解すると、 隠れマルコフモデル（HMM）、 変分推論、 深層生成モデル（VAE, GAN）への道が拓けます。

🔗 隣接手法への橋渡し

「ガウス混合モデル」は単独で完結する手法ではなく、 隣接領域と連携することで真価を発揮する。

• 上流: 入力データの前処理・整備 — 確率分布 ・ 最尤推定
• 並列: 類似目的を持つ代替手法 — k-means クラスタリング ・ 階層クラスタリング
• 下流: 出力結果の評価・解釈 — EM アルゴリズム (Dempster 1977) ・ BIC による混合数 K の選択 ・ ディリクレ過程 GMM (ベイズ・ノンパラメトリック)

上流の k-means で粗いクラスタを得てからガウス混合で確率的帰属に拡張し、 並列の DBSCAN・階層クラスタリングと結果を比較し、 下流の BIC・対数尤度で混合成分数 K を決定する。 これにより「形状を仮定しない手法 vs 楕円ガウス仮定」の使い分けが明確になる。

🌳 手法選択フロー

「ガウス混合モデル」を扱う際の手法選択は、 状況に応じて以下のフローで判断すると迷いが減る。

1. Step 1: 目的は記述か予測か?
   • 記述 (現状把握・要約) → 集計・可視化・要約統計量で全体像を掴む
   • 予測 (未知データへの推定) → モデル構築・検証フェーズへ移行
2. Step 2: データの種類・規模は?
   • 数値データ・小〜中規模 → 「ガウス混合モデル」やその拡張手法を直接適用
   • カテゴリデータ → カテゴリ専用の手法 — 潜在クラス分析 (LCA) を組み合わせ
   • 大規模・高次元 → 計算効率を考慮した派生手法 — 変分ベイズ GMM を選択
3. Step 3: 結果の解釈・共有は?
   • 専門家向け → 数値指標・統計検定で精緻に評価
   • 非専門家向け → 可視化・自然言語での要約を重視

このフローに沿って判断することで、 「ガウス混合モデル」を中核とした適切な手法選択ができる。

🔭 解説深化 — GMM を「分布のかたちの物差し」として年次比較に使う

ここまで本ページは 2023 年の断面データに GMM を当てる話が中心でした。 この章では視点を変えて、 GMM を「クラスタ分けの道具」ではなく 「分布のかたちを数値で写し取る物差し」として使います。 同じ指標を 2 時点で fit すれば、 パラメータ $(\pi_k, \mu_k, \sigma_k)$ の差がそのまま「分布がどう動いたか」の要約になる — これが年次比較という独自の使い方です。

🎨 直感 — 2012 年と 2023 年の高齢化率を「同じ物差し」で測る

SSDSE-B-2026（encoding='cp932', skiprows=[1]）から 高齢化率 = 65歳以上人口(A1303) ÷ 総人口(A1101) × 100 を計算し、 2012 年と 2023 年の 47 都道府県で比較します（以下すべて実測値）：

平均で約 6 ポイント上昇し、 ばらつき（標準偏差）も広がりました。 ここに各年独立に K=2 の GMM（random_state=0, n_init=10）を当て、 平均の小さい成分を「低位（若い側）」と呼ぶと：

2 つの fit を並べるだけで「低位グループ自体が 3 ポイント以上高齢化し（μ: 23.85→27.06）、 しかも痩せた（π: 0.43→0.21、 14 県→9 県）」と読めます。 実際、 2012 年に低位側だった宮城・茨城・栃木・京都・兵庫の 5 県が 2023 年には高位側へ移りました（2023 年の低位側は埼玉・千葉・東京・神奈川・愛知・滋賀・大阪・福岡・沖縄の 9 県）。 単一の平均値の比較では見えない「グループ構造ごとの移動」が GMM のパラメータ差として言語化できる — これが物差しとしての GMM です。

⚠️ 落とし穴（重要）— この使い方に固有の 3 つの罠

🚀 発展 — 2 時点比較から先へ

• 全 12 年への拡張：SSDSE-B-2026 は 2012〜2023 年のパネルなので、 各年に fit して $(\pi_k, \mu_k, \sigma_k)$ の 軌跡を折れ線で描けば「混合構造の時間発展」が一枚の図になる。 県ごとの所属の時間変化まで確率的にモデル化したくなったら、 潜在状態の遷移を持つ隠れマルコフモデル（HMM）の出番（GMM は HMM の「遷移なし版」に相当）。
• シフト量の 1 数値化：2 時点の推定済み混合分布どうしの距離（KL ダイバージェンスや Wasserstein 距離など）を計算すれば、 「分布がどれだけ動いたか」を単一の指標にできる。 混合ガウスどうしの KL は閉形式がなく、 モンテカルロ近似（gmm.sample() を利用）で計算するのが定石。
• 共変量つきの混合へ：「高齢化率の分布」ではなく「高齢化率を説明する回帰式が県のタイプごとに違う」と考えるなら、 回帰係数ごと混合する mixture regression（Mixture-of-Experts の統計版）。 カテゴリ変数主体なら潜在クラス分析（LCA）が対応物。
• K の不確実性ごと扱う：本文で紹介した BayesianGaussianMixture（変分ベイズ）を各年に使えば、 「その年に実質何成分あったか」の変化自体を追跡できる。

🔗 関連ページ

• EM アルゴリズム — GMM のパラメータ推定エンジン。 局所解・初期値依存の理屈はこちら
• BIC — 罠 1 の「K=1 と比べる」を支える情報量規準
• k-means クラスタリング — ハード割当の対応物。 γ を捨てると GMM は k-means に退化する
• カーネル密度推定 — 「そもそも山はいくつに見えるか」を仮定少なく確認する前段ツール
• 正規分布 / 対数変換 — 各成分の前提と、 前提に近づける前処理
• 高齢化率 — 本章で使った指標の定義と背景
• 時系列データ — 2 時点比較を 12 年の軌跡に伸ばすときの基礎
• DBSCAN / 階層クラスタリング — ガウス仮定を置きたくないときの代替