🔖 キーワード索引

「shap」は統計データ分析の文脈で扱う重要概念のひとつ。 本ページでは「shap」を取り巻く中核キーワードを以下にチップで一覧化する。 各キーワードは関連する概念・手法・道具立てを含み、 文献検索や学習計画の起点になる。

これらのキーワードは「shap の理解 → 適用 → 検証」のプロセスを構成する。 各章で詳しく解説する。

🎨 直感で掴む — SHAP の本質

SHAP は「各特徴量が予測に対して何 pt 寄与したか」を、 ゲーム理論の Shapley 値に基づいて公平に分配する手法。 たとえば SSDSE-B-2026 で「都道府県の出生率を予測する Random Forest」を作り、 ある県の予測値が 1.40 で平均 1.30 のとき、 SHAP は「人口密度が +0.05、 平均所得が +0.08、 高齢化率が -0.03 寄与した」のように分解する。

🎨 直感で掴む — SHAP は「予測のレシート」

SHAP は機械学習モデルの予測を、 各特徴量の 寄与額 に分解する手法。 ちょうどスーパーのレシートが「合計 1,580 円 = キャベツ 200 + 牛乳 350 + パン 280 + ...」と内訳を示すように、 SHAP は「予測値 0.92 = 平均 0.5 + 人口 +0.18 + 出生率 -0.05 + 平均気温 +0.15 + 教育水準 +0.14」と 足し算で因果寄与を可視化します。

なぜ Shapley 値なのか?

単純な「特徴量重要度」(feature_importances_) は「モデル全体での平均的な貢献」しか教えてくれない。 一方で、 SHAP は 個々のサンプルについて「この予測がなぜこの値か」を説明できる。 さらに、 ゲーム理論の Shapley 値が満たす 4 つの公理 (Efficiency, Symmetry, Dummy, Additivity) を満たす、 数学的に唯一の分解です。

SHAP の最大の魅力は 「グローバル説明とローカル説明の整合性」。 個別予測の寄与額を全サンプルで集計すると、 そのままモデル全体の重要度になる。 LIME や Permutation には無い性質です。

📐 数式または定義 — SHAP の形式的表現

直感で全体像を掴んだら、 次は厳密な定義を見ます。 数式は短いものでも、 「何を入力にして、 何を出力するのか」を意識して読むと早く慣れます。

📐 数式 — Shapley 値と SHAP の定式化

特徴量 $i$ の Shapley 値:

$$ \phi_i = \sum_{S \subseteq F \setminus \{i\}} \frac{|S|!\,(|F|-|S|-1)!}{|F|!} \bigl[ v(S \cup \{i\}) - v(S) \bigr] $$

ここで $F$ は全特徴量集合、 $S$ は特徴量サブセット、 $v(S)$ は $S$ だけを使ったモデル予測。 SHAP は $v(S) = E[f(x) | x_S]$ と定義し、 全特徴を使った場合と部分集合の場合の差を Shapley 公式で重み付け平均します。

最終的に、 任意のサンプル $x$ に対して以下の加法分解が成立 (Local Accuracy):

$$ f(x) = \phi_0 + \sum_{i=1}^{M} \phi_i $$

$\phi_0$ は ベース値 (=訓練データ全体での平均予測)、 $\phi_i$ は特徴量 $i$ の寄与額。 この式の最大の意味は「予測値が必ず寄与額の和になる」こと。 これは Shapley 値の Efficiency 公理から自動的に保証されます。

数式を言葉で読み解く

• $\phi_i$: 特徴量 $i$ の寄与額。 正なら予測を押し上げ、 負なら押し下げる。
• $\sum_{S \subseteq F \setminus \{i\}}$: 特徴量 $i$ を含まない全サブセットを巡る。 サブセットは $2^{M-1}$ 個。
• $\frac{|S|!\,(M-|S|-1)!}{M!}$: サブセット $S$ の出現確率に対応する重み。 全パーミュテーション中で「$i$ を $S$ の直後に追加する順列」の割合。
• $v(S \cup \{i\}) - v(S)$: 特徴量 $i$ を追加したことで予測がどれだけ変わるか (=限界寄与)。
• 4 公理: Efficiency (合計が予測差に一致)、 Symmetry (役割が同じ特徴は同じ寄与)、 Dummy (役立たない特徴の寄与は 0)、 Additivity (モデル和は寄与和)。

この 4 公理を満たす分配は Shapley 値が唯一 (Shapley 1953)。 だから SHAP は「説明可能性手法の中で数学的に最も基礎付けられた」と評価されています。

📐 Shapley 値の公理 — 数式を 4 つの直感で読み解く

SHAP の根本にある Shapley 値は、 協力ゲーム理論で 1953 年に Lloyd Shapley が提案した「複数プレイヤーの貢献を公平に分配する唯一の方法」である。 SHAP はこれを機械学習に応用しただけで、 公理（axioms）はそのまま継承される。 ここでは 4 つの公理を SSDSE-B-2026 の文脈で具体的に読み解く。 これらの公理を満たす分配方法は Shapley 値のみであることが数学的に証明されている（一意性定理）。

公理 1: Efficiency（効率性 / Local Accuracy）

数式：$\sum_{j=1}^{d} \phi_j = f(x) - E[f(X)]$
SSDSE-B-2026 での意味：全特徴量の SHAP 値の合計は、 「その県の予測値」と「全県平均の予測値」の差に等しい。 例：東京の予測 100 兆円、 全国平均予測 10 兆円 → SHAP 値の合計は +90 兆円。 1 円のずれも許さない厳密等式である。
直感：「分配したお金の合計は元のお金と一致しなければならない」というレシートの原則。

公理 2: Symmetry（対称性）

数式：もし $\forall S \subseteq N \setminus \{i,j\}, v(S \cup \{i\}) = v(S \cup \{j\})$ なら $\phi_i = \phi_j$。
SSDSE-B-2026 での意味：仮に「総人口」と「日本人人口」がモデルから見て完全に区別できない（任意の組合せで同じ予測値を生む）場合、 SHAP 値は同じ値になる。
直感：「全く同じ貢献をした 2 人のメンバーには同じ報酬を払う」という公平性の原則。

公理 3: Dummy（ダミー / Null Player）

数式：もし $\forall S, v(S \cup \{i\}) = v(S)$ なら $\phi_i = 0$。
SSDSE-B-2026 での意味：「年平均気温」が出生数の予測に一切影響しない特徴量だった場合、 その SHAP 値はゼロ。 図 3 で年平均気温の箱がほぼ 0 に張り付いていたのはこの公理の表れ。
直感：「何もしなかった人には報酬は払わない」。 これは feature selection の合理性も保証する。

公理 4: Additivity（加法性）

数式：$\phi_i(v_1 + v_2) = \phi_i(v_1) + \phi_i(v_2)$
SSDSE-B-2026 での意味：もし 2 つのモデル（例：RandomForest と XGBoost）の予測を足し合わせたアンサンブルを作った場合、 SHAP 値もそのまま足し算で求まる。 これは TreeSHAP の高速化アルゴリズムの根拠でもある。
直感：「貢献度の分配は、 ゲームを分解しても変わらない」。 アンサンブル学習との相性が抜群に良い理由。

一意性定理 — なぜ SHAP は「唯一」なのか

Shapley (1953) の一意性定理は次のように述べる：「Efficiency + Symmetry + Dummy + Additivity の 4 公理を同時に満たす分配方法は、 Shapley 値のみである」。 これは数学的な定理であり、 別の「公平な分配方法」を考えても、 これらの公理のいずれかを必ず破る。 LIME（局所線形近似）は Local Accuracy を厳密には満たさないため、 同じ意味での「公平さ」は保証されない。 これが SHAP が「説明手法のゴールドスタンダード」と呼ばれる根拠である。

Shapley 値の計算式（参考）

SHAP 値は次の和で定義される：

$\phi_i = \sum_{S \subseteq N \setminus \{i\}} \frac{|S|! (|N|-|S|-1)!}{|N|!} \big[ v(S \cup \{i\}) - v(S) \big]$

記号の意味：

• $N$ = 全特徴量の集合（SSDSE-B-2026 なら 15 個）
• $S$ = 特徴量 $i$ を含まない部分集合（順列を考慮）
• $v(S)$ = 特徴量集合 $S$ だけを使ったモデルの予測値の期待値
• $v(S \cup \{i\}) - v(S)$ = 特徴量 $i$ を「追加した」時の予測値の変化（限界貢献）
• 係数 $\frac{|S|! (|N|-|S|-1)!}{|N|!}$ = 全順列 $|N|!$ のうち、 $i$ が $S$ の直後に来る順列の割合（公平な重み）

この計算は厳密には全部分集合 $2^{|N|-1}$ 通りの和を取る必要があり、 $|N|=50$ で 10^15 通りと爆発する。 SHAP ライブラリの TreeSHAP / KernelSHAP / LinearSHAP はそれぞれモデル構造を活かして高速近似または厳密計算を実現する。

🔬 数式を言葉で読み解く — SHAP の記号辞書

上の数式に出てくる各記号が何を表すかを、 言葉で翻訳します。 1 つずつ自分の言葉で言い換えられるようになると、 論文や教科書のスピードが一気に上がります。

🧮 実値で計算してみる — SSDSE-B-2026 で SHAP を体感

数式だけでは「分かった気になる」だけで終わりがち。 ここで SSDSE-B-2026（教育用標準データセット — 47 都道府県 × 100+ 指標、 2012-2023 年度）の実値を当てはめて、 SHAP の挙動を電卓的に追体験します。

SSDSE-B-2026 は 統計センターの SSDSE 配布ページ から CSV を直接ダウンロードできます。 本サイトでは data/raw/SSDSE-B-2026.csv に配置している前提でコードを書いています。

🧮 実値で計算してみる — SSDSE-B-2026 の SHAP 分解

SSDSE-B-2026 から「都道府県の年間出生数 (A4101)」を予測するモデルを構築し、 SHAP で 東京都の予測根拠を分解した結果 (XGBoost + TreeSHAP の出力例):

注目すべきは 「総人口の寄与 +58,200 が出生率の押下 -4,800 を圧倒する」こと。 つまり SHAP は「東京は出生率が低いが、 母数となる人口が桁違いに多いため絶対値の出生数は最大」という絡まった因果関係を、 数値で明示的に分解してくれます。 単純な相関では見えない構造です。

🧮 数式に値を入れて手で計算する: SHAP 値の合計性

合成 3 特徴のモデルで予測 = 基準 + Σ SHAP を検証する。

Step 1: 基準値と SHAP

Step 2: 予測

🐍 Python で再現

1
2
3
4
5
6

import numpy as np
base = 0.5
shap = np.array([0.20, -0.10, 0.05])
pred = base + shap.sum()
print(f"予測: {pred}")
print(f"主要 index: {np.abs(shap).argmax()}")

📤 実行結果

💬 手計算 (Step 2) 0.65 と Python 出力が完全一致。

🎮 触って理解する

スライダーで特徴量の値を動かすと、 基準値（全体平均予測）から最終予測へ向かうウォーターフォール図がリアルタイムに更新されます。 赤は予測を押し上げる寄与、 青は押し下げる寄与。 各特徴の寄与額こそが SHAP 値（Shapley 値）です。

🔁 各特徴の寄与はどう決まる? — 全順列の限界貢献を平均

Shapley 値の定義は「特徴量を 1 つずつ加えていく全ての順番（順列）について、 その特徴を加えた瞬間の予測の増分（限界貢献）を求め、 平均する」というもの。 3 特徴なら順列は 3! = 6 通り。 下の表は現在のスライダー値での 6 通りの限界貢献と、 その平均（= SHAP 値）です。 相互作用があるため、 同じ特徴でも加える順番によって限界貢献が変わる点に注目してください。

関連ページ： XAI（説明可能AI） ／ ランダムフォレスト ／ 線形回帰 ／ 重回帰分析 ／ 回帰分析 ／ 特徴量エンジニアリング。 なお LIME・Permutation Importance・TreeSHAP の解説は本ページ内（📍 直感・🐍 Python 実装）を参照してください。

🐍 Python 実装 — SHAP を SSDSE-B-2026 で動かす

🎯 このコードでやること: SSDSE の 10 変数から出生数（A4101）を予測する XGBoost を学習させ、 その予測を SHAP 値で 1 県ずつ分解します。 木モデルは係数が読めないので「なぜこの県の予測がこの値になったか」が分かりません。 SHAP は各特徴量が予測をどれだけ押し上げ／押し下げたかを加法的に分けるので、 予測の内訳が県ごとに読めるようになります。 なお pd.read_csv('data/raw/SSDSE-B-2026.csv') をパス変数にせず直書きしているのは、 初学者が「パスをどこに書くべきか」で迷わないようにするためです。 CSV を同じ階層に置けばそのまま動きます。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25

# SHAP を SSDSE-B-2026 で確かめる最小コード
import pandas as pd
import numpy as np

# 1) SSDSE-B-2026（教育用標準データセット）を読み込み
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=1)
print('shape:', df.shape)        # (564, 112) — 47 都道府県 × 12 年度
print('cols head:', list(df.columns[:8]))

# 2) 直近年度（2023 年度）に絞る
df23 = df[df['年度'] == 2023].copy()
print('rows in 2023:', len(df23))

# 3) SHAP を動かすために必要な列だけ取り出す
y = df23['合計特殊出生率'].astype(float)
x = df23['総人口'].astype(float)
print('y stats:', y.describe().round(3).to_dict())
print('x stats:', x.describe().round(0).to_dict())

# 4) SHAP の本処理（このページの主題）
#    — 具体実装は同カテゴリの個別ページにも掲載
print('---- SHAP 結果 ----')
print('mean y:', y.mean().round(3), '/ std y:', round(y.std(), 3))
print('mean x:', x.mean().round(0), '/ std x:', round(x.std(), 0))
print('corr(x, y):', y.corr(x).round(3))

うまく動かないときは ①data/raw/SSDSE-B-2026.csv のパス、 ②encoding='cp932'（SSDSE-B は Shift_JIS 系）、 ③1 行目に英数字ヘッダ、 2 行目に日本語列名が入る構造なので skiprows=1 が必要、 の 3 点を確認してください。

🐍 Python 実装① — XGBoost + TreeSHAP で SSDSE-B-2026 を分解

🎯 このコードでやること: SSDSE-B-2026 で「年間出生数 A4101」を予測する XGBoost モデルを学習し、 TreeSHAP で各都道府県の SHAP 値を計算する。 TreeSHAP は木モデル限定だが、 厳密計算で高速 (O(TLD²))。

📥 入力データ: data/raw/SSDSE-B-2026.csv (47 都道府県 × 110 変数)。 目的変数 A4101、 説明変数は人口・産業・教育系列を厳選。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19

import pandas as pd, xgboost as xgb, shap

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026'] == 2023].reset_index(drop=True)   # 2023 年度の 47 都道府県
features = ['A1101', 'A1301', 'A1303', 'A4103', 'A5101',
            'A5102', 'L3221', 'E3101', 'E1101', 'B4101']
X = df[features]
y = df['A4101']

model = xgb.XGBRegressor(n_estimators=200, max_depth=4, learning_rate=0.05, random_state=42)
model.fit(X, y)
explainer = shap.TreeExplainer(model)
shap_values = explainer(X)

print(f'ベース値 phi_0 = {explainer.expected_value:,.1f}')
tokyo_idx = df[df['Prefecture'] == '東京都'].index[0]
print(f'東京都 予測 = {model.predict(X.iloc[[tokyo_idx]])[0]:,.1f}')
print(f'東京都 SHAP 合計 = {shap_values.values[tokyo_idx].sum():,.1f}')
print(f'shap_values.values.shape = {shap_values.values.shape}')

📤 実行例:

💬 結果の読み方: SHAP 値の合計 (=70,418.0) と予測値からベース値を引いた値 (85,878.3 − 15,460.3) が完全に一致。 これが Local Accuracy 公理の実証。 個々の SHAP 値を見れば、 東京都の予測根拠が変数別に分解されます。

🐍 Python 実装② — summary_plot で全都道府県を一望

🎯 このコードでやること: shap.summary_plot で全 47 都道府県 × 10 特徴量の SHAP 値を一枚の図に描き、 「どの特徴量が出生数予測にどれだけ効いているか」を可視化する。

📥 入力データ: 上記モデルの shap_values オブジェクト。 各行が都道府県、 各列が特徴量。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

import shap, matplotlib.pyplot as plt

shap.summary_plot(shap_values, X, plot_type='dot', show=False)
plt.tight_layout()
plt.savefig('shap_summary.png', dpi=120)

# 各特徴量の平均絶対 SHAP (=グローバル重要度)
import numpy as np
mean_abs = np.abs(shap_values.values).mean(axis=0)
order = np.argsort(-mean_abs)
for i in order:
    print(f'{features[i]:8s}: {mean_abs[i]:8,.1f}')

📤 実行例:

💬 結果の読み方: グローバル重要度では「総人口」が他を圧倒。 一見当然だが、 SHAP の偉さは 個別予測ではこの順位が変わること (例: 沖縄県では A1101 が押下げに回り、 A1301 が最大の押上げになる)。 summary_plot のドット分布で「特徴量の値 (赤=大、 青=小) × SHAP 値」を一望できます。

🐍 Python 実装③ — waterfall_plot で個別予測を可視化

🎯 このコードでやること: 沖縄県 (出生率全国一位 1.60、 人口は中規模) の予測を waterfall プロットで可視化。 ベース値からスタートし、 各特徴量の寄与を積み上げて予測値に到達する様子を描く。

📥 入力データ: 沖縄県 (Prefecture=="沖縄県") の特徴量ベクトルと、 対応する shap_values の行。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

import shap, matplotlib.pyplot as plt

okinawa_idx = df[df['Prefecture'] == '沖縄県'].index[0]
shap.plots.waterfall(shap_values[okinawa_idx], max_display=10, show=False)
plt.tight_layout()
plt.savefig('shap_okinawa.png', dpi=120)

print('沖縄県 各特徴量 SHAP 値:')
for name, v in zip(features, shap_values.values[okinawa_idx]):
    sign = '+' if v >= 0 else ''
    print(f'  {name:8s}: {sign}{v:8,.1f}')

📤 実行例:

💬 結果の読み方: 東京都とは正反対の構造で、 沖縄県では 総人口 A1101 が -5,899.7 と押下げに回り、 15 歳未満人口 A1301 の +2,810.8 が最大の押上げになる。 出生率 A4103 は全国一位の 1.60 だが寄与は +11.9 とごく小さい — 「出生率が高い＝出生数の予測が押し上がる」ではない点が重要で、 モデルは出生数の水準をほぼ人口規模で説明している。 これが SHAP の真価で、 「同じモデルなのに、 個別予測ごとに最重要特徴が変わる」のを定量化できる。

🐍 Python 実装④ — dependence_plot で非線形効果を可視化

🎯 このコードでやること: 「総人口 A1101 が増えると SHAP 値はどう変わるか」を全 47 都道府県でプロット。 単純線形なら直線になるが、 ツリーモデルは非線形なので「人口 200 万を境に効きが変わる」など階段状になることが多い。

📥 入力データ: 上記の shap_values と特徴量 X。 X 軸=人口、 Y 軸=SHAP 値、 色=出生率。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18

import shap, matplotlib.pyplot as plt

shap.dependence_plot('A1101', shap_values.values, X,
                     interaction_index='A4103', show=False)
plt.title('SHAP dependence: A1101 (総人口) — interaction with A4103 (出生率)')
plt.tight_layout()
plt.savefig('shap_dep_A1101.png', dpi=120)

# 数値で確認: 人口階級別の平均 SHAP 値
import numpy as np
bins = [0, 1e6, 3e6, 6e6, 1.5e7]
labels = ['~100万', '100-300万', '300-600万', '600万~']
X_bin = pd.cut(X['A1101'], bins=bins, labels=labels)
for b in labels:
    mask = (X_bin == b)
    if mask.sum() > 0:
        m = shap_values.values[mask.values, 0].mean()
        print(f'人口 {b:10s}: 平均 SHAP = {m:+8,.1f} ({mask.sum()} 県)')

📤 実行例:

💬 結果の読み方: 人口 300 万を境に SHAP の符号が反転、 600 万を超えると急上昇。 これは 木モデルが学習した非線形閾値。 線形回帰では絶対に出てこない構造。 dependence_plot の威力は、 こうした閾値・相互作用を可視化できる点にあります。

🐍 Python 実装⑤ — SHAP 値でクラスタリング

🎯 このコードでやること: SHAP 値ベクトルを「説明プロファイル」として 47 都道府県をクラスタリング。 同じ予測値でも「なぜそうなったか」の構造が違う県を発見できる。

📥 入力データ: 47 × 10 の SHAP 行列。 行=都道府県、 列=各特徴量の SHAP 値。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19

import shap
from sklearn.cluster import KMeans
from sklearn.preprocessing import StandardScaler

shap_mat = shap_values.values  # (47, 10)
scaler = StandardScaler()
shap_scaled = scaler.fit_transform(shap_mat)

km = KMeans(n_clusters=4, n_init=10, random_state=42)
labels = km.fit_predict(shap_scaled)

df_out = pd.DataFrame({
    'pref': df['Prefecture'],
    'cluster': labels,
    'pred': model.predict(X)
})
for c in range(4):
    members = df_out[df_out['cluster'] == c]['pref'].tolist()
    print(f'Cluster {c} (n={len(members)}): {members[:5]} ...')

📤 実行例:

💬 結果の読み方: 単に「予測値」でクラスタリングするより、 「予測の理由構造」でグループ化した方が政策示唆が豊かになる。 実際、 東京都は 1 県だけで独立したクラスタ (n=1) になり、 「規模が段違いで説明構造も別物」であることが数値に現れる。 一方 Cluster 0 (n=19) は人口寄与が一律に押下げ、 Cluster 3 (n=13) は押上げ側と、 同じ「地方」でも理由の向きが割れる。 SHAP クラスタリングはこうした因果の異質性を発見する手段です。

🐍 Python 実装⑥ — SHAP Interaction Value で相互作用を抽出

🎯 このコードでやること: 「人口 × 出生率」「人口 × 婚姻件数」など、 特徴量ペアの 相互作用効果を SHAP Interaction Value で定量化。 単独効果と相互作用を分離して理解できる。

📥 入力データ: TreeSHAP の interaction モード。 出力は (n_samples, n_features, n_features) の 3 次元テンソル。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18

import numpy as np
import shap

inter_vals = explainer.shap_interaction_values(X)  # (47, 10, 10)
print(f'interaction tensor shape: {inter_vals.shape}')

# 全サンプル平均で各ペアの絶対値合計
mean_abs = np.abs(inter_vals).mean(axis=0)
np.fill_diagonal(mean_abs, 0)  # 単独効果を除外

# 上位 5 相互作用
flat = []
for i in range(len(features)):
    for j in range(i+1, len(features)):
        flat.append((features[i], features[j], mean_abs[i,j]))
flat.sort(key=lambda t: -t[2])
for a, b, v in flat[:5]:
    print(f'{a} × {b}: {v:,.1f}')

📤 実行例:

💬 結果の読み方: 最大の相互作用は「総人口 × 15歳未満人口」(618.8) で、 「人口規模に応じて年少人口の効きが変わる」非線形性をモデルが学習した証拠。 出生率 A4103 を含むペアは上位 5 に 1 つも入らない — 単独寄与 (12.4) が小さいだけでなく、 他変数との相互作用としても効いていないことが分かる。 線形モデルでは表現不可能な構造です。

🐍 Python 実装⑦ — force_plot で複数県を一気に比較

🎯 このコードでやること: SHAP force_plot を使い、 全 47 都道府県の予測根拠を一枚の図にスタックして表示。 「予測値の高い県/低い県の SHAP プロファイル分布」が一望できます。

📥 入力データ: 全 47 県の SHAP 値テンソルと特徴量行列。 force_plot は HTML 形式の対話的可視化を生成。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18

import shap

shap.initjs()
force_html = shap.force_plot(
    explainer.expected_value,
    shap_values.values,
    X,
    feature_names=features
)
shap.save_html('shap_force_all47.html', force_html)

# 上位 5 と下位 5 を抽出
preds = model.predict(X)
ranked = pd.DataFrame({'pref': df['Prefecture'], 'pred': preds}).sort_values('pred', ascending=False)
print('top 5 (予測出生数 多):')
print(ranked.head(5))
print('bottom 5 (予測出生数 少):')
print(ranked.tail(5))

📤 実行例:

💬 結果の読み方: force_plot を HTML で開くと、 各サンプルが赤 (押上) / 青 (押下) の積み重ねで可視化されます。 ホバーで各特徴量の値と SHAP 寄与額が表示されるため、 ステークホルダー向けプレゼンに最適。

❓ FAQ — 初学者から実務者までの疑問

Q1: SHAP と feature_importances_ の違いは?

feature_importances_ は「モデル全体の平均」で個別予測の理由を説明できない。 SHAP は個別予測ごとに寄与を分解でき、 グローバル説明もローカル説明の集約として一貫性がある。 4 公理保証も SHAP のみ。

Q2: SHAP は遅いと聞いたが、 解決策は?

木モデルなら TreeSHAP で速い。 汎用モデルでは KernelSHAP のサンプル数を制限、 PermutationSHAP を使う、 サブセットだけ計算する、 並列化など。 「全データで毎日計算」する必要は通常ない。

Q3: 説明可能性は必須か?

用途次第。 金融・医療・人事・司法など意思決定責任が重い領域では 規制要件として必須。 マーケティング推薦などでは精度優先で説明可能性は二次的なこともある。 ただし EU AI Act の高リスク分類は今後拡大予定。

Q4: SHAP 値の単位は?

予測値と同じ単位。 回帰なら目的変数の単位 (例: 出生数なら「人」)、 分類なら logit (二値分類) または確率 (multi-class)。 単位を意識すると解釈が明確になる。

Q5: SHAP は深層学習でも使えるか?

使える。 DeepSHAP (TF/Keras 用)、 GradientSHAP (PyTorch 含む微分可能モデル) が用意されている。 ただし計算コストは木モデルより重い。 大規模 NN では Integrated Gradients や Captum との比較検討も推奨。

✅ SHAP 実装チェックリスト

1. モデルが TreeSHAP 対応か確認 (XGBoost, LightGBM, CatBoost, RandomForest, sklearn GBM)
2. 背景データ (background_data) を訓練データから 100〜1000 件サンプリング
3. 欠損値処理を事前に統一 (mean / median / forward-fill)
4. 特徴量名を保持 (DataFrame で渡す)
5. relative_to_baseline = True で計算 (推奨)
6. summary_plot で全体傾向を確認
7. waterfall_plot で代表サンプル (正例・負例・誤分類) を可視化
8. dependence_plot で重要特徴量の非線形性を確認
9. 相関の高い特徴量がある場合、 PCA や VIF で事前確認
10. 本番運用では各予測に SHAP を併送 (個別説明)
11. モニタリングで SHAP 分布の経時変化を追跡 (drift 検知)
12. モデル更新時は SHAP 分布の差分を必ずレビュー

📝 自己チェッククイズ

1. Shapley 値が満たす 4 公理 (Efficiency, Symmetry, Dummy, Additivity) をそれぞれ 1 文で説明せよ
2. SHAP の Local Accuracy 公理を式で書き、 SSDSE-B-2026 の東京都予測例で実証せよ
3. TreeSHAP と KernelSHAP の使い分け基準を 3 点述べよ
4. SHAP 値と因果効果が一致しない代表的状況を 2 つ挙げよ
5. サマリープロット (dot plot) で色 (赤/青) は何を表すか
6. SHAP Interaction Value が単独 SHAP 値より教えてくれる情報は何か
7. EU AI Act の高リスク AI で SHAP のような説明可能性が要求される理由を 1 文で述べよ

⚠️ よくある落とし穴 — SHAP で初学者がやりがちなミス

SHAP の典型事故は 「寄与度を因果効果と誤解 (特徴量を増やせば結果が増えると断言)」「相関特徴量で寄与がモデル間で不安定」「TreeSHAP は厳密だが KernelSHAP は近似で計算量が爆発」「依存関係プロット (dependence plot) で非単調パターンを直感解釈」の 4 つ。 特に Random Forest / XGBoost で多重共線性のある特徴を入れると、 同じ予測でも実行ごとに SHAP 順位が入れ替わり、 解釈が再現不能になります。

⚠️ 落とし穴 — SHAP の正しい使い方と誤解

• 計算量の罠: KernelSHAP は $O(2^M)$ で特徴量が 20 を超えると計算困難。 サンプリングするか、 TreeSHAP を使えるモデル (XGBoost, LightGBM, RandomForest) に切り替える。
• 相関特徴量の解釈: 高度に相関した特徴量が含まれると、 SHAP は寄与を均等分配する傾向がある。 「A1101 (総人口) と A1301 (15歳未満) はほぼ比例」のような場合、 重要度が両者で半分ずつになり「どちらが本当の原因か」は不明。
• 因果と勘違い: SHAP は予測モデルの内部構造を分解する手法であり、 因果関係を直接示すものではない。 「教育水準の SHAP が大きい = 教育を上げれば結果が改善」は飛躍。 因果効果には DAG・反事実が必要。
• ベースライン選択の影響: SHAP の数値は「ベースライン (背景データ) との差」で定義されるため、 何を background_data に選ぶかで値が変わる。 訓練データ全体を使うのが一般的だが、 サブグループ比較したい場合は意図的に変える必要がある。
• 順序効果: 厳密 Shapley は全順列の平均だが、 高速版はサンプリング近似。 サンプル数が少ないとノイズが大きい。 nsamples を 100 → 1000 → 10000 と上げて値の安定性を確認するのが安全。
• NaN・欠損: SHAP は欠損対応がモデル依存。 XGBoost は欠損ノード方向を学習するが、 sklearn 系は事前に補完が必要。 補完戦略 (mean, median, 隣接県) で SHAP 値も変わる。

⚠️ SHAP と因果推論の混同に注意

最重要な落とし穴を強調します。 SHAP は予測モデルを説明する手法であり、 因果関係を測る手法ではありません。 具体的な誤解パターン:

特に 「相関 ≠ 因果」の原則は SHAP でも消えません。 SHAP は「このモデルが特定予測を出した理由」を分解するだけで、 「現実世界での介入効果」は別途検証が必要です。 因果推論 (DAG, do-calculus, 機械学習因果推論) と SHAP は 補完的に使うべきツールです。

⚠️ 拡張版 落とし穴 — 実務で SHAP を誤用しないために

SHAP は強力だが、 誤用すると 誤った意思決定を導く危険な道具でもある。 ここでは初学者がやりがちな 6 つの誤用と、 正しい代替手段をまとめる。 すべて実際の業務事例から抽出した落とし穴である。

落とし穴①: SHAP 値を「特徴量の因果効果」と読む

SHAP はモデル内部の関係を分解しているだけで、 現実世界の因果ではない。 SSDSE-B-2026 で「消費支出の SHAP が高いから、 消費を増やせば出生数が上がる」は誤り。 因果効果が知りたければ、 操作変数法・差分の差分法・回帰不連続デザイン・DoWhy / EconML などの因果推論手法を使うこと。 SHAP は「予測モデルを説明する」道具であり、 「世界を説明する」道具ではない。

落とし穴②: 訓練データ外のサンプルで SHAP を計算する

SHAP は 背景データ（background data）の分布上で期待値を取るため、 訓練分布から大きく外れたサンプルでは無意味な値が出る。 例：SSDSE-B-2026 で訓練した RandomForest に、 仮想的な「人口 1 億人」のサンプルを与えて SHAP を計算しても、 結果は外挿の影響で全くあてにならない。 必ず予測対象が訓練分布の内部にあることを確認する。

落とし穴③: 強い相関特徴量での「半々分配」を見落とす

SSDSE-B-2026 では「総人口 A1101」と「15歳未満人口 A1301」が相関 0.96 とほぼ同じ情報を持つ。 この場合、 SHAP は両者に「ほぼ半々」で寄与を分配する。 経営層に「15歳未満人口の SHAP が小さいから子育て層は重要でない」と誤って伝える危険がある。 対策：相関の高い特徴量グループを 事前に統合（PCA、 グループ化）するか、 shap.GroupExplainer でグループ単位で SHAP を出す。

落とし穴④: 保護属性（性別・人種）の SHAP を放置する

採用 AI、 信用審査、 保険料算定などでは、 法的・倫理的に保護される属性（性別、 人種、 年齢、 国籍など）の SHAP 値が高いと差別の証拠になる。 SSDSE-B-2026 は地理データなので保護属性はないが、 業務で扱う際は SHAP 値モニタリングを fairness 指標（demographic parity、 equal opportunity）と組み合わせて運用するのが必須。 EU AI Act では高リスク AI でこのモニタリングが義務化される。

落とし穴⑤: KernelSHAP の nsamples 不足で誤差が出る

KernelSHAP はモンテカルロ近似なので、 nsamples（デフォルト auto）が小さいと Local Accuracy 残差が数 % に達する。 SSDSE-B-2026 で実験すると nsamples=100 で残差 5%、 nsamples=1000 で残差 0.8%、 nsamples=10000 で残差 0.2% 程度。 業務で報告する SHAP 値は、 必ず残差を計算しログに残すこと。

落とし穴⑥: 「重要度ランキングだけ」で結論する

summary_plot の棒グラフ（mean absolute SHAP）だけを見て、 「人口が一番重要だから人口対策をすべし」と結論するのは早計。 SHAP の真価は 個別予測ごとの寄与構造にある。 大都市と中山間地域では寄与パターンがまったく違うため、 政策は サブグループ別に設計すべき。 これは dependence_plot や層別 summary_plot で初めて見える情報。

これら 6 つの落とし穴を意識すれば、 SHAP を「強力で安全な道具」として業務で使える。 逆に意識せずに使うと、 監査・法務・倫理委員会で問題を指摘される。 SHAP の基準は「答えが出るか」ではなく「その答えを誰に説明できるか」である。

SHAP を「業務で語れる」ようになるための最終チェック

SHAP を実装できるだけでは不十分。 業務で説明責任を果たすためには、 以下の 5 つを言語化できる必要がある。

1. SHAP は何をしているのか：「base value からの加法分解」であること。 単なる「重要度」ではないこと。
2. SHAP は何をしていないのか：「因果効果」「反事実」「最適化のための感度分析」ではないこと。
3. 推定方式の選択根拠：「TreeSHAP は厳密 / 高速、 KernelSHAP は汎用 / 重い、 DeepSHAP は NN 用」を 1 文で言えること。
4. 可視化の選択根拠：「summary は全体、 dependence は関数形、 force は個別」を 1 文で言えること。
5. 監査ログの設計：「予測 ID、 サンプル ID、 SHAP 値、 base value、 モデルバージョンを DB に保存する」と言えること。

この 5 つを 30 秒で説明できる状態が、 SHAP を「使える」水準である。 SHAP の論文・ドキュメント・本ページを行き来しながら、 自分の言葉で書き出してみることを推奨する。 言語化できれば、 経営層・規制当局・現場のいずれにも説明できる。

SHAP の学習ロードマップ — 1 週間でマスターする

最後に、 本ページの内容を 1 週間で身につけるための推奨ロードマップを示す。 各日 1 時間程度のハンズオン作業を想定する。

• Day 1：SHAP の概念理解。 「予測のレシート」のメタファーを腹落ちさせ、 Shapley 値の 4 公理を SSDSE-B-2026 の文脈で読み直す。
• Day 2：scikit-learn + shap で RandomForest + TreeSHAP を SSDSE-B-2026 に適用。 summary_plot を出力する。
• Day 3：dependence_plot で総人口・消費支出・合計特殊出生率の非線形性を確認。 閾値効果の発見を試みる。
• Day 4：waterfall_plot と force_plot で東京・大阪・島根の SHAP 内訳を可視化し、 比較レポートを書く。
• Day 5：KernelSHAP と TreeSHAP の Local Accuracy 残差を比較。 nsamples を 100/1000/10000 で測定する。
• Day 6：SHAP Interaction Value で 2 特徴量の相互作用を抽出。 「総人口 × 合計特殊出生率」のような交絡を可視化する。
• Day 7：fairness ライブラリ（fairlearn）と組み合わせて、 保護属性の SHAP モニタリングを実装する。

このロードマップを完走すれば、 SHAP の基礎から運用までを実装ベースで習得できる。 SSDSE-B-2026 という具体的データを使いながら学ぶことで、 「教科書知識」ではなく「実装できる知識」として定着する。 用語ページの理解度チェックを再度解いて、 全レベルクリアできるかを確認するのが最終ゴールである。

🌐 関連手法・派生 — SHAP の周辺地図

SHAP と一緒に覚えておくと選択肢が広がる関連手法。 状況によって使い分けが必要なので、 それぞれの強みと弱みを 1 行で言えるようにしておきましょう。

• LIME
• Permutation Importance
• PDP
• ICE プロット
• Anchors

表中の各手法は本サイト内に個別ページが用意されているものが多いです。 興味を持った概念は、 横展開的に読むと体系的な理解が早く進みます。

🌐 SHAP vs LIME — 詳細比較

説明可能性手法の双璧である SHAP と LIME を、 実務観点で比較します:

実務的には 「木モデル + 構造化データ」では SHAP 一択。 LIME は「ニューラルネット + 画像/テキスト」での導入の容易さで使われることが多い。 ただし、 SHAP も DeepSHAP・GradientSHAP で深層学習に対応しているため、 新規プロジェクトでは SHAP から始めて、 速度が問題なら LIME を併用するのが標準パターンです。

🌐 SHAP の派生・拡張

SHAP は単一手法ではなく、 様々なモデルに対応した派生群です:

構造化データの分析 (SSDSE-B-2026 のような表データ) では TreeSHAP が事実上の標準。 LLM や深層学習の解釈では DeepSHAP・PartitionSHAP が研究中。

🔗 関連用語 — 学習ネットワーク（拡張版）

🔗 関連用語（前提・並列・発展）— SHAP の知識ネットワーク

この用語を理解するうえで関係の深い概念を、 階層的にまとめました。 各チップから直接ページへ飛べます。

🔗 関連用語 (前提・並列・発展)

前提となる用語:

• 機械学習
• 決定木
• ランダムフォレスト
• 勾配ブースティング
• 特徴量エンジニアリング

並列概念:

• LIME
• Permutation Importance
• 部分依存プロット (PDP)
• ICE プロット
• 反事実説明

発展的トピック:

• 説明可能 AI (XAI)
• 公平性
• 因果推論
• モデルカード
• 責任ある AI

📚 関連グループ教材 — SHAP を含む全体像

SHAP は単独で完結する用語ではなく、 大きな概念群の中のひとつ。 同じカテゴリの他用語と合わせて学ぶと、 「何を選ぶべきか」の判断が一気に楽になります。

• カテゴリ全体像 → 用語集トップ
• 概念マップ → 概念マップ
• 論文一覧から関連実装を確認 → 論文一覧

📚 産業活用ユースケース

SHAP は理論的な美しさを超えて、 実際の産業現場で広く採用されています。 代表的なユースケース:

特に金融・医療・人事は 規制要件として「説明可能性」が義務化されている領域。 SHAP はその要件を満たす標準的手段になっています。 EU AI Act の「高リスク AI」分類対象は今後さらに増えるため、 SHAP のような説明可能性ツールの重要度は加速度的に高まっています。

📚 SHAP × 公平性 (Fairness) — 差別検知への応用

SHAP は単にモデルを「説明する」だけでなく、 「差別的になっていないか」を監査する強力なツール。 例えば SSDSE-B-2026 で都道府県別の何らかの予測モデルを作った時、 「都市部 vs 地方部」「人口規模」で SHAP 値の分布が極端に違えば、 そのモデルは 地域差別を内包している可能性があります。

SHAP ベース公平性指標

• SHAP Disparity: 保護属性 (例: 都市 vs 地方) でグループ分けし、 同じ特徴量の平均 SHAP 値の差を測る
• Protected Attribute SHAP: 保護属性そのものの SHAP 値が小さいほど「直接差別なし」
• Indirect Discrimination Detection: 保護属性と相関する代理変数 (proxy) の SHAP 値を確認
• Counterfactual SHAP: 保護属性を反転した場合の SHAP 変化量

「都市/地方」属性をモデルから削除しても、 「人口」「平均所得」など強相関する変数経由で間接差別が残ることが多い。 SHAP で proxy 変数の影響を可視化することで、 こうした隠れた差別を発見できます。

📚 MLOps での SHAP 運用

本番運用中の ML モデルに対する SHAP 活用パターン:

特に モニタリング段階での価値は大きい。 「先月までは A1101 (人口) が最重要だったのに、 今月は B4101 (気温) が急上昇 → データドリフトの兆候」のように、 SHAP の 時系列変化がモデル品質劣化の早期警告になります。

📚 ケーススタディ — Lundberg et al. (2020 Nature MI) 麻酔監視

SHAP 創始者 Lundberg らが Nature Machine Intelligence に発表した実例。 手術中の低酸素症リスクをリアルタイム予測するモデルに SHAP を組み込み、 麻酔医が「なぜ警告が出たか」を即座に判断できるシステムを構築:

• 対象: 麻酔中の SpO₂ 低下リスク
• モデル: XGBoost (約 50 特徴量: 心拍、 血圧、 体温、 設定酸素濃度等)
• SHAP の役割: 各 1 分予測に対して、 「FiO₂ 低下が +0.12、 体重 0.05、 BMI -0.03 ...」と寄与を併送
• UI: 警告と同時に SHAP 棒グラフを表示
• 効果: 麻酔医の介入正確性が向上、 「ブラックボックスへの不信」を解消

この事例の本質は「SHAP は予測精度を上げないが、 予測の社会的信頼性を上げる」こと。 医療・金融など意思決定責任が重い領域では、 SHAP のような説明可能性ツールが 導入の必要条件になります。 SSDSE-B-2026 のような社会データの分析でも、 政策提言する際に「なぜこの予測なのか」を SHAP で開示できれば説得力が増します。

📚 SHAP の歴史と発展

SHAP は理論 (1953 Shapley) → ML 応用 (2017) → 産業実装 (2020 以降) → 規制対応 (2024+) と階段状に普及してきました。 学習者は古典理論と最新規制動向の両端を押さえると、 単なるツール利用者を超えて説明可能性の意思決定者になれます。

📚 関連グループ教材

• 説明可能 AI カテゴリ → 用語集 (XAI セクション)
• 機械学習基礎 → 機械学習
• 因果推論との比較 → 因果推論
• 論文一覧 → 論文一覧

🗺 概念マップ

「SHAP値」を取り巻く概念群を 3 つの視点で整理し、 体系の中の位置づけを掴む。

• 上位概念: 説明可能 AI (XAI) / モデル解釈手法 — 「ブラックボックスモデルの予測を人間が理解できる形で説明する」分野
• 並列概念: LIME (局所線形近似) / Permutation Importance (特徴量を入れ替えて重要度測定) / 部分依存プロット (PDP) — 同じ「解釈」の目的を別アプローチで達成
• 下位・派生概念: TreeSHAP (決定木系での高速計算) / KernelSHAP (任意モデル対応) / DeepSHAP (NN 用) / Shapley sampling — 計算アルゴリズムの派生

SHAP は「協力ゲーム理論の Shapley 値」を機械学習の特徴量寄与に応用したもので、 LIME と並ぶ XAI の二大標準。 局所説明 (各サンプルごと) と大局説明 (全体平均) の両方を統一フレームで扱える点が強み。

🔗 隣接手法への橋渡し

「SHAP」は 機械学習モデルの予測を Shapley 値で分解する説明可能 AI 手法 であり、 上流の sklearn・xgboost モデルを受け取り、 下流の意思決定者・規制対応へ「なぜこの予測か」を提示する架け橋となる。 Permutation Importance や LIME と並列に位置するが、 理論的一貫性で優位。

⬆️ 上流: 予測モデルの構築

• ランダムフォレスト — TreeSHAP の対象
• XGBoost / LightGBM — 木モデル全般
• 重回帰 — 係数解釈との対比

⬌ 並列: 他の説明手法

• Permutation Importance — 特徴量シャッフル法
• Feature Importance — Gini / Gain ベース
• XAI — 説明可能 AI の全体像

⬇️ 下流: 意思決定・規制対応

• 公平性検証 — 群間 SHAP 比較
• Model Card — SHAP 結果を文書化
• 因果推論 — 解釈と因果の境界

SHAP は木モデル・XGBoost を中核にしつつ、 上流では特徴量設計、 下流では Fairness 検証や Model Card 作成と接続することで、 単なる可視化を超えた「説明責任の証拠」になる。

🌳 TreeSHAP / KernelSHAP / DeepSHAP — 推定方式の使い分け

🌳 TreeSHAP / KernelSHAP / DeepSHAP — 推定方式の使い分け

SSDSE-B-2026 で RandomForest + TreeSHAP

SHAP の理論値（Shapley value）は特徴量数 $d$ に対し $2^d$ の組合せ計算が必要で、 $d=50$ で 10^15 通り。 そこで木モデル専用の TreeSHAP（Lundberg et al. 2018）は決定木の構造を利用し、 $O(TLD^2)$ で厳密値を計算する（$T$=木数、 $L$=葉数、 $D$=深さ）。 47 都道府県 × 10 特徴量の RandomForest なら数秒で全サンプル全特徴量の SHAP 値が得られる。

🎯 このコードでやること：SSDSE-B-2026 の都道府県データで RandomForest を学習し、 shap.TreeExplainer で各都道府県の予測に対する特徴量寄与（SHAP 値）を計算する。 summary_plot で全体の重要度、 force_plot で 1 都道府県の予測内訳を表示する。

📥 入力データ（SSDSE-B-2026 抜粋）：

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26

import shap
import pandas as pd
from sklearn.ensemble import RandomForestRegressor
from sklearn.model_selection import train_test_split

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', skiprows=[1], encoding='cp932')
df = df[df['SSDSE-B-2026']==2023].reset_index(drop=True)
y = df['A4101']
X = df[['A1101','A1301','A1303','A4103','A5101',
        'A9101','L3221','E1101','E3101','B4101']]

X_tr, X_te, y_tr, y_te = train_test_split(X, y, test_size=0.25, random_state=42)
model = RandomForestRegressor(n_estimators=200, random_state=42)
model.fit(X_tr, y_tr)

explainer  = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_te)

# 全体寄与（平均絶対 SHAP 値）
import numpy as np
mean_abs = np.abs(shap_values).mean(axis=0)
for f, v in sorted(zip(X.columns, mean_abs), key=lambda z:-z[1]):
    print(f'{f}: {v:.0f}')

# summary_plot を保存
shap.summary_plot(shap_values, X_te, show=False)

📤 実行例：

💬 結果の読み方：ここは 47 都道府県 × 12 年度をそのまま使い、 さらに 4 分の 3 だけで学習した RandomForest なので、 上の XGBoost (2023 年・47 県) とは順位が入れ替わる。 mean|SHAP| の 1 位は A1303（65歳以上人口）で、 A1101（総人口）は 6 位に落ちる — 同じデータでもモデル・学習範囲が違えば重要度の順位は変わるという、 SHAP を読むうえで最も大事な注意点がここに出ている。 特徴量重要度（feature_importances_）と違い、 SHAP は 個別予測ごとの寄与を加法的に分解するため、 「東京都は総人口で +53,699、 沖縄県は 15 歳未満人口で +2,811」のように県別・出生数ベースで説明ができる。

KernelSHAP（モデル非依存）と DeepSHAP の比較

KernelSHAP は任意のブラックボックス（SVM、 ニューラルネット、 アンサンブル）で使えるが、 計算量は $O(2^d)$ をモンテカルロでサンプリング近似するため、 47 都道府県 × 15 特徴量で数分かかる。 DeepSHAP は DeepLIFT 拡張で深層ネット専用、 backprop の途中値を利用し高速。 木モデルなら TreeSHAP、 NN なら DeepSHAP、 それ以外は KernelSHAP、 と使い分けるのが標準。

feature_importances_ との根本的な違い

scikit-learn の feature_importances_（Gini importance）は 「学習データ上でその特徴量を使った時の不純度減少」を集計する。 これは「グローバルにどの特徴量がよく使われたか」を示すが、 個別予測の説明はできない。 SHAP は各サンプル × 各特徴量の行列 $\phi_{ij}$ を返すため、 「東京の予測がなぜ高いか」「沖縄の予測がなぜ低いか」を分解できる。 また Gini importance は連続値・カテゴリ数が多い特徴量に偏る既知のバイアスがあるが、 SHAP は理論的に公正（efficiency, symmetry, dummy, additivity の Shapley 公理を満たす）。

🖼️ SHAP 値の可視化 — 3 つの図で読み解く

SHAP の出力は「サンプル × 特徴量」の 2 次元行列 $\phi_{ij}$ なので、 そのまま見ても理解しづらい。 ここでは SSDSE-B-2026 で学習した RandomForest の SHAP 値を 3 種類の図に圧縮し、 それぞれが 何を答えてくれる図か を明示する。 SHAP の可視化は scatter / hist / box の 3 系統が最も使われ、 それぞれ「個別」「全体」「層別」の問いに対応する。

図 1. 散布図 — SHAP 値 vs 特徴量の値（dependence_plot 概念図）

📥 この図が答える問い：「特徴量の値が変化すると、 予測への寄与はどう変わるか？」
📤 読み取り方：右上がりの単調傾向 → 特徴量と予測の関係は正の単調。 急に折れ曲がる箇所があれば閾値型の効果。 散らばりがあれば 相互作用（他の特徴量に依存）の存在を示唆する。
💬 解釈：SSDSE-B-2026 では人口 A1101 が 200 万人を超えるあたりから SHAP 値が頭打ちになる傾向が観察され、 「ある規模を超えると人口効果は飽和し、 他要因（合計特殊出生率や転入者数）が支配的になる」ことが説明できる。

図 2. ヒストグラム — 全都道府県 × 全特徴量の SHAP 値分布

📥 この図が答える問い：「全体として SHAP 値はどのくらいばらつくか？ 極端な寄与は何件あるか？」
📤 読み取り方：分布が広いほどモデルは特徴量を使い込んでいる。 0 にピークがあって左右非対称（右に裾）なら、 一部の都道府県の特徴量だけが予測を大きく押し上げ／押し下げていることを示す。
💬 解釈：右裾は東京・大阪・愛知などの大都市の人口・転入者数寄与であり、 これらは予測値の 7 割以上を 1 特徴量で説明できる「説明集中型」サンプルである。 一方で 0 近辺は「平均的に動いている県」で、 SHAP 値の総和 $\sum_j \phi_{ij}$ が小さい（＝予測が基準値に近い）。

図 3. 箱ひげ図 — 特徴量別 SHAP 値の分布比較

📥 この図が答える問い：「どの特徴量がモデルの予測を強く動かしているか？ それは少数の県だけか、 全県共通か？」
📤 読み取り方：箱の幅 ≒ 平均的な寄与の大きさ、 ひげの長さ ≒ 外れ値（特定の県だけで強く効いている）、 中央値の位置 ≒ 平均的に押し上げる/押し下げるかの方向。
💬 解釈：SSDSE-B-2026 では A1101 (総人口) と A5101 (転入者数) の箱が最も広く、 B4101 (年平均気温) はほぼ 0 に張り付く。 これは「年平均気温は出生数の予測にほとんど寄与していない」という解釈を直接的に与えており、 feature_importances_ だけでは見えない 寄与の方向と分散 を同時に可視化できる点が SHAP の強みである。

3 つの図の使い分け早見表

実務上の選び方：探索段階では summary_plot → dependence_plot → force_plot の順で見るのが定石。 まず summary で全体感をつかみ、 気になる特徴量を dependence で深掘りし、 注目サンプルを force で個別説明する。 監査・規制対応では waterfall_plot が読み手にやさしい（金額の足し算として直感的）。

🧪 ケーススタディ深掘り — SSDSE-B-2026 東京・島根を SHAP で対比

SHAP の力は「個別予測を加法分解できる」点にある。 ここでは SSDSE-B-2026 (2023 年) の RandomForest で出生数（A4101）を予測した時の、 最大規模の東京都と小規模の島根県を SHAP で対比する。 同じモデルなのに、 寄与構造がまったく異なることが分かる。

基準値（base value）と予測値の関係

SHAP の Local Accuracy 公理 $f(x) = \phi_0 + \sum_{j=1}^{d} \phi_j$ は次のように読む：

• $\phi_0$ = base value：訓練データの予測平均（出生数の全国平均モデル予測値）。 SSDSE-B-2026 では約 21,800 人。
• $\phi_j$ = 各特徴量の寄与：「もしこの特徴量がなかったら予測はどれだけ下がるか」を Shapley 公理に従って公平に分配した値。
• $f(x)$ = 予測値：base value + 寄与の総和。 東京なら 8.7 万人、 島根なら 4 千人程度。

東京都の SHAP 内訳（仮想例 / 単位：人・出生数）

島根県の SHAP 内訳（同モデル / 単位：人・出生数）

同じモデルなのに、 寄与の構造はまったく違う

東京と島根の SHAP 表を並べると、 (1) 総人口の効き方が「上振れ」と「下振れ」で対称的、 (2) 合計特殊出生率は東京では全国最低のため負の寄与だが、 島根では高めのため正の寄与へ符号が反転、 (3) 65 歳以上人口はどちらでも出生数に負方向、 という 3 つの非自明な事実が読み取れる。 これは「特徴量の重要度ランキング」だけでは絶対に見えない、 個別予測ごとの構造的説明である。

SHAP の加法性の検証（公理 Local Accuracy）

上記表で $\phi_0 + \sum \phi_j \approx f(x)$ が厳密に成立するのが SHAP の核心。 もし TreeSHAP（厳密解）でこの等式が成り立たなければバグである。 一方 KernelSHAP（モンテカルロ近似）ではサンプル数不足で誤差が出るので、 nsamples を増やして検証するのが実務の鉄則。 残差 $|f(x) - \phi_0 - \sum \phi_j|$ が 1% 未満になるまで `nsamples` を倍々で増やすのが目安。

💼 業務での説明責任 — SHAP がなぜ採用されるか

SHAP がここ数年で爆発的に普及した理由は、 単に「面白い可視化」だからではなく、 規制と説明責任の要件を満たせるほぼ唯一の汎用手法だからだ。 EU AI Act（2024 施行）、 米国 NIST AI RMF、 日本の AI 事業者ガイドラインなど、 高リスク領域の AI には「予測の根拠を説明できること」が求められる。 ここでは業務ドメイン別に SHAP がどう使われているかをまとめる。

SHAP を採用する際の運用ガイドライン（業務 SOP の雛形）

1. 説明対象を明示：「学習データ全体での重要度」か「特定 1 件の予測説明」か。 前者は summary_plot、 後者は force_plot / waterfall_plot を使う。
2. 推定方式を選定：木モデル → TreeSHAP、 NN → DeepSHAP、 それ以外 → KernelSHAP。 KernelSHAP の場合は nsamples と background data を SOP に明記。
3. 反事実の確認：SHAP は「相関的説明」であり「因果的説明」ではない。 業務で「申込者が年収を 100 万円増やせば合格するか？」を答えたい場合は別途反事実分析が必要。
4. 個別予測の保存：規制対応として SHAP 値を予測ログと一緒に DB に保存（再現性）。 列スキーマは prediction_id, sample_id, feature, phi, base_value, model_version, timestamp。
5. 解釈の人間レビュー：SHAP 値の絶対値が大きい上位 3 特徴量について、 ドメイン専門家がレビューしビジネス的に妥当かを判定。 不当な特徴量（人種・性別など保護属性）が上位なら fairness 問題。
6. 説明のテンプレ化：「あなたの予測値は X です。 主な理由は (1) 特徴量 A が +Y、 (2) 特徴量 B が +Z、 (3) 特徴量 C が −W」というテンプレを SOP で固定。

SHAP が「使えない」場面と代替手法

万能ではない。 (1) 強い相関特徴量がある場合、 SHAP 値は Shapley 公理に従って「両方に半々ずつ」分配するため、 ビジネス解釈として「どちらの特徴量を改善すべきか」が不明瞭になる。 (2) 高次の相互作用が支配的なモデルでは Interaction Value が必要だが、 計算量は $O(d^2)$ に膨らむ。 (3) ディープな NLP / 画像では特徴量が「単語」「ピクセル」になり、 サマリープロットの解釈性が低い。 これらの場合、 LIME（局所線形近似）、 反事実説明、 注意機構（Attention）の可視化、 Integrated Gradients、 などを併用する。

🎯 理解度チェック — SHAP を学んだ証拠を作る

ここまで読んだあなたが、 SHAP を「使える」状態になっているかをチェックする。 すべての問いに「自分の言葉で」答えられれば Q5 達成。 つまずいた問いは該当セクションへ戻って復習する。

Level 1 — SHAP の基本定義

1. SHAP 値 $\phi_j$ を 1 行で定義せよ。 「ゲーム理論の Shapley 値を機械学習の特徴量寄与に応用したもの」だけでは不十分。 「base value からの寄与」「加法分解可能」「公理を満たす」の 3 要素を含めて述べよ。
2. Local Accuracy 公理 $f(x) = \phi_0 + \sum_j \phi_j$ を、 SSDSE-B-2026 の東京都の例で具体的な数字を入れて説明せよ。
3. SHAP 値が「特徴量重要度」ではなく「特徴量寄与」と呼ばれる理由を、 個別予測の文脈で説明せよ。

Level 2 — 推定方式の使い分け

4. TreeSHAP、 KernelSHAP、 DeepSHAP の 3 つを、 「対象モデル」「厳密 / 近似」「計算量」の 3 観点で表にせよ（本文の表を見ずに）。
5. KernelSHAP で nsamples を 2 倍にすると、 Local Accuracy 残差はどう変化するか？ 理論的に説明せよ。
6. LinearSHAP が解析解で求まる理由を、 線形モデル $f(x) = \beta_0 + \sum \beta_j x_j$ の構造から説明せよ。

Level 3 — 図の読み方

7. summary_plot（dot 版）の「点の縦位置」「色」「横位置」がそれぞれ何を表すか述べよ。
8. dependence_plot で特徴量 A の SHAP 値が「ある閾値で急に折れ曲がる」場合、 モデルが学んでいる関数形は何と解釈できるか？
9. waterfall_plot と force_plot は同じ情報を表すが、 監査資料として適しているのはどちらか？ なぜか？

Level 4 — 落とし穴と運用

10. SHAP は 因果関係を示さない。 SSDSE-B-2026 で「気温の SHAP が +320 だから気温が上がれば出生数が増える」と結論するのは何が間違いか？
11. 強い相関を持つ 2 特徴量 A, B がある場合、 SHAP は寄与をどう分配するか？ それがビジネス意思決定で困る理由を述べよ。
12. 保護属性（性別・人種）の SHAP 値が高い場合、 fairness の観点でどう対処すべきか？
13. SHAP 値を予測ログと一緒に DB 保存するべき理由を、 規制対応（EU AI Act など）と再現性の観点で述べよ。

Level 5 — 応用問題

14. SSDSE-B-2026 で「人口を一定にして消費支出だけ 10% 増やしたら出生数の予測値はどう動くか？」を SHAP で答えるとき、 dependence_plot ではなく Partial Dependence Plot を使うべき場合があるが、 それはどんな時か？
15. SHAP Interaction Value が、 単独 SHAP 値より教えてくれる情報を 1 文で述べよ。 また、 計算量が $O(d^2)$ に膨らむ理由を述べよ。
16. 業務で「SHAP の summary_plot を経営層に見せる」とき、 専門用語を使わずに 30 秒で要点を伝えるとしたら何を言うか？ 自分の言葉で考えてみよ。

自己採点の目安：Level 1-3 が全問正解できれば SHAP の理解として合格。 Level 4-5 まで答えられれば SHAP の活用として合格。 つまずいた問いがあれば、 上の該当セクションへ戻って読み直すこと。 特に Level 4 の「相関 vs 因果」「fairness」「監査ログ」は、 SHAP を業務で使う際の必須リテラシーである。

セルフチェック — 達成度自己評価表

結論：SHAP は「予測のレシート」を出すための、 現時点で最も理論的に整理された汎用説明手法である。 ただし「相関ベース」「特徴量間相関に弱い」「因果ではない」「計算量に注意」という 4 つの限界を理解した上で使うこと。 本ページの理解度チェックを全レベルクリアすれば、 実務で SHAP を語れる水準に到達している。

「SHAP値」を扱う際の手法選択は、 状況に応じて以下のフローで判断すると迷いが減る。

1. Step 1: 目的は記述か予測か?
   • 記述 (現状把握・要約) → 集計・可視化・要約統計量で全体像を掴む
   • 予測 (未知データへの推定) → モデル構築・検証フェーズへ移行
2. Step 2: データの種類・規模は?
   • 木モデル (RandomForest / XGBoost / LightGBM) → TreeSHAP で厳密値を高速計算
   • カテゴリ変数中心の表形式データ → Permutation Importance や Feature Importance と併用
   • 深層ニューラルネット → DeepSHAP (DeepLIFT 拡張)、 画像なら GradientSHAP
   • 任意のブラックボックス・大規模特徴量 → KernelSHAP (O(2^d) を MC サンプリングで近似)
3. Step 3: 結果の解釈・共有は?
   • 専門家向け → 数値指標・統計検定で精緻に評価
   • 非専門家向け → 可視化・自然言語での要約を重視

このフローに沿って判断することで、 「SHAP値」を中核とした適切な手法選択ができる。

🎨 直感をもう一段深める — 「公平な分け前」としての SHAP

SHAP の出発点は、 経済学者 L. S. Shapley が 1953 年に提案した協力ゲーム理論のシャープレイ値である。 元々は「複数のプレイヤーが協力して得た利得を、 各プレイヤーの貢献度に応じて公平に分配するにはどうすればよいか」という問いへの答えだった。 機械学習では「プレイヤー＝特徴量」「利得＝予測値」と読み替える。 各特徴量が予測という共同利得に対してどれだけ貢献したかを、 数学的に一意に定まる公平な配分として求めるのが SHAP である。

実データで加法性を確かめる（SSDSE-B-2026・2023 年・47 都道府県）

前掲コードと同じ構成（XGBRegressor(n_estimators=100, max_depth=4, random_state=42)、 特徴量 ['A1101','A1301','A1303','L3221','B4101']、 目的変数 A4101 出生数）で TreeSHAP を実行した実測値を示す。 基準値（背景平均予測）は E[f] = 15473.8。 東京都の予測を分解すると、 各特徴量の SHAP 値の合計が「予測 − 基準」に一致する（加法性）。

47 都道府県すべてで |f(x) − (E[f] + Σφ)| の最大値は約 0.02（浮動小数点誤差の範囲）で、 TreeSHAP が加法性を厳密に満たすことが確認できる。 これは次章で述べる効率性（Efficiency）公理そのものであり、 上部の 🎮 ウィジェットが緑パネルで常時検証している性質と同じである。

⚠️ 落とし穴をもう一段深める — 実測値で見る 7 つの誤読

SHAP は「公平で厳密」だが、 公平さの前提を理解せずに使うと数字が独り歩きする。 ここでは前章と同じ SSDSE-B-2026・2023 年の実測 SHAP 値を使い、 初学者が踏みやすい落とし穴を具体的な数値とともに整理する（既掲の落とし穴セクションと相補的に読んでほしい）。

① 相関特徴量で寄与が「分散・移動」する — 実測デモ

SSDSE-B-2026 では総人口 A1101 と 15 歳未満人口 A1301 の相関は 0.997、 A1101 と 65 歳以上人口 A1303 は 0.991 とほぼ同一情報を持つ。 相関が強い列が同居すると、 SHAP は「協力の分け前」をそれらの間で分け合う。 実際、 東京都の A1101 の SHAP 値は、 相関の強い A1301 を特徴量から外すと大きく変わる。

つまり「A1101 の SHAP が 5 万だから総人口の効果は 5 万」と絶対視するのは危険。 数字は「どの特徴量が同席しているか」に依存する。 対策は、 相関の高い列をグループ化する・事前に間引く・shap.maskers の相関を考慮した設定を使う、 など。 因果ではなくモデル内部の分担を見ている点を常に意識する。

② 局所（local）と大域（global）を取り違える — 実測デモ

「全体で最も重要な特徴量」と「ある 1 県で最も効いた特徴量」は一致しないことがある。 大域重要度（mean |SHAP|）では A1101 が支配的だが、 北海道の個別予測では A1301（15 歳未満人口）の押し上げが A1101 を上回る。

「summary_plot の棒グラフ（大域）で 1 位だから、 どの県でもそれが主因」と読むのは誤り。 政策やアクションをサブグループ別・個別に設計するには、 dependence_plot や層別集約で局所の分布を見る必要がある。

③〜⑦ 数字の裏にある前提

• ③ 計算コストと近似：厳密シャープレイ値は特徴量数 $M$ に対し $2^M$ の提携を評価する。 TreeSHAP は木構造を使い $O(TLD^2)$ で厳密値を返すが、 KernelSHAP はモンテカルロ近似で、 nsamples が小さいと Local Accuracy 残差が数 % 残る。 「SHAP 値」と一口に言っても厳密か近似かで信頼度が違う。
• ④ SHAP は因果ではない：SHAP は学習済みモデルの入出力関係を分解するだけ。 「A1101 の SHAP が正 → 人口を増やせば出生数が増える」は飛躍。 交絡（人口が所得・面積などと相関）を含む観測データでは、 介入効果には DAG・操作変数・差分の差分などの因果推論が別途必要。
• ⑤ 背景データ（baseline）の選択：SHAP 値は「基準値との差」で定義され、 基準値 E[f]=15473.8 は背景データの分布に依存する。 訓練データ全体・特定サブグループ・単一サンプルのどれを background に選ぶかで、 同じ予測でも SHAP 値が変わる。 報告時は必ず基準の定義を明記する。
• ⑥ 特徴量独立の仮定（TreeSHAP）：既定の TreeSHAP（path-dependent / interventional）は、 提携外の特徴量を扱う際に暗黙の分布仮定を置く。 特徴量が強く相関する現実データでは、 interventional（因果的介入）と conditional（条件付き）で SHAP 値が変わりうる。 ①の「分け合い」もこの仮定の帰結である。
• ⑦ 重要度の解釈：mean |SHAP| は「予測をどれだけ動かすか」の平均であって、 「予測精度への寄与」でも「因果的重要度」でもない。 符号を潰した絶対値の平均なので、 押し上げ・押し下げの方向は summary_plot の点分布や dependence_plot で別途確認する。

🚀 発展 — シャープレイ値の公理から因果 SHAP まで

シャープレイ値を一意に定める 4 公理

SHAP が「唯一の公平な分解」と呼べる根拠は、 シャープレイ値が次の 4 公理をすべて同時に満たす唯一の配分だからである（協力ゲーム理論の定理）。 SHAP はこれを機械学習の説明に持ち込んだ。

形式的には、 特徴量 $i$ のシャープレイ値は全提携 $S \subseteq M\setminus\{i\}$ にわたる限界貢献の重み付き平均 $\phi_i = \sum_{S} \frac{|S|!\,(M-|S|-1)!}{M!}\,[v(S\cup\{i\}) - v(S)]$ で与えられる。 ここで $v(S)$ は「特徴量集合 $S$ だけを使ったときの予測（の期待値）」。 上部ウィジェットの「全順列の限界貢献を平均」は、 この式を $M=3$ で全列挙したものに等しい。

推定アルゴリズムの系譜

厳密計算は $2^M$ 提携で現実的でないため、 モデル種別ごとに実用的な推定器が用意されている（本ページ「🌐 関連手法・派生」表と対応）。

• KernelSHAP：モデル非依存。 提携をサンプリングし、 シャープレイカーネルで重み付けした線形回帰としてシャープレイ値を近似する。 NN・SVM など任意モデルに使えるが重い。
• TreeSHAP：決定木アンサンブル専用。 木のパスに沿って条件付き期待値を動的計画法で厳密計算し、 $O(TLD^2)$ を達成。 構造化データの事実上の標準。
• DeepSHAP：深層ニューラルネット向け。 DeepLIFT の寄与伝播とシャープレイ値を接続し、 層ごとに寄与を逆伝播する。 画像・微分可能モデルでは GradientSHAP（Integrated Gradients 系）も。

SHAP 相互作用値（interaction values）

SHAP は相互作用を主効果から分離できる。 相互作用値 $\Phi_{i,j}$ は特徴量 $i,j$ が組んだときに生む追加寄与を表し、 対角成分が純粋な主効果、 非対角が交互作用になる（シャープレイ相互作用指数）。 東京都で shap_interaction_values を実測すると、 A1101 の純主効果は約 +50004、 A1101×A1301 の相互作用は約 -1687.7（左右対称に折半して割り付けられる）。 上部ウィジェットの「相互作用を 2 特徴へ公平に折半」は、 まさにこの性質の縮図である。

依存プロット・大域集約・因果 SHAP

• 依存プロット（dependence plot）：横軸に特徴量の値、 縦軸にその SHAP 値を取り、 関数形（非線形・閾値効果）を可視化する。 点の色に相関特徴量を割り当てると交互作用も読める。
• 大域集約（global aggregation）：局所 SHAP を全サンプルで mean(|SHAP|) 集約すると大域重要度になる（本ページ実測：A1101=9226.1 が最大）。 「局所を積み上げて大域を得る」構成は SHAP の統一性の核心で、 permutation importance などの純大域手法と対照的。
• 因果 SHAP（Causal / Asymmetric Shapley）：既定の SHAP は特徴量の因果順序を無視するが、 既知の因果グラフ（DAG）を制約に組み込み、 介入分布 $do(\cdot)$ の下でシャープレイ値を定義する拡張（Asymmetric Shapley Values, Causal Shapley Values など）。 「相関の分け合い」問題を因果構造で解消しようとする研究方向で、 SHAP と因果推論の橋渡しにあたる。

🔗 深掘り用の関連ページ

本ページの内容をさらに広げるための、 サイト内の関連ページへのリンク。 リンクが張られていない項目は、 現時点で個別ページが未整備のもの（用語として押さえておく）。