🔖 キーワード索引（補強）

p 値と仮説検定に関連する概念のチップ集。

🎨 直感で掴む

両側検定における棄却域（赤）の可視化。 観測された検定統計量が棄却域に入れば「有意」と判定する。 棄却域より外側の確率を合計した値がp値。

図を見ると、 標準正規分布の左右の裾（赤い領域）が「棄却域」です。 観測された統計量 z = 2.4 はこの棄却域の中にあります。 p値は「z ≥ 2.4 となる確率」と「z ≤ −2.4 となる確率」の合計で、 ここでは約 1.6% (0.016)。

言葉で言い換えると：「もし帰無仮説（差はない）が真だとしたら、 こんなに極端な検定統計量が出る確率は 1.6%。 100回中1〜2回しか起こらない稀なこと。 だから帰無仮説を棄却し、 『差はある』と主張する」というロジックです。

🎨 概念図で押さえる

p 値は 「帰無仮説が正しいと仮定した時に、 観測データ以上に極端な結果が出る確率」。 以下 3 つの図で「分布上の位置」「α との比較」「判定フロー」を視覚化する。

図 1: 帰無分布上で p 値が示す領域

→ 観測値より右の赤い裾の面積が p 値。 裾が小さい (=極端) ほど p 値も小さい。 なおこの図は片側検定の場合。 冒頭の図のような両側検定では左右両裾の面積を合計する。

図 2: 有意水準 α と p 値の関係

→ p 値が α (赤線) より左にあれば帰無仮説を棄却 (有意)。 α=0.05 は数直線上の固定点、 p 値はデータごとに動く点。

図 3: 判定フロー

→ 仮説 → α → p 値 → 判定。 p 値の解釈は機械的、 ただし「棄却できない=帰無仮説が正しい」ではない (保留)。

🎮 触って理解する

数式や図で見た p 値を、 実際に手を動かして確かめます。 スライダーを動かすと帰無分布の裾（＝p 値に対応する面積）がリアルタイムで塗り替わり、 「20 回検定」ボタンで p-hacking の危うさを体感できます。 計算はすべてこのブラウザ内で完結しており、 外部通信・外部ライブラリはありません。

🎚 デモ1：観測統計量を動かして p 値の面積を見る

スライダーで観測された検定統計量 z を動かしてください。 帰無分布 N(0,1) のもとで「観測値以上に極端な領域」（赤い裾）の面積が p 値です。 z を大きくすると裾が細くなり、 p 値が小さくなる（＝偶然では説明しにくくなる）様子が直感できます。 両側／右片側を切り替えると、 塗る裾が片側だけになり p 値がおよそ半分になることも確認できます。

🎲 デモ2：p-hacking 体験 — 「無関係」でも有意は出る

2 群ともまったく同じ分布から生成した乱数（＝本当は差が無い＝帰無仮説が真）で t 検定（Welch 近似）を行います。 これを 20 回繰り返すと、 差が無いはずなのに偶然 p<0.05 になる検定がちらほら現れます。 「有意になったものだけを選んで報告する」——これが p-hacking です。 何度も実行して、 偶然の有意がどれくらいの頻度で出るか確かめてください。

→ 理論値：1 回の検定が偶然有意になる確率は α=0.05。 20 回のうち少なくとも 1 回が有意になる確率は 1−(1−0.05)²⁰ ≈ 0.64（64%）。 だから「たくさん試して有意だけ拾う」と、 高い確率で偽陽性を掴みます。 対策が 多重検定の補正（Bonferroni・FDR）や 事前登録、 そして 再現性危機の文脈での慎重な解釈です。

🧭 整理：p 値の要点と「頻出の誤解」

2 つのデモを踏まえ、 p 値をめぐる代表的な誤解を正しい理解と対にして整理します。 いずれも実務・論文読解で繰り返し問われる論点です。

💡 信頼区間との関係：両側 p 値と信頼区間は表裏一体で、 「95% 信頼区間が帰無値（差なら 0、比なら 1）を含まない」ことと「両側 p<0.05」はほぼ等価です。 信頼区間は効果の大きさと精度も同時に見えるぶん情報量が多く、 デモ1 の p 値と合わせて読むと解釈が安定します（信頼区間）。

📐 数式

p値の定義式を以下に示す。 数式の各記号の意味は次節で言葉に翻訳する。

片側検定では「観測値より大きい（または小さい）側」だけの確率、 両側検定では左右両裾の合計を使う。

$$\text{右片側検定}: p = P(T \ge t_\text{obs} \mid H_0), \qquad \text{両側検定}: p = P(|T| \ge |t_\text{obs}| \mid H_0)$$

ここで $T$ は検定統計量、 $t_\text{obs}$ はデータから実際に得られた観測値、 「$\mid H_0$」は「帰無仮説 $H_0$ が真という条件のもとで」という条件付き確率を表す。 p値は「データが $H_0$ とどれだけ整合しないか」を測る指標であり、 $H_0$ 自体が正しい確率ではない点に注意（詳細は帰無仮説・仮説検定を参照）。

🔬 数式を「言葉」で読み解く

🔬 数式を言葉で読み解く — p 値

p 値の定義式 p = P(T ≥ t_obs | H_0) を 1 行ずつ分解する。

→ つまり「もし帰無仮説が正しいなら、 今回のような or それ以上に極端なデータが偶然出る確率」が p 値。 p=0.03 は「帰無仮説が正しい確率」ではない—— 「H_0 下で今回のデータが偶然出る確率」である。

🧪 理解度チェック — p 値

1. Q1. 「p=0.03 だから帰無仮説が正しい確率は 3%」は誤り。 何が間違っているか。
2. Q2. 片側検定と両側検定で p 値はどう変わるか。 デフォルトで両側を選ぶ理由は？
3. Q3. サンプル数を 10 倍にしたら p 値が小さくなった。 効果サイズが大きいと結論してよいか？
4. Q4. p ハッキング（p-hacking）の典型パターンを 3 つ挙げよ。
5. Q5. 多重検定で 20 個の独立な検定をしたとき、 少なくとも 1 つが偶然 p<0.05 になる確率は？

→ Q5 のヒント: 1 − (1 − 0.05)^20 ≈ 0.64。 つまり 64% の確率で「偽陽性が少なくとも 1 件」発生。 Bonferroni 補正等の多重比較対策が必要な理由。

📊 補足: p 値の解釈表

関連: 仮説検定 / 帰無仮説 / 有意水準 / 第一種の過誤 / 標準誤差 / 信頼区間 / 効果量 / 検出力 / 多重比較

🧮 計算してみる

「47都道府県で、 高齢化率と死亡率の相関が偶然に r = 0.972 になる確率」を計算してみましょう。

🎓 p値が抱える3つの根本問題（現代統計学の議論）

問題①：効果の大きさを示さない
p値は「偶然性の打ち消し度」であり、 効果がどれだけ大きいかは別問題。 n=10,000 のデータでは r=0.02（実用上ほぼ無意味）でも p<0.001 になります。 だから現代の論文では p値だけでなく 効果量（相関係数 r や標準化偏回帰係数 β）を併記するのが必須。

問題②：再現性の危機（reproducibility crisis）
2015年に Open Science Collaboration が心理学100本の論文を再現した結果、 p<0.05 で有意とされた研究のうち、 36% しか再現できなかった。 これは p<0.05 を機械的に「真理の閾値」として扱う文化への警鐘。

問題③：p-hacking（p値操作）
20個の変数で検定をすると、 帰無仮説がすべて真でも 1個くらいは p<0.05 が偶然出ます（5% × 20 = 1個）。 多くの変数を試して有意なものだけ報告する行為（p-hacking）が再現性を破壊します。 Bonferroni補正（α/m に厳しくする）や False Discovery Rate 制御（Benjamini-Hochberg法）で対処。

これらの問題を受けて、 American Statistical Association は 2016年に「p値の使い方に関する声明」を発表し、 「p < 0.05 という閾値の機械的適用」からの脱却を提言しています。

🧮 p値の計算手順

1. 帰無仮説 H₀ を設定：「差がない」「相関がない」「効果がない」
2. 検定統計量を計算：t統計量、 z統計量、 F統計量など
3. 検定統計量の理論分布を特定：t分布、 正規分布、 F分布
4. 分布上で観測値の外側の確率を計算：これが p値
5. p値と有意水準 α（通常 0.05）を比較：p < α なら H₀ 棄却

例：2標本t検定

$$ t = \frac{\bar{x}_1 - \bar{x}_2}{\sqrt{s_p^2 (1/n_1 + 1/n_2)}} \sim t(n_1+n_2-2) $$

計算した t を t分布に当てはめて、 両側 p値を計算。

🧮 SSDSE-B-2026 で実値計算 — p 値の実例

例1：t検定で東日本 vs 西日本の高齢化率を比較

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：p値を有意水準 α=0.05 と比較して偶然かどうかを判定し、 効果量（Cohen の d）で差の大きさを併せて評価する。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #3。東西2群に分けて Welch の t検定を行い、 p値と効果量を計算します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

import pandas as pd
from scipy import stats

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
east_prefs = ['北海道','青森県','岩手県','宮城県','秋田県','山形県','福島県',
              '茨城県','栃木県','群馬県','埼玉県','千葉県','東京都','神奈川県',
              '新潟県','富山県','石川県','福井県','山梨県','長野県','岐阜県',
              '静岡県','愛知県']
df['東西'] = df['都道府県'].apply(lambda p: '東' if p in east_prefs else '西')
col = df.select_dtypes('number').columns[0]
east = df[df['東西']=='東'][col].dropna()
west = df[df['東西']=='西'][col].dropna()

t, p = stats.ttest_ind(east, west, equal_var=False)
print(f't={t:.3f}, p={p:.4f}')
print(f'東日本平均={east.mean():.2f}, 西日本平均={west.mean():.2f}')
print(f'Cohen d = {(east.mean()-west.mean())/((east.std()+west.std())/2):.3f}')

例2：相関係数の p 値

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：算出された統計量を判定基準と比較し、有意性／効果量を評価する。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #4。主要な指標（係数・統計量・スコア）を算出します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14

import pandas as pd
from scipy import stats

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
num = df.select_dtypes('number')

# 全ペアの相関と p値
results = []
for i, c1 in enumerate(num.columns[:5]):
    for c2 in num.columns[i+1:6]:
        r, p = stats.pearsonr(num[c1], num[c2])
        results.append({'x': c1, 'y': c2, 'r': r, 'p': p})
res_df = pd.DataFrame(results).sort_values('p')
print(res_df.to_string(index=False))

例3：多重比較補正（Bonferroni と Benjamini-Hochberg）

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：p 値や信頼区間と合わせて読み、効果の有無＋大きさを両輪で判断する。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #5。仮説検定・モデル評価を行います。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20

import pandas as pd
from scipy import stats
from statsmodels.stats.multitest import multipletests

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
num = df.select_dtypes('number')
pvals = []
labels = []
for i, c1 in enumerate(num.columns[:6]):
    for c2 in num.columns[i+1:7]:
        _, p = stats.pearsonr(num[c1], num[c2])
        pvals.append(p)
        labels.append(f'{c1[:5]}-{c2[:5]}')

# 補正なし、 Bonferroni、 BH-FDR
rej_b, p_b, _, _ = multipletests(pvals, alpha=0.05, method='bonferroni')
rej_f, p_f, _, _ = multipletests(pvals, alpha=0.05, method='fdr_bh')

for l, p, b, f in zip(labels, pvals, p_b, p_f):
    print(f'{l}: raw={p:.4f}, Bonf={b:.4f}, BH={f:.4f}')

🧮 数式に値を入れて手で計算する: Z 検定の p 値

合成データで Z=2.5 の両側 p 値を計算する。

Step 1: 統計量

Step 2: p 値

Step 3: 補正後 (Bonferroni m=5)

🐍 Python で再現

1
2
3
4
5

from scipy.stats import norm
Z = 2.5
p_two = 2 * (1 - norm.cdf(abs(Z)))
print(f"両側 p = {p_two:.4f}")
print(f"単側 p = {1 - norm.cdf(Z):.4f}")

📤 実行結果

💬 手計算 (Step 2) 0.0124 と Python 出力が完全一致。

🐍 Python での p値計算

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #2。基本統計量を計算します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51

# ── この抜粋で使うデータを用意します ──
# 検定の書き方を並べた早見表なので、そのまま押せるように
# SSDSE-B-2026 から 2 群・対応あり・3 群のサンプルを作る。
import numpy as np
import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026'] == 2023]          # 2023 年の 47 都道府県
temp = df['B4101'].astype(float).values          # 年平均気温
group1 = g1 = temp[:24]                          # 北海道〜静岡
group2 = g2 = temp[24:]                          # 愛知〜沖縄
group3 = g3 = df['A4103'].astype(float).values   # 合計特殊出生率
data = temp                                      # 1 標本検定用
mu0 = float(temp.mean())
# 対応のあるデータ（同じ 47 県の 2012 年と 2023 年）
_all = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
before = _all[_all['SSDSE-B-2026'] == 2012]['A1101'].astype(float).values
after = _all[_all['SSDSE-B-2026'] == 2023]['A1101'].astype(float).values
cond1, cond2, cond3 = before, after, (before + after) / 2
x = df['A1101'].astype(float).values
y = df['A4101'].astype(float).values
observed = np.array([[20, 15], [12, 18]])        # クロス集計の例

from scipy import stats

# 1標本 t検定（平均が値 mu0 と等しいか）
t_stat, p = stats.ttest_1samp(data, popmean=mu0)

# 2標本 t検定（2群の平均差）
t_stat, p = stats.ttest_ind(group1, group2)

# 対応のあるt検定
t_stat, p = stats.ttest_rel(before, after)

# Welch の t検定（不等分散）
t_stat, p = stats.ttest_ind(g1, g2, equal_var=False)

# Mann-Whitney U検定（ノンパラ）
u_stat, p = stats.mannwhitneyu(g1, g2)

# Wilcoxon符号付き順位検定
w_stat, p = stats.wilcoxon(before, after)

# 相関係数の検定
r, p = stats.pearsonr(x, y)

# カイ二乗検定
chi2, p, dof, expected = stats.chi2_contingency(observed)

# F検定（ANOVA）
f_stat, p = stats.f_oneway(g1, g2, g3)

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

🧪 1標本検定の流れ — SSDSE データで実演

「47都道府県の食料費の母平均は本当に80千円か？」を検定します。

1. H₀: μ = 80（平均は80千円）
   H₁: μ ≠ 80（両側）
2. 有意水準: α = 0.05
3. 検定統計量: t = (x̄ - 80) / (s/√n)
4. 計算: x̄ = 80.6、 s = 5.84、 n = 47
   t = (80.6 - 80) / (5.84/√47) = 0.70
5. p値: t分布(df=46) で |t| ≥ 0.70 の確率 ≈ 0.49
6. 判定: 0.49 > 0.05 なので H₀ 不棄却

つまり「食料費の母平均が80千円である」と矛盾する強い証拠は得られない、 という結論。

↔️ 片側検定 vs 両側検定

事前に「方向」が決まっているなら片側検定、 そうでなければ両側検定が標準。

⚠️ データを見てから片側にするのは禁忌（p-hacking）。 必ず事前に決めること。

📈 p-hacking と再現性危機

「p < 0.05 になるまで分析を変える」のが p-hacking。 結果として、 「有意」とされた研究の多くが再現できない事態に（再現性危機, 2010s）。

対策

• 事前登録（pre-registration）：仮説と分析計画を事前に公開
• 多重比較補正：たくさん検定する場合は α を調整
• 効果量と信頼区間の併記：p値だけで判断しない
• 事前検出力解析：適切なサンプルサイズを設計
• 再現研究を歓迎する文化

🐍 Python 実装バリエーション（scipy / statsmodels / pingouin / scikit-learn）

1. scipy.stats — 主要検定のワンライナー

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：表示された数値テーブルから個別の都道府県の位置づけを読み取る。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #6。結果を整形して表示します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20

from scipy import stats
import numpy as np

# 1) 1標本 t 検定
print(stats.ttest_1samp([100, 102, 98, 105, 99], popmean=100))

# 2) 2標本 t 検定（独立）
print(stats.ttest_ind([10,12,9,11], [15,14,16,13], equal_var=False))

# 3) 対応のある t 検定
print(stats.ttest_rel([10,12,9,11], [11,13,10,12]))

# 4) Mann-Whitney U（ノンパラ）
print(stats.mannwhitneyu([10,12,9,11], [15,14,16,13]))

# 5) χ²検定
print(stats.chi2_contingency([[10,20],[30,40]]))

# 6) ANOVA
print(stats.f_oneway([1,2,3], [4,5,6], [7,8,9]))

2. statsmodels — 多重比較補正と power

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：SSDSE-B-2026 の実値に当てはめると教科書例より分散が大きいことに注意。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #7。47都道府県データに当てはめて確認します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13

from statsmodels.stats.multitest import multipletests
from statsmodels.stats.weightstats import ttest_ind
from statsmodels.stats.power import TTestIndPower

pvals = [0.001, 0.008, 0.039, 0.042, 0.051, 0.20]
# Bonferroni
print('Bonferroni:', multipletests(pvals, method='bonferroni'))
# Benjamini-Hochberg
print('BH-FDR:', multipletests(pvals, method='fdr_bh'))

# 事前 power 解析
print('必要 n (d=0.5):', TTestIndPower().solve_power(
    effect_size=0.5, alpha=0.05, power=0.8))

3. pingouin — 高水準で結果表示が美しい

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：別パターンと比べることで、手法選択の感度を体感できる。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #8。比較・別パターンを検討します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

import pingouin as pg
import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
num = df.select_dtypes('number')

# 全変数ペアの相関 + p値 + FDR 補正
result = pg.pairwise_corr(num.iloc[:, :5], method='pearson',
                          padjust='fdr_bh')
# pingouin の版によって列名が違うので、実際にある列だけを選ぶ
_want = [c for c in ['X', 'Y', 'r', 'p-unc', 'p-corr', 'p-val'] if c in result.columns]
print(result[_want].head(10))

4. scikit-learn — 特徴量選択での p 値利用

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：ハイパーパラメータで結果が大きく変わる場合は安定性を疑う。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #9。ハイパーパラメータを変えて再計算します。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

from sklearn.feature_selection import SelectKBest, f_regression
import pandas as pd

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
num = df.select_dtypes('number').dropna()
y = num.iloc[:, 0]
X = num.iloc[:, 1:10]

selector = SelectKBest(score_func=f_regression, k=5)
selector.fit(X, y)
for col, score, p in zip(X.columns, selector.scores_, selector.pvalues_):
    print(f'{col}: F={score:.2f}, p={p:.4f}')

5. シミュレーションで p 値の分布を確認

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

💬 読み方：最終結果は CSV／プロットとして保存しておくと後続分析で再利用できる。

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #10。最終結果のまとめ・保存を行います。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17

import numpy as np
from scipy import stats
import pandas as pd

# SSDSE データからリサンプリングで p 値の分布
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
x = df.select_dtypes('number').iloc[:, 0].dropna().values
rng = np.random.default_rng(0)

pvals = []
for _ in range(1000):
    a = rng.choice(x, 20, replace=True)
    b = rng.choice(x, 20, replace=True)
    _, p = stats.ttest_ind(a, b)
    pvals.append(p)
# 帰無仮説下なら p は一様分布になるはず
print(f'p < 0.05 の頻度: {np.mean(np.array(pvals) < 0.05):.3f} (理論値 0.05)')

⚠️ よくある落とし穴

👁️ 直感 — p値は「偶然この結果が出る確率」

p値（p-value）は、 「帰無仮説 H₀ が正しいと仮定したとき、 観測されたデータ以上に極端な結果が偶然出る確率」。 統計的仮説検定の中核概念。

赤の領域が p値。 観測値（t=2.3）より極端な値が偶然出る確率。 これが小さい（< 0.05）なら「偶然ではない」→ H₀ 棄却。

💡 p値は「H₁ が正しい確率」ではない。 「H₀ のもとで、 この結果が偶然出る確率」。 解釈をよく間違える人が多い。

⚠️ p値の重大な誤解 — 一覧

⚠️ ASA（米国統計学会）声明（2016）：p値だけで結論を出さない、 「統計的有意 = 重要」ではない、 効果量と信頼区間を併記しよう。 これが現代の標準。

🎯 多重比較問題

「100回検定して、 1回でも p < 0.05 が出る確率は約99%」。 たくさんの検定を行うと、 偶然に有意になる確率が膨らみます。

補正法

• Bonferroni 補正：α / 検定数で判定。 厳しすぎ
• Holm 法：段階的に厳しさを緩める
• Benjamini-Hochberg (FDR)：偽発見率を制御。 現代の主流

🎯 このコードでやること：p値 — 帰無仮説のもとで観測値より極端な結果が生じる確率に関連するステップ #1。最初のスニペットです。SSDSE-B-2026 を読み込みます。

📥 入力例（df.head()）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=2)
# 47都道府県 × 多数指標。 高齢化率や所得などを群間で比較し p 値を出します。
# df[['Prefecture','Y_2020']].head():
#   Prefecture  Y_2020
# 0 北海道       28.6
# 1 青森県       31.4
# 2 岩手県       31.2
# 3 宮城県       26.4
# 4 秋田県       33.7

1
2
3

from statsmodels.stats.multitest import multipletests
p_values = [0.001, 0.01, 0.03, 0.04, 0.20]
rejected, p_adj, _, _ = multipletests(p_values, method='fdr_bh')

📤 実行例（実行時の標準出力）
t統計量 = 2.473, p値 = 0.0173
→ 5% 水準で帰無仮説を棄却（差は偶然とは言えない）
Cohen の d = 0.71 （中〜大の効果量）
処理完了

📏 効果量 — p値だけでは不十分

p値は「偶然じゃない」を測るが、 「どれだけ大きい効果か」は測れません。 効果量（effect size）が必要：

⚠️ p 値の落とし穴（補強・各 100 文字以上）

🌐 関連手法・派生

関連する手法・派生バリエーション。

p 値 (p-value) は、 帰無仮説が真であると仮定したときに、 観測された統計量以上に極端な値が得られる確率である。 「データが帰無仮説とどれだけ整合しないか」の度合いを 0〜1 の数値で示すもので、 仮説そのものの真偽確率ではない点が誤解されやすい。

• 帰無仮説・対立仮説: p 値はあくまで帰無仮説下の確率 — 仮説そのものの真偽確率ではない
• 有意水準 α: 事前に決める棄却基準 (0.05 が慣例) — p < α で棄却
• 検出力 (1−β): 対立仮説が真のとき棄却できる確率 — 標本サイズ設計で重要
• 多重検定補正 (Bonferroni, BH-FDR): 多数検定での偽陽性を制御
• 効果量 (Cohen の d, r): p 値だけでは見えない「効果の大きさ」を補完
• ベイズ因子: 帰無 vs 対立の証拠強度を確率比で評価 — p 値の代替・補完

p < 0.05 だけで判断する p-hacking を避けるため、 効果量・信頼区間・事前登録 (preregistration) と一体で運用するのが現代統計の標準。

🔗 関連用語

🔗 関連用語ネットワーク（前提・並列・発展）

📚 前提となる用語

• 標準誤差 — 検定統計量の分母
• 正規分布 — 検定分布の基盤
• 母集団と標本
• 確率分布
• 仮説検定の論理

🔀 並列の概念

• 信頼区間 — p値の双子
• 効果量 — p値の相棒
• 有意水準 (α)
• 第一種の過誤 (α過誤)
• 第二種の過誤 (β過誤)
• 検出力 (1-β)
• ベイズ因子 — 別パラダイム

🚀 発展的トピック

• 多重比較補正 — Bonferroni, FDR
• メタ分析・複数実験の統合 — 複数研究を統合
• ベイズ統計 — 事後確率による推測
• 再現性・事前登録（仮説検定の枠組み）
• 並べ替え検定 — 仮定の少ない代替

🔗 直近の隣人

• t検定
• カイ二乗検定
• F検定
• 相関係数

📌 補足セクション — p 値を SSDSE-B-2026 で確かめる

本セクションは「p 値」を 47都道府県データ（SSDSE-B-2026）で具体的に確認するための追加教材です。 例として都道府県の相関係数 0.95 の有意性を扱います。

🧮 実値で計算してみる — p 値

1
2

# 最小コード（直書き）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28

import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
# 1 行目の日本語見出しを除外し、コード列（A1101, I5102 等）で参照

# 2023 年の 47都道府県スナップショット
sub = df[df['SSDSE-B-2026'] == 2023].copy()
x = sub['A1101'].astype(float)   # 総人口
y = sub['I5102'].astype(float)   # 一般診療所数

# p 値の基礎統計
x_mean, y_mean = x.mean(), y.mean()
beta1 = ((x - x_mean) * (y - y_mean)).sum() / ((x - x_mean) ** 2).sum()
beta0 = y_mean - beta1 * x_mean

print(f'n = {len(x)}')             # 47
print(f'beta1 = {beta1:,.4f}')     # 傾き
print(f'beta0 = {beta0:,.4f}')     # 切片
print(f'相関係数 = {x.corr(y):.4f}')  # 0.97 になる

# 残差・決定係数も計算
y_hat = beta0 + beta1 * x
resid = y - y_hat
ss_res = (resid ** 2).sum()
ss_tot = ((y - y_mean) ** 2).sum()
r2 = 1 - ss_res / ss_tot
print(f'R^2 = {r2:.4f}')

⚠️ 補足の落とし穴

• 都道府県データはサンプルサイズ 47 が固定：標本数を増やせないため、 統計的検定の検出力は中程度に留まります。 解釈時にこの限界を意識してください。
• スケールの違い：総人口（百万単位）と一般診療所数（千単位）など、 桁が大きく異なる変数は標準化して扱うのが安全です。
• 東京・大阪等の影響点：少数の大都市が回帰や相関の結果を大きく動かすことがあります。 影響統計量（てこ比、 クックの距離）の確認を推奨します。

🔗 関連用語（補足リンク）

📚 関連グループ教材

p value を学ぶ際に併読すると理解が深まる関連グループ教材を以下にまとめる。

• 📚 用語集トップ — 全 514 用語のインデックス
• 🌐 関連手法・派生 — p value と関連する具体的な手法群
• 🔗 隣接手法への橋渡し — p value と組み合わせる前段・後段手法
• 🌳 手法選択フロー — p value を含む手法の使い分け判断
• 🗺 全体概念マップ — 用語集全体の関係図

これらを順に参照することで、 p value を中核とした分析の体系的理解が得られる。

🗺️ 概念マップ — 3つの視点で体系を理解する

p値 がデータサイエンスの体系の中でどこに位置するかを、 3つの異なる視点で可視化します。 同じ情報でも見方を変えると気付きが変わります。

📍 体系階層のパス

🌐 統計・データサイエンス › 推測統計 › 検定 › p値

① 🔗 関係マップ — 「他の手法とどう繋がっているか」

中心に p値 を置き、 そこから 有意水準・信頼区間・正規分布・標準誤差・t検定・F検定 など 計 20 個の用語へ、 前提・兄弟・発展形といった関係を矢印で結んでいます。 線がどちら向きかを見れば、 先に読むべき用語とあとから読む用語が分かります。 ノードはドラッグで動かせ、 ホイールでズーム、 クリックでその用語のページへ遷移します。

② ⭕ 包含マップ — 「どのカテゴリに含まれているか」

大きな円が小さな円を包含する Circle Packing 図。 「p値」は緑色でハイライト。

• カテゴリ円をクリック：その内部にズームイン
• 白背景クリック：1階層戻る
• 用語円をクリック：詳細ページへ遷移
• マウスホバー：階層パス表示

③ 🌳 ツリーマップ — 「面積で見るボリューム比較」

長方形を入れ子に分割した Treemap 図。 各分野の規模感を面積で比較。 「p値」は緑色でハイライト。

• カテゴリ矩形をクリック：その内部にドリルダウン
• パンくず（上のリンク）クリック：その階層に戻る
• 用語矩形をクリック：詳細ページへ遷移
• マウスホバー：階層パスと値を表示

🎯 3つのマップの使い分け

💡 3 つの図は同じ位置関係を別の角度から描いています。 関係マップは p値 の隣に何が並ぶかを、 包含マップとツリーマップは 統計・データサイエンス → 検定 → p値 という入れ子の位置を示します。 「検定には他に何があったか」を思い出したいときは包含マップを、 「次に何を読むか」を決めたいときは関係マップを開いてください。

🔗 隣接手法への橋渡し

「p 値」は単独で完結せず、 前後の手法と組み合わさって価値が発揮される。 入力データの準備 (上流)・同目的の代替手法との比較 (並列)・結果の活用 (下流) という 3 軸で隣接領域を整理する。

• 上流 (入力の準備): 帰無仮説・対立仮説 の設定、 検定統計量 の計算
• 並列 (同目的の代替): 信頼区間、 効果量、 ベイズ因子 が同じ問いに別角度から答える代替
• 下流 (結果の活用): 多重検定 補正 (Bonferroni・FDR)、 事前登録 による p ハッキング警戒、 再現性危機 文脈での解釈

この上流・並列・下流の対応を地図化することで、 「p 値」を中核に据えた分析パイプライン (データ準備 → 手法選択 → 結果の検証と展開) の全体像が見えてくる。

🌳 手法選択フロー

「p value」を含む手法選択は、 データの性質・分析目的・運用制約の 3 軸で決まる。 以下に典型シナリオと対応する手法の組合せを示す。

典型シナリオ別の手法選択

選んだ後の検証ステップ

1. 前処理確認: 標準化 / 欠損処理 / カテゴリ変数のエンコード が適切か
2. ハイパラ調整: 交差検証で安定する値を選ぶ
3. 性能評価: タスクに応じた指標 (RMSE / Accuracy / F1 / AUC / シルエット等) を複数併用
4. 頑健性チェック: 別手法 / 別シードで結果が大きく違わないか確認
5. 解釈: 結果を分野知識と照らし合わせ、 意味のある発見になっているか検討

🔎 さらに深く理解する（追補）

この節は既存の解説を壊さずに、 「直感」「重要な落とし穴」「発展」を一望できるよう再整理した追補です。 数値はすべて SSDSE-B-2026（2023 年・47都道府県）の実測値、 または「架空」と明記した思考実験のみを用います。

🧭 直感：p 値は「H₀ が真なら、 これほど極端なデータが偶然出る確率」

帰無仮説 H₀（差や関係がない）が真だと仮定したとき、 手元の観測値以上に極端なデータが得られる確率が p 値です。 p が小さいほど「H₀ という前提と、 実際に得られたデータが両立しにくい」ことを意味します。 逆に p が大きければ「この程度のズレは H₀ のもとでも普通に起こる」だけのこと。 したがって、 p 値は H₀ が正しい確率そのものではありません——ここが全ての誤解の出発点です（帰無仮説・仮説検定）。

実例：総人口 A1101 と 一般診療所数 I5102 は r = 0.972, 両側 p ≈ 8×10⁻³⁰（実測）。 |r| が閾値 0.29 を大きく超えるため、 p は天文学的に小さくなります（＝「無関係な世界」ではまず起こり得ない）。

⚠️ 重要な落とし穴（誤読チェックリスト）

いずれも論文読解・実務で繰り返し問われる論点です。 既出の「⚠️ よくある落とし穴」節と合わせて確認してください。

🧪 実測で見る「p>0.05 は"差がない"証明ではない」

🔬 標本サイズで p は動く（架空の思考実験）

下は架空の数値例です（実データではなく、 同じ相関 r = 0.25 が異なる標本サイズで得られたと仮定した計算）。 効果の大きさ（r）が同じでも、 n が増えるだけで p は小さくなります。

🚀 発展：p 値と併用・代替すべき道具

• 効果量と信頼区間の併記：p は「有無」しか語らない。 効果の大きさと不確かさを効果量・信頼区間で補う。 両側 p<0.05 と「95% 信頼区間が帰無値を含まない」はほぼ等価だが、 信頼区間の方が情報量が多い。
• ASA 声明（2016）：米国統計学会は「p<0.05 の機械的適用からの脱却」を提言。 p 値だけで結論せず、 効果量・信頼区間・研究文脈と一体で判断するのが現代の作法。
• 多重比較補正：Bonferroni（α を検定数 m で割る＝厳しめ）、 Benjamini-Hochberg（FDR を制御＝現代の主流）。 多重検定を行うときは必須。
• ベイズ的アプローチ：ベイズ因子や事後確率は「データを見た後の H₀ / H₁ の確からしさ」を直接扱う。 p 値では計算していない $P(H_0\mid\text{data})$ に答える代替パラダイム。
• 事前登録と再現性問題：仮説・分析計画をデータ取得前に公開し、 探索と検証を分離。 検出力分析で適切な標本サイズを事前設計することも、 偽陽性・偽陰性の抑制につながる。

🔗 この節の関連ページ

仮説検定 / 帰無仮説 / 対立仮説 / 有意水準 / 第一種の過誤 / 第二種の過誤 / 検出力 / 検出力分析 / 効果量 / 信頼区間 / 標準誤差 / 母集団と標本 / 多重比較 / 多重検定 / FDR / 事前登録 / 再現性危機 / ベイズ因子 / t検定 / 相関係数