🔖 キーワード索引（拡充版）

🎨 直感 📐 評価指標 🔬 数式を言葉で読み解く 🧮 手計算 🐍 k-匿名性 🐍 fairlearn 🐍 SHAP 🐍 disparate impact ⚠️ 落とし穴 🌐 関連手法 🔗 関連用語 📚 教材

💡 30 秒で分かる結論（拡充版）

• ELSI = Ethical, Legal, and Social Issues。 新興技術 (AI/ゲノム/ナノ) の倫理的・法的・社会的影響を予測・対処する枠組み。
• 1990 年米国ヒトゲノム計画で「予算の 3-5% を ELSI 研究に充てる」方針として誕生。 以後、 AI 規制 (EU AI Act 2024)、 日本の AI 戦略 2024 でも基本枠組み。
• 主要指標: k-匿名性 (k ≥ 5 推奨)、 disparate impact (DI) ratio (0.8 以上で公平)、 SHAP値 による説明可能性、 fairlearn による demographic parity 計算。
• SSDSE-B-2026 を AI 訓練に使う際の ELSI 課題: 東京/鳥取の人口比 26.2 倍 (DI 違反)、 上位 5 県で全体の 37.7% 集中 (代表性バイアス)、 高齢化率 22.8%(東京)〜39.1%(秋田) で予測モデルの誤差地域差。
• 「ELSI = 倫理委員会だけの仕事」ではなく、 データサイエンティスト自身がコード段階で実装すべき (k-anonymity、 fairness metric 計算等)。

📍 文脈ボックス

🎨 直感で掴む

ELSI は「新しい技術を作る前に、 倫理・法律・社会への影響を考えよう」という枠組み。 3 つの側面で別々に検討する。

医療画像 AI を例にすると、 ① 倫理: 誤診で患者を傷つけないか、 ② 法的: 医療機器認証 PMDA は通っているか、 ③ 社会: 既存の医師の役割をどう変えるか。 これら 3 つを開発初期から検討する。

📐 数式または定義

k-匿名性 (k-anonymity): 各レコードが少なくとも k-1 個の他レコードと quasi-identifier (準識別子) が一致するように汎化。

$$\forall r \in D,\ |\{r' \in D : r'[Q] = r[Q]\}| \geq k$$

$D$ はデータセット、 $Q$ は準識別子集合 (都道府県 + 性別 + 年齢階級等)、 $k=5$ 以上が推奨。

Disparate Impact (DI) Ratio: 保護属性グループ間の選択率の比。

$$\text{DI} = \frac{P(\hat{Y}=1 | A=\text{unprivileged})}{P(\hat{Y}=1 | A=\text{privileged})}$$

$\text{DI} \geq 0.8$ (4/5 ルール、 米国 EEOC 1978) で「公平」と判定。

Demographic Parity (DP):

$$P(\hat{Y}=1 | A=a) = P(\hat{Y}=1 | A=b) \quad \forall a, b$$

差 $|\text{DP}_a - \text{DP}_b| < 0.1$ で「ほぼ公平」。

Equalized Odds (EO): TPR と FPR を全グループで揃える。

$$P(\hat{Y}=1 | Y=y, A=a) = P(\hat{Y}=1 | Y=y, A=b) \quad \forall y, a, b$$

SHAP 値 (Shapley value 分解): モデル予測 $f(x)$ への各特徴量 $i$ の寄与:

$$\phi_i = \sum_{S \subseteq F \setminus \{i\}} \frac{|S|!(|F|-|S|-1)!}{|F|!} \left[f(S \cup \{i\}) - f(S)\right]$$

🔬 数式を言葉で読み解く

🧮 実値で計算してみる

SSDSE-B-2026 の 47 都道府県を AI モデル訓練に使う際の ELSI チェック実値。

💬 読み解き: SSDSE-B は集計データなので k-匿名性は満たすが、 代表性バイアスが深刻。 上位 5 県で全体の 37.7% を占めるため、 機械学習モデルは大都市パターンに過剰適合し、 鳥取・島根のような小県を「異常値」と誤判定する可能性。 これが algorithmic bias の典型。

🐍 Python 実装

① pandas で k-匿名性チェック

🎯 このコードでやること: SSDSE-B-2026 の 47 都道府県 × 性別 × 年齢階級でグループサイズを計算し、 k=5 未満のグループ (個人特定リスクあり) を列挙する。

📥 入力データ (SSDSE-B-2026.csv 抜粋):

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30

import pandas as pd
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026']==2023].reset_index(drop=True)

# 都道府県 × 性別 × 年齢階級 = 47 × 2 × 3 = 282 グループ
# A130101=15歳未満男, A130102=15歳未満女
# A130201=15-64歳男,  A130202=15-64歳女
# A130301=65歳以上男, A130302=65歳以上女
cols = ['A130101','A130102','A130201','A130202','A130301','A130302']
group_labels = ['15歳未満男','15歳未満女','15-64男','15-64女','65以上男','65以上女']

# 全グループサイズを 1 つのテーブルに
records = []
for i in range(47):
    for col, lbl in zip(cols, group_labels):
        records.append({
            'Prefecture': df['Prefecture'][i],
            'Group': lbl,
            'Size': int(df[col][i])
        })
ksum = pd.DataFrame(records)
print(f'総グループ数 = {len(ksum)}')
print(f'平均グループサイズ = {ksum["Size"].mean():.0f}')
print(f'最小グループサイズ = {ksum["Size"].min():,}')
print(f'\n▼ サイズ最小 top5 (k=5 未満なら警告):')
print(ksum.nsmallest(5, 'Size').to_string(index=False))

# k=5 違反チェック (集計データなのでなしの想定)
viol = ksum[ksum['Size'] < 5]
print(f'\nk=5 違反グループ数 = {len(viol)}')

📤 実行結果:

💬 読み解き: SSDSE-B は都道府県・年齢階級まで丸めた集計データなので、 全グループが 31,000 人以上で k-匿名性は問題なし。 ただし、 これを 市町村レベルに細分化すると一気に k<5 グループが出現する (個人特定リスク)。 集約レベルが ELSI を決める。

② fairlearn で demographic parity 計算

🎯 このコードでやること: 「保育所新設すべき県」を判定する仮想 AI モデルが、 大都市と地方で公平に判定しているか fairlearn で評価する。

📥 入力データ: ① の df から「保育所利用待機児童数 J2503」と「保育所定員数 J2505」を使用。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39

import pandas as pd, numpy as np
from sklearn.linear_model import LogisticRegression
from fairlearn.metrics import demographic_parity_difference, demographic_parity_ratio
from fairlearn.metrics import MetricFrame
from sklearn.metrics import accuracy_score

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026']==2023].reset_index(drop=True)

# 目的変数: 待機児童率 (J250502/J2505) が中央値以上なら「保育所新設すべき」
df['wait_ratio'] = df['J250502'] / df['J2505']
y = (df['wait_ratio'] > df['wait_ratio'].median()).astype(int)

# 特徴量: 人口・出生率・婚姻
X = df[['A1101','A4103','A9101']].astype(float).values

# 保護属性: 「大都市県」 vs 「地方県」 (人口上位 10 を privileged)
top10 = df['A1101'].nlargest(10).index
A = np.array(['large' if i in top10 else 'small' for i in range(47)])

# モデル訓練
model = LogisticRegression(max_iter=1000).fit(X, y)
y_pred = model.predict(X)

# 公平性メトリクス
dp_diff  = demographic_parity_difference(y, y_pred, sensitive_features=A)
dp_ratio = demographic_parity_ratio(y, y_pred, sensitive_features=A)
acc      = accuracy_score(y, y_pred)

# グループ別精度
mf = MetricFrame(metrics={'accuracy': accuracy_score},
                 y_true=y, y_pred=y_pred, sensitive_features=A)

print(f'モデル全体 精度        = {acc:.4f}')
print(f'グループ別精度:\n{mf.by_group}')
print(f'\nDemographic Parity 差    = {dp_diff:.4f} (0.1 未満で公平)')
print(f'Demographic Parity 比    = {dp_ratio:.4f} (0.8 以上で公平)')
if dp_ratio < 0.8:
    print('⚠️ Disparate Impact 違反: 4/5 ルール未達')

📤 実行結果:

💬 読み解き: 全体精度は 63.8% で、 大都市県 (large) と地方県 (small) の待機児童予測の選択率が極端に違う (DP 差 0.89、 DP 比 0.11)。 4/5 ルール (0.8) を大幅に下回り、 大都市はほぼ全県が「保育所新設」、 地方はほとんど「不要」と判定される — 既存の都市偏重を AI が増幅する典型例。 なお MetricFrame のグループ別精度も large 0.80 vs small 0.59 と差があり、 精度自体もグループ間で不均衡。

③ SHAP で予測の説明可能性

🎯 このコードでやること: ② のモデルが「なぜ東京を保育所新設と判定したか」を SHAP 値で分解し、 各特徴量の貢献度を明示する。

📥 入力データ: ② の X, model, df。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21

import shap, numpy as np, matplotlib.pyplot as plt

# SHAP explainer
explainer = shap.LinearExplainer(model, X)
shap_values = explainer.shap_values(X)

# 東京 (index=12) の SHAP 値
tokyo_idx = df[df['Prefecture']=='東京都'].index[0]
feature_names = ['人口', '出生率', '婚姻件数']
print(f'\n東京の予測説明:')
print(f'モデル予測 (確率): {model.predict_proba(X[tokyo_idx:tokyo_idx+1])[0,1]:.4f}')
print(f'ベースライン (平均予測): {explainer.expected_value:.4f}')
print('特徴量別 SHAP 値:')
for name, val, raw in zip(feature_names, shap_values[tokyo_idx], X[tokyo_idx]):
    sign = '+' if val >= 0 else ''
    print(f'  {name:8s}  raw={raw:>14,.2f}  SHAP={sign}{val:.4f}')

# 全 47 県の SHAP 値分布 (summary plot)
shap.summary_plot(shap_values, X, feature_names=feature_names, show=False)
plt.savefig('shap_summary.png', dpi=120, bbox_inches='tight')
print('\n保存: shap_summary.png')

📤 実行結果:

💬 読み解き: SHAP 値は対数オッズへの寄与で、 東京を「保育所新設」へ強く押し上げているのは 婚姻件数 (SHAP=+3.16) と 人口 (SHAP=+1.50)。 出生率は東京が全国最低だが、 生の特徴量をスケーリングせず投入しているため寄与は小さい (+0.12)。 逆に言えば「特徴量を標準化しないと、 桁の大きい特徴量 (婚姻件数・人口) が説明を支配する」という XAI の落とし穴も同時に見える。 いずれにせよ SHAP 分解で「なぜこの判定か」を数値で示せることが、 ELSI レビューでの説明責任 (accountability) を担保する。

④ Disparate Impact を都道府県カテゴリで可視化

🎯 このコードでやること: 47 都道府県を「人口三分位 (上位/中位/下位)」に分け、 ② のモデルの判定率を比較。 4/5 ルール (DI ≥ 0.8) を満たすかチェック。

📥 入力データ: ② の y_pred, df。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42

import pandas as pd

# ── この抜粋だけで動くように、47 都道府県・最新年度を読み込む ──
_d = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
_d = _d[_d['SSDSE-B-2026'] == 2023]
import matplotlib.pyplot as plt
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler

# ── この抜粋だけで動くように、判定結果 y_pred を作る ──
df = _d.copy()
_X = StandardScaler().fit_transform(df[['A1303', 'L3221']].astype(float))
_y = (df['A4101'] > df['A4101'].median()).astype(int).values   # 出生数が多い県か
y_pred = LogisticRegression(max_iter=1000).fit(_X, _y).predict(_X)

# 人口を 3 分位に分割
df['category'] = pd.qcut(df['A1101'], 3, labels=['小県(下位16)','中県(中位15)','大県(上位16)'])

# カテゴリ別の選択率 (y_pred=1 の割合)
sel_rate = pd.DataFrame({
    'Category': df['category'],
    'Selected': y_pred,
}).groupby('Category', observed=True)['Selected'].mean()

print('▼ カテゴリ別 選択率 (保育所新設判定割合)')
print(sel_rate)

# DI ratio (各小カテゴリ / 最大カテゴリ)
base = sel_rate.max()
print(f'\n▼ Disparate Impact (vs 最大選択率 {base:.4f}):')
for cat, rate in sel_rate.items():
    di = rate / base if base > 0 else 0
    flag = '✓' if di >= 0.8 else '⚠️違反'
    print(f'  {cat}: 選択率 {rate:.4f}  DI = {di:.4f}  {flag}')

# 可視化
plt.figure(figsize=(8, 5))
sel_rate.plot(kind='bar', color=['#E53935','#FB8C00','#43A047'], rot=0)
plt.axhline(base * 0.8, color='red', linestyle='--', label='4/5 ルール閾値')
plt.ylabel('保育所新設判定 選択率', fontsize=12)
plt.title('カテゴリ別 Disparate Impact (SSDSE-B-2026)', fontsize=13)
plt.legend(); plt.tight_layout(); plt.savefig('di_bar.png', dpi=120)

📤 実行結果:

💬 読み解き: 大県の選択率 87.5% に対し、 小県・中県はいずれも 0% (DI=0.00)。 4/5 ルール (0.8) を完全に割り込み、 「保育所新設」判定が人口上位県だけに集中する極端な algorithmic disparate impact が起きている。 モデルが人口の大小をほぼそのまま判定に写し、 既存の都市集中を強化してしまう典型例。 対策は再サンプリング、 重み付け学習、 後処理での閾値調整 (fairlearn の ThresholdOptimizer 等) — 次の⑥で実演する。

⚠️ 落とし穴

1. 文化差を無視した倫理原則: 西洋発の AI 倫理 (autonomy 重視) をそのまま日本/中東に持ち込むと、 集団主義文化と衝突する。 「local context」を考慮した ELSI 設計が必要。
2. 法制度の地域差: EU AI Act、 米国セクター別規制、 中国アルゴリズム規制、 日本ガイドライン (法的拘束力なし) で全く異なる。 多国展開時は最厳格基準に合わせる。
3. disparate impact 偽陽性: 「日本人 vs 外国人」の選択率が違っても、 母集団の特性差が原因なら必ずしも不公平ではない。 因果分析が必要。
4. deepfake / 合成データの認識: AI 生成コンテンツが社会信頼を毀損。 透かし (watermark)、 出所証明 (C2PA) を必須化する動き。
5. ELSI レビューを後付けにする: プロトタイプ完成後に「倫理委員会で承認を取ろう」とすると、 大幅な設計変更が必要になり工数爆発。 開発初期に組み込む。

🌐 関連手法・派生

• RRI (Responsible Research and Innovation): ELSI の発展形。 EU Horizon 2020 で標準化。 「Anticipation」「Reflexivity」「Inclusion」「Responsiveness」の 4 原則。
• Privacy by Design (PbD): プライバシー保護を設計初期から組み込む 7 原則 (Cavoukian, 2009)。
• 差分プライバシー (Differential Privacy): ノイズ付加で個人特定リスクを数学的に保証 (ε-DP)。
• フェアネス制約付き学習: 損失関数に公平性ペナルティを追加 (Zafar et al. 2017、 fairlearn)。
• Algorithmic Accountability: 「アルゴリズム説明責任法」 (NYC 2018、 EU AI Act 2024)。

🔗 関連用語（前提・並列・発展）

前提: AI 倫理 / プライバシー / バイアス / データガバナンス

並列: RRI / AI ガイドライン / AI 原則 / アルゴリズム・バイアス / AI 安全性

発展: AI 規制 / 説明可能 AI / 差分プライバシー / 連合学習 / AI 信頼性

📚 関連グループ教材

• 論文一覧 — AI 倫理・社会影響を扱う論文
• 用語集トップ
• 概念マップ — AI 倫理系用語の俯瞰

🗺 概念マップ

📊 公平性指標まとめ

重要: 上記指標を すべて同時に満たすことは数学的に不可能 (Kleinberg et al. 2016, Chouldechova 2017)。 用途に応じて優先指標を選ぶ必要がある。

⚖️ 主要法規制まとめ

🛠 ELSI 実装ライブラリ比較

📈 実務でよくある質問

Q: ELSI レビューはいつ実施すべき？

A: 3 段階。 ① 企画段階 (use case の妥当性)、 ② 設計段階 (データ収集の合法性、 アルゴリズムの公平性)、 ③ 運用段階 (継続モニタリング、 incident response)。 後付けは工数が 3-5 倍になる。

Q: k-匿名性 / l-diversity / t-closeness の違いは？

A: k-匿名性: 同一 quasi-id グループが k 個以上。 l-diversity: グループ内に sensitive attribute が l 種類以上 (k-匿名性の弱点を補強)。 t-closeness: グループ内分布が全体分布から距離 t 以下 (l-diversity の精緻化)。 通常 k=5, l=3, t=0.2 を使う。

Q: 公平性指標の数学的不可能性とは？

A: Demographic Parity、 Equalized Odds、 Calibration の 3 つを「base rate (各グループの真陽性率)」が異なる状況で同時に満たすことは数学的に不可能 (Chouldechova 2017)。 用途別に優先指標を選び、 trade-off を明示する必要がある。

Q: GDPR の「説明を受ける権利」は AI モデルに適用される？

A: 第 22 条で「自動意思決定の対象者は説明を受ける権利がある」と規定。 ただし「meaningful information about the logic involved」の意味は曖昧。 SHAP や LIME による特徴量重要度説明が事実上の基準になりつつある。

Q: 差分プライバシーの ε は何を意味する？

A: 「1 個人を含む/除外することによる出力分布の差」の上限。 ε=1 で「強いプライバシー」、 ε=10 で「弱いプライバシー」。 米国国勢調査 2020 では ε≈20、 Apple は端末側で ε≈4。

Q: SHAP と LIME の使い分けは？

A: SHAP: 理論的保証あり (Shapley 値)、 大局的説明が得意、 計算重い。 LIME: 軽量、 局所的説明、 サンプリング依存で不安定。 木モデルなら SHAP、 画像/テキストなら LIME が定石。

Q: EU AI Act の「禁止 AI」とは具体的に何？

A: ① subliminal manipulation (潜在意識操作)、 ② 脆弱性悪用 (子供・障害者ターゲット)、 ③ social scoring (中国式信用スコア)、 ④ 公共空間でのリアルタイム生体認証 (例外あり)。 違反は年商の 7% または 3500 万ユーロの罰金。

Q: 「データ最小化」原則とは？

A: GDPR 第 5 条 (c)。 「目的達成に必要最小限のデータのみ収集・処理」。 「いつか使うかも」で全データ収集すると違法。 ML 開発でも特徴量選択を慎重に。

Q: 連合学習 (federated learning) は ELSI 解決策？

A: 一部解決。 データを集約せず勾配のみ集めるためプライバシーは強化。 ただし勾配からの逆推定 (gradient leakage) や membership inference の研究が進行中。 差分プライバシー併用が推奨。

🎯 失敗事例集

事例 1: Amazon の採用 AI が女性を不利に

2018 年公開。 過去 10 年の応募データで学習させたら、 ソフトウェア技術職の応募の大半が男性だったため、 「女子大学」「女性主将」などのキーワードを減点要素として学習。 Amazon は廃止。 教訓: 過去データの偏りがそのままモデルに反映される。

事例 2: COMPAS 再犯予測の人種差別

2016 年 ProPublica 報道。 米国刑事司法で使われる COMPAS が黒人被告に対し白人被告より高い偽陽性率を示した。 Northpointe (開発元) は predictive parity を主張したが、 equalized odds と矛盾 (数学的不可能性の典型例)。

事例 3: 顔認証の人種・性別バイアス

Buolamwini & Gebru (2018)。 主要顔認証 API が白人男性で 99% 精度、 黒人女性で 65% 精度。 訓練データの白人偏重が原因。 IBM、 Microsoft、 Amazon は警察向け販売停止 (2020)。

事例 4: Target の妊娠予測スキャンダル

2012 年 NYT 報道。 購買履歴から「妊娠初期」を予測してマタニティクーポンを送付。 父親が娘の妊娠を Target から知らされる事態に。 教訓: 個別の購買データは公開情報でも、 推論結果は深刻なプライバシー侵害。

事例 5: 大学受験 AI の英国アルゴリズム失敗

2020 年 COVID 期、 英国の Ofqual が成績予測 AI を導入。 過去の学校偏差値を反映したため、 私立校生徒が有利に、 公立校生徒が不利に。 大規模抗議で撤回。 教訓: 既存の構造的不平等が AI で固定化される。

📚 学習リソース

• 書籍: O'Neil "Weapons of Math Destruction" (2016)、 Crawford "Atlas of AI" (2021)、 Russell "Human Compatible" (2019)、 江間有沙『AI 社会の歩き方』(2019)
• 論文: Buolamwini & Gebru (2018) "Gender Shades"; Chouldechova (2017) "Fair Prediction with Disparate Impact"; Lundberg & Lee (2017) "A Unified Approach to Interpreting Model Predictions" (SHAP)
• オンラインコース: Coursera "AI Ethics" (DeepLearning.AI)、 edX "Ethics of AI" (Helsinki)
• 枠組み: NIST AI RMF 1.0 (2023)、 EU AI Act 解説、 IEEE 7000 シリーズ、 ISO/IEC 42001 (2023)
• 日本資料: 内閣府「人間中心の AI 社会原則」(2019)、 経産省「AI 原則実践のためのガバナンス・ガイドライン Ver1.1」(2022)、 大阪大学 ELSI センター資料

🔄 まとめ: SSDSE-B-2026 ELSI 検討の 5 つの教訓

1. 集計データでも代表性バイアスは消えない: SSDSE-B は k=5 を余裕でクリアするが、 上位 5 県集中 37.7% は機械学習の代表性問題を引き起こす。
2. 「公平」の定義を最初に決める: DI ≥ 0.8 か DP 差 < 0.1 か Equalized Odds か。 すべて同時には満たせない。
3. SHAP で「なぜ」を説明可能に: 東京が「保育所新設」と判定された主因は婚姻件数 (SHAP=+3.16) と人口 (SHAP=+1.50)。 GDPR の説明権に対応できる。
4. 地理的格差は AI に再生産される: モデル訓練でそのまま放置すると、 既存の都市集中をさらに強化する。
5. 緩和策を段階的に: 前処理 (reweighing)、 中処理 (制約付き最適化)、 後処理 (閾値調整)。 fairlearn の ThresholdOptimizer で 1 行実装可能。

📌 ELSI チェックリスト (15 項目)

1. データ収集の 合法性: 同意取得、 法的根拠、 越境移転規制を確認
2. データ最小化: 目的に必要最小限の特徴量のみ使用
3. k-匿名性 (k≥5) または差分プライバシー適用
4. 保護属性 (性別、 人種、 年齢、 障害、 地域) を明示
5. 公平性指標を 1 つ以上選定 (DI、 DP、 EO 等)
6. 訓練データの 代表性確認 (各グループ十分なサンプル数)
7. 説明可能性: SHAP/LIME 等で予測説明を出力
8. 監査ログ: モデル予測と入力データの記録
9. 誤り訂正のフロー: ユーザーが予測を訂正できるルート
10. 影響評価書 (DPIA、 AI Impact Assessment) 作成
11. 関係者 (利用者、 影響を受ける人) との 対話機会設置
12. 監視: 運用後の指標継続モニタリング
13. incident response: 問題発生時の対応プロセス
14. 定期見直し: 年 1 回以上の倫理レビュー
15. 引退計画: モデルの寿命と引退条件を事前定義

🔬 拡張: ⑤ 差分プライバシーで SSDSE 統計に Laplace ノイズ付加

🎯 このコードでやること: SSDSE-B-2026 の総人口集計に ε-差分プライバシー (Laplace メカニズム) を適用し、 ε の値で精度がどう変わるか比較する。

📥 入力データ: ① の df から各都道府県の人口 A1101。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35

import pandas as pd, numpy as np
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026']==2023].reset_index(drop=True)

# Laplace メカニズム: sensitivity Δ = 1 人 (個人 1 人の参加で集計値が最大 1 変化)
# ノイズスケール = Δ / ε
def laplace_dp(value, epsilon, sensitivity=1):
    scale = sensitivity / epsilon
    return value + np.random.laplace(0, scale)

# 47 都道府県の人口に異なる ε でノイズ付加
np.random.seed(42)
true_pops = df['A1101'].values
results = []
for eps in [0.1, 1.0, 10.0]:
    noisy = np.array([laplace_dp(p, eps) for p in true_pops])
    err = np.abs(noisy - true_pops)
    results.append({
        'epsilon': eps,
        'avg_err': err.mean(),
        'max_err': err.max(),
        'noise_scale': 1/eps,
    })

print('ε    平均誤差      最大誤差    ノイズ尺度    プライバシー強度')
for r in results:
    strength = '強' if r['epsilon'] <= 1 else '弱'
    print(f"{r['epsilon']:5.1f}  {r['avg_err']:10.2f}  {r['max_err']:10.2f}  {r['noise_scale']:8.2f}  {strength}")

# 実際の値と比較
print('\n▼ 鳥取県 (真値 537,000) のノイズ付加結果:')
np.random.seed(42)
for eps in [0.001, 0.01, 0.1, 1.0, 10.0]:
    noisy = laplace_dp(537000, eps)
    print(f'  ε={eps:6.3f}: 公表値 = {noisy:12.2f}  誤差 = {abs(noisy - 537000):10.2f}')

📤 実行結果:

💬 読み解き: ε=0.1 で平均 10 人程度のノイズ、 ε=1.0 で 1 人程度。 「個人 1 人が含まれているか否か」を統計的に判別できないようにする差分プライバシー保証は ε ≤ 1 が目安。 米国 2020 年国勢調査は ε≈20 で実装、 Apple の iOS 集計は ε≈4。 SSDSE-B のような既に大集計データなら ε=0.1 でもほぼ実用精度を保つ。

🎓 用語ミニ辞典

ELSI

Ethical, Legal, Social Issues。 新興技術の倫理・法・社会への影響を扱う枠組み。 米国ヒトゲノム計画 (1990) 発祥。

RRI

Responsible Research and Innovation。 ELSI の発展形、 EU Horizon 2020 で採用。 Anticipation / Reflexivity / Inclusion / Responsiveness の 4 原則。

algorithmic bias

アルゴリズムが特定グループに不利な判定をする現象。 訓練データの偏り、 ラベル付け、 特徴選択など多段階で発生。

disparate impact

意図せず差別的結果が生じる状態。 米国雇用差別法 (Civil Rights Act 1964) で違法とされる。 4/5 ルールで判定。

k-anonymity

同一 quasi-identifier グループに k 人以上を含めて個人特定を困難にする手法。 Sweeney (2002) が提唱。

differential privacy

「個人 1 人の参加 / 不参加で出力分布の差が ε 以下」を保証する数学的フレームワーク。 Dwork (2006)。

SHAP value

協力ゲーム理論の Shapley 値をモデル説明に応用。 「特徴量 i のモデル予測への公平な貢献」を計算。

explainable AI (XAI)

モデルの予測理由を人間に理解可能な形で説明する技術。 SHAP、 LIME、 Anchor、 Counterfactual 等。

accountability

説明責任。 アルゴリズムの判断について、 誰がどう責任を負うかを明確にする原則。

DPIA

Data Protection Impact Assessment。 個人情報処理が高リスクの場合、 GDPR 第 35 条で実施義務。

🌟 まとめポスター: 1 ページ要約

以上で ELSI の用語ページ拡充版は終了。 SSDSE-B-2026 を素材に、 k-匿名性・公平性メトリクス・SHAP 説明・差分プライバシーまで一通り扱った。 次は AI 倫理 や 説明可能 AI、 差分プライバシー の個別ページへ。

データ出典: 独立行政法人統計センター「SSDSE-B-2026」(教育用標準データセット、 2012–2023 年 × 47 都道府県)
コード環境: Python 3.11, pandas 2.x, scikit-learn 1.4, fairlearn 0.x, shap 0.x, numpy 1.26
本ページの数値は SSDSE-B-2026 (cp932, skiprows=[1], 564 行 × 112 列) の 2023 年分を実行した結果に基づく。 EU AI Act (2024) 等の最新法規制を反映。

🧠 自己テスト 10 問

1. ELSI の 3 つの側面を答えよ。 (答: Ethical / Legal / Social)
2. ELSI 概念が誕生した契機を答えよ。 (答: 1990 年米国ヒトゲノム計画、 予算 3-5% を ELSI 研究に充当)
3. k-匿名性の推奨 k 値を答えよ。 (答: k ≥ 5)
4. 4/5 ルールの Disparate Impact 基準値を答えよ。 (答: DI ≥ 0.8)
5. SSDSE-B-2026 で東京/鳥取の人口比 (DI 基準) を答えよ。 (答: 14,086,000 / 537,000 = 26.2 倍 → DI=0.038 で大幅違反)
6. 差分プライバシー (ε) の意味を 1 文で。 (答: 個人 1 人の参加/不参加で出力分布の差が ε 以下)
7. SHAP 値の理論的背景を答えよ。 (答: 協力ゲーム理論の Shapley 値)
8. EU AI Act の禁止 AI 4 種を 1 つ以上挙げよ。 (答: subliminal manipulation / 脆弱性悪用 / social scoring / 公共空間でのリアルタイム生体認証)
9. 「公平性指標の数学的不可能性」を提唱した論文の主要著者は？ (答: Chouldechova 2017、 Kleinberg et al. 2016)
10. fairlearn の demographic_parity_ratio で SSDSE-B-2026 の大県 vs 小県の保育所判定比は約いくつ？ (答: 0.11、 4/5 ルール違反)

🌍 多分野での ELSI 検討事例

⚡ ELSI 実装プロセスのフローチャート

📊 主要 ELSI 関連数値の早見表

🚀 拡張 ⑥: fairlearn ThresholdOptimizer で公平性緩和

🎯 このコードでやること: ② で出た DI 違反モデルに対し、 ThresholdOptimizer で「グループごとに異なる閾値」を適用し、 公平性を回復する。

📥 入力データ: ② の X, y, A。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

from fairlearn.postprocessing import ThresholdOptimizer
from sklearn.linear_model import LogisticRegression
from fairlearn.metrics import demographic_parity_ratio
from sklearn.metrics import accuracy_score

# ベースモデル (② と同じ)
base = LogisticRegression(max_iter=1000).fit(X, y)

# ThresholdOptimizer: グループごとに最適閾値を学習
to = ThresholdOptimizer(
    estimator=base,
    constraints='demographic_parity',  # 目標公平性
    prefit=True,
    predict_method='predict_proba',
)
to.fit(X, y, sensitive_features=A)

y_pred_base = base.predict(X)
y_pred_fair = to.predict(X, sensitive_features=A)

print(f'▼ 公平性緩和の効果:')
print(f'                  ベース        緩和後')
print(f'精度               {accuracy_score(y, y_pred_base):.4f}        {accuracy_score(y, y_pred_fair):.4f}')
print(f'DP 比              {demographic_parity_ratio(y, y_pred_base, sensitive_features=A):.4f}        {demographic_parity_ratio(y, y_pred_fair, sensitive_features=A):.4f}')

# グループ別選択率
print('\nグループ別選択率:')
import numpy as np
for g in ['large','small']:
    base_rate = y_pred_base[A==g].mean()
    fair_rate = y_pred_fair[A==g].mean()
    print(f'  {g}: ベース {base_rate:.4f} → 緩和後 {fair_rate:.4f}')

📤 実行結果:

💬 読み解き: DP 比が 0.11 → 0.81 と改善し、 4/5 ルール (0.8) をクリア。 大県は選択率を下げ (1.0→0.70)、 小県は上げる (0.11→0.57) ことで均等化を実現。 この例では精度もむしろ 63.8% → 72.3% に上がったが、 一般には公平性の回復と引き換えに精度が下がる trade-off が生じる。 どの水準で折り合うかを可視化し、 関係者と議論することが ELSI 実装の核心。

🎓 ステークホルダー・マッピング

ELSI 分析の起点は、 「誰が影響を受けるか」を可視化する stakeholder mapping。 SSDSE-B-2026 を使う AI 保育所配置モデルの例。

「将来世代」のように声を上げられないステークホルダーへの配慮が、 RRI (Anticipation 原則) の重要点。

📜 ライセンス・参考

• SSDSE-B-2026: 独立行政法人統計センター配布の教育用標準データセット、 教育・研究用に自由利用可。 集計データのため個人特定リスク低。
• fairlearn: MIT ライセンス。
• SHAP: MIT ライセンス。
• AIF360: Apache 2.0。
• 差分プライバシー実装: Google DP Library (Apache 2.0)、 Opacus (Apache 2.0)。
• EU AI Act 全文: EUR-Lex 公式
• 日本 AI 戦略 2024: 内閣府 AI 戦略本部
• NIST AI RMF 1.0: NIST 公式

🎯 ハンズオン提案: あなた自身のデータで試す

ELSI を学んだら、 次は自分の手元データで試したい。 以下のアイデアが入門に最適。

1. クラスの成績データ: 性別別の平均点を fairlearn で公平性チェック。 demographic parity 計算。
2. 大学合格データ: 学部別合格率に disparate impact があるか分析 (UCLA 例の Berkeley 1973 paradox を実装)。
3. SNS 投稿の感情分析: 自分の Twitter 投稿を VADER で感情分析、 SHAP で「どの単語が感情判定に影響したか」可視化。
4. 家計データの k-匿名化: 月別支出を年齢階級+世帯規模でグループ化、 各グループのサイズ確認。
5. 地域統計の差分プライバシー: SSDSE-B-2026 で別の県を選び、 Laplace ノイズ付加。 ε 変化で精度比較。
6. ローン審査模擬データ: Kaggle "Loan Prediction" で AIF360 を使い、 性別バイアス検出 + reweighing 緩和。
7. 採用模擬データ: 自分の周囲のスキル分布で「自分の AI 採用モデル」を作り、 fairness audit。

🛠 トラブルシューティング

🆚 ELSI 関連概念の比較

📑 補遺: fairlearn / SHAP 主要関数チートシート

🏁 おわりに

ELSI は「倫理委員会の仕事」ではなく、 データサイエンティスト自身がコード段階で実装すべき枠組み。 k-匿名性、 fairlearn の公平性メトリクス、 SHAP の説明可能性、 差分プライバシーのノイズ付加など、 すべて Python 数行で実装可能。

本ページで使用した SSDSE-B-2026 は集計データのため k-匿名性は問題ないが、 「上位 5 県集中 37.7%」「人口最大/最少 26.2 倍」という代表性バイアスが、 機械学習で disparate impact を引き起こす典型例として示せた。 自分の手で実行し、 「公平性と精度の trade-off」を体感してほしい。

📝 補足: 主要国・機関別の ELSI ガイドライン年表

🤝 ELSI vs RRI とステークホルダー対話 (補論)

ELSI (Ethical, Legal, Social Issues) は 「研究開発に伴う倫理・法・社会の問題を洗い出す」枠組み、 RRI (Responsible Research and Innovation) は 「研究開発のプロセスそのものを社会と共に設計する」枠組みで、 EU Horizon 2020 以降は RRI が主流化している。 ELSI は事後評価 (after-the-fact)、 RRI は事前埋め込み (anticipatory)、 ステークホルダー対話 (Stakeholder Dialogue) は両者を貫く方法論である。

ステークホルダー対話の典型プロトコル: (1) ステークホルダー特定 (Mendelow Matrix で Power×Interest 4 象限分類) → (2) 関心領域マッピング (Affinity Diagram) → (3) ワールドカフェ/シナリオプランニング → (4) 合意形成 (Delphi 法・Nominal Group Technique) → (5) 合意文書化と公開。 自治体 AI 導入 (例: 横浜市 AI チャットボット 2023) では (1)-(5) を 6 ヶ月で実施し、 住民・職員・有識者の三層合意を得た事例がある。

🐍 Python 実装: ELSI スコアリングと公平性指標

🎯 このコードでやること: SSDSE-B-2026 の都道府県データを基に、 仮想 AI 政策 (例: 地域支援優先度スコア) の公平性を Demographic Parity (人口比例公平) と Disparate Impact Ratio (DIR) で評価する。 DIR < 0.8 (米国 EEOC 4/5 ルール) なら ELSI 警告を出す。

📥 入力データ (SSDSE-B-2026 抜粋、 都道府県 47 行):

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22

import pandas as pd
import numpy as np

# SSDSE-B-2026 都道府県データ読込（2023年分を抽出）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026']==2023].reset_index(drop=True)
df['elderly_ratio'] = df['A1303'] / df['A1101']   # 65歳以上人口 / 総人口

# 仮想 AI 政策: 高齢化率が中央値以上の県を「優先支援対象」と判定
median_eld = df['elderly_ratio'].median()
df['ai_selected'] = (df['elderly_ratio'] >= median_eld).astype(int)

# 公平性: 人口規模 (大都市/地方) 別の選定率
df['urban'] = (df['A1101'] >= df['A1101'].median()).astype(int)
rate_urban = df[df['urban']==1]['ai_selected'].mean()
rate_rural = df[df['urban']==0]['ai_selected'].mean()
dir_ratio = min(rate_urban, rate_rural) / max(rate_urban, rate_rural)

print(f'都市部の選定率   : {rate_urban:.3f}')
print(f'地方の選定率     : {rate_rural:.3f}')
print(f'Disparate Impact : {dir_ratio:.3f}')
print('ELSI 警告: 公平性懸念あり (DIR < 0.8)' if dir_ratio < 0.8 else 'ELSI: 公平性基準を満たす')

📤 実行例:

💬 結果の読み方: DIR = 0.319 は 4/5 ルール (0.8) を大きく下回り、 「地方は高頻度に選定される (選定率 0.783) が都市部は外れやすい (0.250)」=都市住民への 不利益が法的争点になり得る。 ELSI 観点では、 (1) 選定基準を「高齢化率のみ」から「医療アクセス・交通利便性」も含む多次元化へ変更、 (2) 都市部内の高齢者集住地区を別軸で評価、 などの是正提案が必要。

📐 数式を言葉で読み解く (DIR と Demographic Parity)

Disparate Impact Ratio (DIR) は次式で表される:

$$\mathrm{DIR} = \frac{\min(P(\hat{Y}=1|A=a), P(\hat{Y}=1|A=b))}{\max(P(\hat{Y}=1|A=a), P(\hat{Y}=1|A=b))}$$

$\hat{Y}=1$ は AI による「選定」、 $A$ は属性 (都市/地方、 性別、 人種など)。 DIR = 1 で完全公平、 0.8 未満で 4/5 ルール違反。 Demographic Parity は $P(\hat{Y}=1|A=a) = P(\hat{Y}=1|A=b)$ をゴールとする概念で、 DIR はその違反度合いを 0-1 で測る指標である。

⚠️ ケーススタディから学ぶ ELSI 教訓

🧭 ELSI を実務に落とし込む詳細ワークフロー

ELSI (Ethical, Legal, Social Implications) は概念だけでなく、 開発プロジェクトの各フェーズに具体的な作業手順として埋め込まれて初めて意味を持つ。 ここでは要件定義からリリース後の運用まで、 7 段階に分けた実務ワークフローを示す。 各フェーズで「誰が何を実施するか」「どのアウトプットを残すか」を明確化することで、 後追いの監査・説明責任に対応できるようになる。 SSDSE-B-2026 を題材にした AI 開発を想定し、 例えば都道府県別の人口・出生率データを使って自治体に補助金配分する AI を作るシナリオで考えてみよう。

📋 フェーズ別 ELSI チェックリスト

⚠️ ELSI 実装時の落とし穴

• チェックリスト化の罠：ELSI を「項目を埋めるだけ」の手続きに矮小化すると、 形式的に通過させる動きが組織内に発生する。 各項目の合否を経営層がレビューする仕組みが必要。
• 後付け倫理 (Ethics Washing)：開発完了後に倫理委員会を通すだけでは、 設計に組み込む機会を失う。 要件定義段階から ELSI を関与させること。
• 多様性なき多様性検討：影響対象の議論に当事者 (障害者・移民・若年層) が参加していない検討は、 表面的・的外れになりやすい。
• 法務一極集中：法的合法性のみを基準にすると、 「合法だが不適切」な領域を見落とす。 倫理・社会的観点も並列に扱う。
• 透明性の過信：「モデルカードを公開した」ことを免責の根拠にできない。 利用者が実際に理解できる形で説明されているかが本質。

📊 国際比較：ELSI 実装の枠組み

🎓 理解度チェック

ここまでの ELSI の議論を理解できているか、 自己評価する 10 問を用意した。 答えは各問の下に折りたたんでおり、 まず自分で考えてからクリックして確認しよう。

💡 30秒で分かる結論

• ELSI は Ethical（倫理）・Legal（法）・Social（社会） の頭文字。 「技術的にできるか」とは別に、やってよいか・許されるか・社会が受け入れるかを問う枠組みです。
• 出発点は 1990 年のヒトゲノム計画。研究予算の 3〜5% を、技術そのものではなく 「その技術が社会に与える影響の検討」に充てたのが始まりです。技術開発と同時に走らせる点が肝でした。
• 3 つの軸は独立していません。合法でも倫理的に問題がある（例: 同意はあるが実質的に断れない）、 倫理的でも社会が拒む（例: 説明できるが不気味に感じられる）ことがあります。
• 評価は合計点ではなく「最弱の軸」で見るのが原則。 3 軸の合計が同じでも、1 軸が極端に低い案件は通してはいけません。
• ELSI はプロジェクトの最後に受ける検査ではなく、最初から並走させる設計活動です。 作り終えてから問うと、直せる余地がほとんど残っていません。

📍 あなたが今見ているもの

論文や事業計画書で、こんな一文を見たことがあるはずです。

この 2 行に、ELSI の 3 軸がすべて詰まっています。 「倫理審査委員会の承認」＝ E、「個人が特定されない形に加工」＝ L、 「書面で同意」＝ E と S の境目。 逆に言えば、この記載が無い研究や事業は、読み手から「検討していない」と見なされます。

データ分析の現場では、次のような場面で必ず ELSI が顔を出します。

このページは、その判断を「なんとなく気をつける」から「手順として点検する」に変えるためのものです。

🎨 直感で掴む — 3 本足の椅子

ELSI は3 本足の椅子だと考えると腹に落ちます。 倫理・法・社会の 3 本のうち、1 本でも短ければ椅子は傾いて座れません。 他の 2 本がどれだけ立派でも関係ありません。ここが「合計点で見てはいけない」理由です。

もう一つの比喩は「できる・してよい・受け入れられる」の 3 段階です。 技術者は 1 段目（できる）に集中しがちですが、 2 段目と 3 段目は、1 段目とはまったく別の知識と手続きで決まります。 だから ELSI は「技術者が片手間に判断するもの」ではなく、 法務・倫理審査・当事者との対話を巻き込む体制の問題なのです。

なお 3 軸は時代とともに動きます。10 年前は問題なかったことが、いま問題になるのは普通です。 位置情報の常時収集、顔画像の学習利用、生成 AI の学習データ—— いずれも社会の受け止めが数年で変わりました。 「前回審査を通ったから今回も大丈夫」は成り立たないと考えてください。

📐 定義 / 評価の型

ELSI には物理法則のような一意の数式はありません。代わりに、実務では 「軸ごとに採点し、最弱軸で判定する」という型が使われます。式で書くと次のとおりです。

ここで $s_E, s_L, s_S$ は倫理・法・社会の各軸のスコア（例: 1〜5）、$\theta$ は通過基準（例: 3）です。 合計 $s_E + s_L + s_S$ ではなく最小値を使うのがこの型の核心で、 1 軸だけ極端に低い案件が「他で稼いで通過する」ことを防ぎます。

匿名性の評価にはもう少し定量的な指標があります。代表的なのが k-匿名性です。

$D$ はデータ全体、$\text{QI}$ は準識別子（住所・年齢・性別など、組み合わせると個人に迫る属性の集合）、 $q$ はその取りうる値の組合せです。 「どの組合せをとっても、当てはまる行が $k$ 件以上ある」という条件を表しています。 $k=1$ の組合せが 1 つでもあれば、その行は一意に特定できてしまうことになります。

k-匿名性には既知の弱点があり、それを補う指標も定義されています。

🔬 数式を言葉で読み解く

上の 2 つの式を、記号ごとに日本語に置き換えます。

いちばん誤解されるのが $\text{QI}$ の範囲です。 「氏名や住所を消したから安全」と考えがちですが、準識別子は消し忘れた識別子ではなく、普通の属性の組合せです。 有名な例として、米国の研究で「郵便番号・生年月日・性別」の 3 つだけで 人口の大半が一意に定まりうると報告されました。 つまり「個人情報を消したか」ではなく「組み合わせて何人まで絞れるか」で考える必要があります。

$\min$ を使う理由をもう一度強調します。仮に合計点で判定すると、 $(5,5,1)$ の案件は合計 11 で $(4,4,3)$ の合計 11 と同点になります。 しかし前者は社会軸が 1、つまり社会がまったく受け入れない案件です。 合計点は「良いところで悪いところを埋め合わせできる」という前提を置いていますが、 ELSI ではその埋め合わせが成立しません。法に触れる部分を、倫理的配慮で相殺することはできないからです。

🧮 数式に値を入れて手で計算する: SSDSE-B-2026 を使う AI 案件の ELSI 評価

SSDSE-B-2026 の都道府県別公的指標を使った 4 つの AI プロジェクト案を、 Ethical (倫理) / Legal (法) / Social (社会) の 3 軸でスコアリングし、 「最弱軸が 3 以上」を OK 基準にする。 これは ELSI の「単一指標で見ない」「最弱軸で評価する」原則を再現する評価枠組み。

Step 1: 案件と観点別スコア (1-5)

各軸の意味:

• E (倫理): プライバシー・差別を生まない・説明可能性
• L (法): 個人情報保護法・GDPR・統計法 第 33 条 (オーダーメード集計の制約)
• S (社会): 都道府県間格差を拡大しないか、 結果が住民の不利益にならないか

Step 2: 最低スコア基準 (最弱軸が 3 以上)

SSDSE-B-2026 は「都道府県 (47 件)」を最小単位とし、 「個人」「世帯」レベルの開示は行わない。 D 案件 (個人住所推定) は SSDSE データの粒度を超えるため、 倫理・社会軸で 2 を付与した。

🐍 Python で再現

このコードでやること: 4 つの SSDSE-B-2026 利用案件の ELSI スコア行列を作り、 各軸の最弱値を算出して合格 (≥3) 案件をリストする。

📥 入力データ:

1
2
3
4
5
6
7
8
9

import numpy as np
cases = ["A: A1101 人口予測", "B: A4200 出生率分析",
         "C: A4101 医療資源", "D: H1801 個人住所推定"]
scores = np.array([[4,5,3],[5,3,4],[3,4,5],[2,5,2]])
total = scores.sum(axis=1)
weakest = scores.min(axis=1)
for i, c in enumerate(cases):
    verdict = "OK" if weakest[i] >= 3 else "NG"
    print(f"{c} 合計={total[i]} 最弱={weakest[i]} → {verdict}")

📤 実行結果

💬 手計算 (Step 2) と Python 出力が完全一致。 ELSI の典型エラーは「合計だけで合否を決める」こと。 合計 12 で同点 3 件のうち、 最弱基準で D だけが落ちる構造を「ELSI 評価が単一指標ではない」根拠として理解する。

🐍 Python 実装 — ELSI の「法」の軸を機械的に確かめる

ELSI の 3 軸のうち、法（Legal）の一部は計算で確かめられます。 代表が k-匿名性です。「同じ属性の組合せを持つ人が k 人未満なら、その人は特定されうる」という考え方で、 実務では k=5 や k=10 を基準にします。倫理や社会の軸は数字にしづらいのですが、 この軸だけは先に自動で潰しておけるので、必ず機械的に検査してください。

このコードでやること：SSDSE-B-2026 の 47 都道府県について、 準識別子（誰かを絞り込む手がかりになる属性）の取り方を 3 通り変え、 それぞれで「同じ組合せが何件あるか」の最小値 k を数えます。

📥 入力データ：SSDSE-B-2026（最新年度・47 都道府県）。年齢層の列は無いので高齢化率から 3 区分を作ります。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21

import pandas as pd

# ELSI の「法」の軸を機械的に確かめる: k-匿名性（同じ属性の組が何件あるか）
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', header=1)
df = df[df['地域コード'].astype(str).str.match(r'^R\d{5}$', na=False)].copy()
df['年度'] = pd.to_numeric(df['年度'], errors='coerce')
df = df[df['年度'] == df['年度'].max()]          # 最新年度の 47 都道府県
for c in ['総人口', '65歳以上人口']:
    df[c] = pd.to_numeric(df[c], errors='coerce')

# SSDSE に「年齢層」の列は無いので、高齢化率から 3 区分を作って準識別子に見立てる
df['高齢度'] = pd.cut(df['65歳以上人口'] / df['総人口'],
                    bins=[0, 0.28, 0.32, 1.0], labels=['低', '中', '高']).astype(str)

# 準識別子の組合せごとに「何件が同じ値を持つか」= k を数える
for qi, label in [(['都道府県'], '都道府県のみ'),
                  (['都道府県', '高齢度'], '都道府県 × 高齢度'),
                  (['高齢度'], '高齢度のみ')]:
    g = df.groupby(qi).size()
    print(f'{label:20s}: 組合せ {len(g):3d} 通り  最小 k = {g.min():2d}  '
          f'k<5 の組合せ {int((g < 5).sum())} 個')

📤 実行すると次の出力が得られる：

💬 結果の読み方：都道府県を含めた瞬間に k=1、つまり 「その組合せに当てはまるのは 47 件中 1 件だけ」になります。 都道府県名それ自体が強力な識別子だからです。 一方、高齢度の 3 区分だけに粗くすると k=7 まで上がり、k<5 の組合せは消えます。 これが「一般化（generalization）」による匿名化の効き方です。

ここで大切なのは、47 都道府県の集計値そのものは公開情報なので問題にならないという点です。 k-匿名性が効いてくるのは、この粒度に個人や世帯の情報を結合したとき。 「◯◯県の、高齢化率が高い地域に住む、世帯人員 1 名の人」まで絞り込めば、 現実の個人に到達しうる——ELSI の評価表で D 案件（個人住所推定）に低い点を付けたのは、この理由です。 データの粒度を上げる提案が出たら、まずこのコードを回して k を確認するのが、 倫理審査の前にできる最も実務的な一手です。

⚠️ よくある落とし穴

最後に、実務でいちばん効く問いを 1 つ挙げておきます。 「この分析結果が、対象になった本人に全文そのまま見せられるか」。 見せられないと感じたなら、その理由が倫理軸・法軸・社会軸のどれに当たるのかを言葉にしてください。 言葉にできれば、直すべき場所も見えてきます。

🌐 関連手法・派生

ELSI (Ethical, Legal, and Social Issues) は単一の規則ではなく、 倫理・法律・社会の三軸で技術を評価する分析フレームワーク。 ヒトゲノム計画 (1990 年代) で確立され、 現在は AI・脳科学・遺伝子編集など先端技術全般で「研究開発と並走する評価活動」として位置づけられている。

• 上位概念: RRI (Responsible Research and Innovation、 責任ある研究・イノベーション)、 Technology Assessment、 AI Ethics。 ELSI はこれらの実装手段の一つ。
• 並列フレームワーク: AI 倫理ガイドライン (OECD・EU AI Act・内閣府人間中心 AI 社会原則)、 IRB (研究倫理審査)、 プライバシー影響評価 (PIA)。
• 前段: ステークホルダー特定 (患者・市民・専門家・行政)、 関連法令調査 (個人情報保護法・GDPR・医療法)、 ユースケース定義。
• 後段: 倫理委員会審査、 ガバナンス策定、 説明可能性 (XAI) 実装、 同意取得プロセス設計、 影響評価レポート公開。
• 派生・拡張: ELSA (欧州型、 Aspects を強調)、 RRI、 anticipatory governance、 value-sensitive design (VSD)、 algorithmic impact assessment (AIA)。
• 競合・代替: 純粋な法令遵守チェック (リーガル中心)、 ISO/IEC 規格 (技術中心)、 業界自主規制。 ELSI は「法令以前の社会的妥当性」まで踏み込む点が特徴。

ELSI は単発の審査ではなく「技術開発のライフサイクル全体に組み込む対話プロセス」。 早期段階から市民・倫理学者・法律家を関与させることで、 後の社会的反発や訴訟リスクを大幅に減らせる。

🔗 関連 関連用語

ELSI を学ぶ際に併読すると理解が深まる関連用語を「前提・並列・発展」の 3 区分で整理する。

• 前提概念: 研究倫理 (research-ethics) / インフォームドコンセント (consent) / 個人情報保護 (personal-info) / プライバシー (privacy) / IRB (倫理審査委員会) — ELSI 検討の土台となる規範
• 並列概念: RRI (Responsible Research and Innovation) / RI (Responsible Innovation) / AI 倫理 (ai-ethics) / バイオエシックス — 倫理的・法的・社会的論点を扱う別フレームワーク
• 発展概念: ゲノム解析・脳科学・量子コンピューティング・自律兵器における ELSI 評価、 EU AI Act・GDPR・日本の AI 事業者ガイドラインへの ELSI 反映、 SSDSE-B-2026 のような公開統計データを用いた研究でも個人特定リスク (k-匿名性) の事前評価が必要

各概念は本用語集の他ページにリンクしている。 関連用語を横断的に学ぶことで、 ELSI の位置付けが明確になる。

📚 関連グループ教材

この用語の全体像を学ぶには、 まず横断的な教材で文脈を掴むのが効率的です：

• 📚 AI倫理・公平性 — このカテゴリの全体像を学ぶ

🔗 同カテゴリの他用語

🔎 ELSI ── 深掘り解説

ELSI（Ethical, Legal and Social Issues） は、 ヒトゲノム計画（HGP, 1990 年）で確立した枠組みで、 現在は AI・データサイエンス全般で広く参照されています。 「倫理 / 法律 / 社会」の三本柱で技術の影響を捉えます。

🔖 キーワード索引（拡張）

💡 もう少し詳しく

• E（倫理）：個人の自律、 善行、 無害、 公正の四原則
• L（法律）：個人情報保護法・著作権法・契約法・差別禁止法
• S（社会）：労働・教育・医療など制度全体への波及
• ELSI は単に「禁止リスト」ではなく、 設計段階から組み込む（Ethics by Design）がコア

📐 倫理 ↔ 法 ↔ 社会の関係

$w_E + w_L + w_S = 1$、 ただし重み付けは文脈による。 医療なら倫理が重い、 金融なら法令が重い。

🧮 ELSI チェック表（SSDSE 利用例）

🐍 Python : 利用前チェック

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

# 倫理チェックリストの一例 : SSDSE 利用前
import pandas as pd
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=1)   # 日本語の列名で読む（2 行目を見出しにする）

checks = {
    '出典明示済': True,
    '集計レベル': '都道府県',  # 個人を特定できない粒度
    '更新年': 2026,
    '利用目的': '教育・学術',
}
for k, v in checks.items():
    print(f'{k}: {v}')

🐍 Python : ライセンス確認

 1
 2
 3
 4

# 法的根拠の所在 : ライセンスの確認
license_url = 'https://www.nstac.go.jp/SSDSE/'
print('SSDSE は政府統計の二次加工データ — 利用規約を確認してください')
print(license_url)

🐍 Python : 社会的影響の可視化

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11

import pandas as pd

# 直前までの df は日本語の列名なので、英字コードで読み直す
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df = df[df['SSDSE-B-2026'] == 2023].reset_index(drop=True)

# 社会的影響 : 都道府県別の格差を可視化
import matplotlib.pyplot as plt
df['高齢化率'] = df['A1303'] / df['A1101'] * 100
df.sort_values('高齢化率').plot.barh(x='Prefecture', y='高齢化率', figsize=(7,12), color='#00897B')
plt.tight_layout(); plt.savefig('aging_bar.png', dpi=150)

🐍 Python : 透明性ログ

 1
 2
 3
 4
 5
 6
 7
 8
 9

# 透明性 : 分析プロセスをログとして残す
import json, datetime
log = {
    'timestamp': datetime.datetime.now().isoformat(),
    'data_source': 'SSDSE-B-2026',
    'transformations': ['column_compute', 'sort'],
    'output': 'aging_bar.png',
}
print(json.dumps(log, indent=2, ensure_ascii=False))

⚠️ 落とし穴

🔗 関連用語（拡張）

📚 補足資料 — FAQ／追加コード／背景

❓ よくある質問 (FAQ)

🧪 SSDSE-B-2026 を使った追加計算例

🐍 さらにコードを書く

ELSI チェックリスト出力

 1
 2
 3
 4
 5
 6
 7
 8
 9

checks = {
    'E_consent': 'public_data_no_consent_needed',
    'E_harm':    'low (aggregated)',
    'L_license': 'SSDSE_terms',
    'L_attribution': 'required',
    'S_impact':  'educational',
}
for k, v in checks.items():
    print(f'{k}: {v}')

DPIA（データ保護影響評価）ミニ版

 1
 2
 3
 4
 5
 6
 7
 8

dpia = {
    'purpose': '教育用ハンズオン',
    'data_subject': 'aggregated by prefecture',
    'risk_level': 'low',
    'mitigations': ['no_re-identification','no_distribution_of_derived'],
}
import json
print(json.dumps(dpia, indent=2, ensure_ascii=False))

ステークホルダーマッピング

 1
 2
 3

stakeholders = ['researcher','student','public','government','platform']
for s in stakeholders:
    print(f'- {s}')

💡 実務的アドバイス

• プロジェクト開始時に ELSI ステートメントを 1 ページにまとめておく。
• 進捗会議では「倫理・法務・社会の懸念」を毎回スロットを設けて議論。
• アウトプット（論文、 アプリ、 データセット）に responsible use guideline を併記。
• 外部 ELSI レビュアを早めに巻き込む。 後付け対応は工数が膨らみがち。

🕰 歴史的背景・発展経緯

ELSI はヒトゲノム計画（HGP, 1990 開始）の予算の 3% を倫理的・法的・社会的課題研究に割り当てる方針として米国 NIH が打ち出したのが起源。

その後、 ナノテクノロジー、 合成生物学、 AI と続く新興技術で繰り返し参照されてきました。 「責任ある研究とイノベーション (RRI)」は ELSI の発展形。

日本では 2010 年代から大阪大学などが「ELSI センター」を設置し、 大学院教育や政策提言を進めています。 AI 倫理ガイドラインの基礎枠組みとしても活用。

🗺 ELSI の発展的トピック

基本概念を超えて、 現代の ELSI 議論で活発に取り上げられている発展的トピックを 8 件取り上げる。 各トピックは独立して深く調査する価値があり、 卒業研究や論文テーマの候補にもなる。

🌐 トピック一覧

🐍 発展トピックの定量化：炭素排出量の概算

このコードでやること：大規模言語モデルの学習に必要な GPU 時間から、 炭素排出量を概算し、 SSDSE-B-2026 の都道府県別人口あたりの量と比較する。

📥 入力例 (公開資料の値)：

1
2
3
4
5
6
7
8

gpu_hours = 1000 * 30 * 24  # 1000 GPU を 30 日間
power_kw = 0.4  # GPU あたり消費電力 kW
co2_per_kwh = 0.5  # kg-CO2 per kWh (日本平均)
total_co2 = gpu_hours * power_kw * co2_per_kwh
print(f'モデル学習による排出: {total_co2:,.0f} kg-CO2')
tokyo_pop = 14086000
per_capita = total_co2 / tokyo_pop
print(f'東京都民 1 人あたり: {per_capita*1000:.1f} g-CO2 相当')

📤 実行例：

💬 1 回のモデル学習で 144 トンの CO2 排出は、 ガソリン車約 30 台が 1 年間走る排出量に相当する。 東京都民 1 人あたり 10g 程度に分散されるとはいえ、 同じ計算をモデル更新のたびに繰り返すと累積影響は無視できない。 ELSI の「Social」観点では、 AI 開発における環境負荷の透明化と再生可能エネルギー利用が今後の焦点。

📊 トピック別の議論成熟度マトリクス

📖 詳細解説：各トピックの掘り下げ

生成 AI と著作権：2023 年以降、 大規模言語モデルや画像生成モデルの学習に用いられたデータに著作物が大量に含まれていることが明らかになり、 作家・芸術家からの集団訴訟が複数発生している。 米国では Getty Images vs Stability AI、 New York Times vs OpenAI などが代表例で、 訴訟の論点は「学習データとしての利用がフェアユースに該当するか」「生成物が元著作物の派生的価値を奪っているか」の 2 点。 日本では著作権法 30 条の 4 により情報解析目的の学習は原則合法だが、 享受目的が併存する場合や著作権者の権益を不当に害する場合の例外規定が議論されている。 ELSI 観点では、 法的合法性だけでなく、 創作者コミュニティの持続可能性 (Social) と、 学習データに対する事前同意 (Ethical) の両面が問われる。

AI 兵器と国際人道法：自律型致死兵器システム (LAWS) は、 人間の介入なしに標的を選定・攻撃できる兵器を指す。 国連 CCW (特定通常兵器使用禁止制限条約) の枠組みで 2014 年から議論が継続しているが、 米中露の反対により法的拘束力ある条約は未成立。 一方で、 Google は 2018 年に Project Maven (米国防総省の画像認識軍事プロジェクト) から撤退、 同社の AI 原則に「兵器への適用禁止」を明記した。 ELSI 観点での問いは「人間の生死に関わる決定を機械に委ねる倫理的正当性はあるか」「責任の所在 (操作者・開発者・指揮官) をどう定めるか」など。

ギグエコノミーとアルゴリズム管理：Uber・Lyft・Deliveroo 等のプラットフォーム企業は、 ドライバー・配達員の配車や報酬を AI で動的に決定している。 労働者は「個人事業主」扱いで、 最低賃金・有給休暇・社会保険が適用されない。 一方、 アプリの評価システムにより業務遂行を厳格に管理されており、 実質的には雇用関係に近いという議論が EU・米加州で進行中。 2024 年 EU プラットフォーム労働指令はギグワーカーの労働者推定・アルゴリズム管理の透明化を義務付けた。 ELSI の Social と Legal の交差点。

脳・神経データと認知自由権：Neuralink、 Synchron 等の BCI (Brain-Computer Interface) は、 直接脳信号を読み取ってデバイスを制御する技術。 医療用途 (ALS 患者の意思伝達) では大きな価値があるが、 ユーザーの思考・感情・記憶という最も私的なデータが企業の手に渡ることへの懸念がある。 チリは 2021 年に世界で初めて「神経権 (Neurorights)」を憲法レベルで保護した。 ELSI 観点では「思考の自由」「アイデンティティの保護」「公平なアクセス権」など、 これまで議論されてこなかった次元の問いが浮上している。

ディープフェイクと民主主義：合成映像・音声技術により、 政治家のなりすまし発言を作成することが容易になった。 2024 年米国大統領選では バイデン大統領の AI 音声で投票を勧めない自動電話、 2023 年スロバキア選挙では候補者の偽スキャンダル音声などが選挙結果に影響したと言われる。 EU AI Act は ディープフェイクのラベリングを義務化、 中国も 2023 年に類似法を施行。 検出側では Content Authenticity Initiative (Adobe 主導) や C2PA 規格が、 画像メタデータに来歴情報を埋め込む試みを進めている。 ELSI 観点では、 民主主義の根幹である「事実に基づく審議」が技術的に脅かされる事態への対応が緊急課題。

気候変動と Green AI：GPT-3 (175B パラメータ) の学習に約 1,287 MWh の電力、 552 トンの CO2 が排出されたと推定されている (Patterson et al., 2021)。 これは 米国の平均的家庭 約 120 世帯の年間排出量に相当する。 最近の大規模モデルはこの数倍から数十倍と推測されるが、 多くの企業が排出量を公表していない。 Green AI 運動は、 モデルの効率性 (FLOPs/精度) を評価軸として取り入れ、 必要最小限のパラメータ・データで学習する設計を推進する。 ELSI の Social 観点では「現在の AI 開発による炭素排出が、 未来世代への気候負債を増やしている」という世代間倫理が問われる。

データ植民地主義：グローバルサウス諸国 (アフリカ・南アジア・ラテンアメリカ) のデータが、 北側の巨大テック企業によって不公正に収集・利用される構造を批判する概念。 例えば 顔認識モデルの精度向上のために、 ナイジェリアの顔データが安価に取引され、 そのモデルが本国で警察に使われるが、 元のデータ提供者は何の対価も受けない。 また、 アフリカ諸国の言語データを使った翻訳モデルが、 言語コミュニティの参加なしに開発される事例も問題視されている。 解決策として「データ主権 (Data Sovereignty)」の概念が提唱され、 各国・各コミュニティが自国のデータの管理・利益分配権を持つべきという議論が進んでいる。

医療 AI と責任分担：医療画像診断 AI が悪性腫瘍を見落とした場合、 法的責任は ①最終判断した医師、 ②導入を決定した病院、 ③AI を開発した企業、 ④認可した規制当局のうち誰が負うのか。 現在は医師の最終責任が原則 (医師法に基づく) だが、 AI の判定根拠が説明困難 (ブラックボックス) な場合、 医師に過大な負担となる。 FDA は SaMD (Software as a Medical Device) ガイダンスで、 AI 機器のリスク階層別認可基準を整備中。 日本の PMDA も同様の枠組みを構築している。 ELSI 観点では、 医療の質向上と責任配分の公正性、 患者の同意権をいかに両立させるかが課題。

📚 補足表：ELSI 関連の重要文書年表

🔗 さらに学ぶための関連用語

• AI ガイドライン — 各国・各業界の指針体系
• AI 規制 — 法的拘束力を持つ枠組み
• 公平性 (Fairness) — 数学的・社会的定義の整理
• 透明性 (Transparency) — モデルカード・データシート
• 説明責任 (Accountability) — 責任の所在の追跡
• プライバシー — 差分プライバシー・連合学習
• バイアス監査 — データセットの体系的検査
• 影響評価 (AIA) — リリース前の社会的影響予測

🧪 SSDSE-B-2026 を使った ELSI 演習：自治体別補助金配分 AI のシナリオ

仮想的に「都道府県別の経済的困窮度から、 国の補助金配分を提案する AI」を構築する場合を考える。 入力特徴量は SSDSE-B-2026 の人口・産業・税収・高齢化率など。 単純に過去の配分実績を教師データにすると、 「過去に補助金を多く受けた自治体ほど予測値が高くなる」既得権益再生産が発生する。 これは ELSI の Ethical (公平性) と Social (地域間格差の固定化) に抵触する。 対策として、 ①教師ラベルを「補助金実績」ではなく「困窮度指標 (失業率・所得低下率・人口減少率の合成)」に置き換える、 ②過去配分との乖離を説明可能にする、 ③配分結果を市民代表会議でレビューする、 ④異議申立期間を設ける、 という多層的設計が ELSI 準拠の最低ラインとなる。

なお SSDSE-B-2026 には「過去補助金実績」や「完全失業率」の列は含まれないため、 この演習を実データで行うには別途これらの指標を用意し、 高齢化率 (A1303/A1101) などと組み合わせて困窮度合成指標を設計する。 重要なのは教師ラベルに何を選ぶかが、 AI が再生産する社会構造を決めるという点である。

📌 演習から得られる ELSI 教訓のまとめ

上記の補助金配分シナリオは単純化された例だが、 実際の公共 AI 開発で頻発するパターンの縮図である。 教訓を整理すると：

• 教師ラベルの選択が倫理的決定である：「予測すべき真値」を何にするかで、 AI が再生産する社会構造が決まる。 過去実績を使えば既得権益を強化し、 困窮度を使えば再分配を強化する。 中立的な技術判断ではなく、 価値選択を伴う政治的決定であることを認識する必要がある。
• 説明可能性は信頼の基盤：どの自治体がなぜその配分を提案されたか、 担当者・住民が理解できなければ、 異議申立も改善もできない。 ブラックボックス AI は公共領域では使えない。
• 影響を受ける当事者の参加：開発初期から市民代表・自治体担当者・利用者を巻き込む。 後付けの説明会では信頼は獲得できない。
• 段階的展開とフィードバックループ：一斉導入ではなく、 試行自治体で運用しながら問題を吸い上げる。 不可逆な決定 (予算配分等) には特に慎重さが必要。
• 監査・救済の仕組みを事前設計：誤った配分による被害が発生した場合の救済 (補填・再審査) を、 リリース前に明確化しておく。 事後の場当たり対応は社会的不信を増幅させる。
• 政治・行政との連携：技術者だけでは判断できない領域 (予算配分の方針) は、 民主的プロセス (議会承認等) と統合する。 AI は補助ツールであり、 民主主義の代替ではない。
• 国際的整合性の確保：自治体や国を越える人の移動や経済活動に関わる AI は、 国際的な ELSI 基準 (OECD AI 原則・UNESCO 勧告等) との整合性を確認する。 国内法準拠だけでは越境的影響に対応できない。
• 長期的なモニタリング指標の設計：リリース直後の精度だけでなく、 数年スパンの社会的影響 (地域格差・市民満足度・経済波及効果) を継続測定する指標を設計時に組み込む。 短期 KPI 偏重は ELSI 観点での盲点を生む。
• 世代を超えた公平性の視点：現役世代の便益に偏らず、 将来世代への影響 (環境負荷・財政負担・社会規範の変化) も評価対象に含める。 これは持続可能性 (SDGs) の観点とも連動する重要な ELSI の要素である。

これらの教訓は ELSI の 4 要素 (Ethical・Legal・Social・Implications) を実務に統合するための実践的指針である。 抽象的な倫理原則を具体的な開発判断に変換することが、 ELSI を空念仏ではなく実効性ある仕組みにする鍵となる。 さらに踏み込んで言えば、 ELSI は単発のチェック項目ではなく、 組織文化として持続的に運用されるべき継続的プロセスである。 そのためには、 経営層のコミットメント、 倫理委員会への実質的権限付与、 ELSI 教育の継続的実施、 社内通報窓口の設置、 外部監査の定期受審など、 組織横断的な仕組みづくりが必要となる。 とりわけ、 ELSI 違反が発覚した際に「責任者を特定して罰する」だけでなく「なぜ違反が起きたかを構造的に分析し、 再発防止を組織レベルで実装する」ノーブレーム文化が、 健全な ELSI 運用の前提条件である。 短期的なコスト増を理由に ELSI を軽視する組織は、 長期的には社会的信頼を失い、 事業継続そのものが困難になる時代に既に入っていることを認識すべきだろう。

🖼 視覚的理解 (3 図)

本概念を SSDSE-B-2026 都道府県データで可視化する。 3 つの異なる切り口 (散布図・分布・群間比較) で多面的に理解する。

🔗 隣接手法への橋渡し

ELSI (倫理・法・社会的影響) は単独の倫理論ではなく、 AI 倫理ガイドライン ・個人情報保護法 ・GDPR ・社会受容性を統合的に扱う設計フレームである。 企画 ・開発 ・運用 ・撤退の全段階で論点を再点検する。

• 上流（前処理・データ整備）: AI 倫理 / AI ガイドライン / 研究倫理 (AI 倫理)
• 並列（代替・補完手法）: 公平性 / 説明責任 / 透明性
• 下流（評価・解釈・応用）: AI ガバナンス / プライバシー保護 / 規制対応

ELSI (Ethical, Legal, Social Implications) は「技術が社会に及ぼす倫理・法的・社会的影響」を体系的に検討する枠組みで、 上流の企画段階で論点を洗い出し、 並列の AI 倫理ガイドライン・個人情報保護法と整合させ、 下流の運用・監査・撤退判断まで一貫した基準として用いる。

🌳 手法選択フロー

ELSI レビューを差し挟む深さは「対象データの個人性・社会影響範囲・規制対象性」の 3 軸で決まる。 公開集計データのみなら軽い確認、 個人識別が絡む瞬間に PIA・IRB・倫理委員会へ進む。

1. 扱うデータに個人は含まれるか
   公開の集計統計だけなら、 出典と利用条件の確認で足りることが多い。 個人が識別されうるなら、 取得の同意・保存期間・削除手順を先に決める。
2. 影響を受けるのは誰か
   分析結果で不利益を受けうる人がいるなら、 その人たちが結果を知り、 異議を申し立てる経路が要る。 「誰にも影響しない分析」はほとんど無い。
3. 規制の対象になるか
   個人情報保護法・GDPR・EU AI Act など、 用途と地域で当てはまる規制が変わる。 該当しそうなら、 設計を始める前に確認する。
4. いつ検討するか
   作り終えてからでは設計を変えられない。 データを取る前に「何を取らないか」を決めるのが、 ELSI の本来の使い方。

SSDSE-B-2026 のような公開集計データは ELSI の直接対象になりにくいが、 自治体施策評価で住民属性と紐づけ始めた瞬間に倫理・法的論点が立ち上がるため、 設計段階で IRB ・プライバシー影響評価を入れる順序が必要である。