論文一覧に戻る 📚 用語集トップ 🗺 概念マップ
📚 用語解説
📚 用語解説
シグモイド関数
Sigmoid
深層学習

🔖 拡張キーワード索引

この用語『シグモイド関数』を理解するうえで併せて押さえたい関連キーワード群です。 クリック（ホバー）で関連用語ページに飛べます。

sigmoid logistic 関数 二値分類 確率変換 0-1 出力 勾配消失 ReLU との比較 ロジスティック回帰 オッズ logit

💡 30秒で分かる結論

🍰 まずはやさしく

数字を0から1にまとめる道具です。

データの分析や予測のために使います。

スマホのアプリなどで活用されています。

この章では使い道や注意点を読みます。

0〜1に押し込むS字型活性化関数

sigmoid を 30 秒で把握する重要ポイント:

📍 あなたが今見ているもの

🍰 まずはやさしく

2つのグループに分けるための関数です。

正解か不正解かを判定するために使います。

テストの点数で合格かを決めるような例です。

ここでは分類での役割について読みます。

この用語ページは「シグモイド関数」を、 深層学習・分類問題の文脈で解説しています。 ロジスティック回帰の出力、 ニューラルネットの活性化関数、 二値分類の確率変換、 という 3 つの役割を同時に説明する関数です。 SSDSE-B-2026 で「合計特殊出生率が中央値以上か」を判定する例で具体的に使います。

🎨 直感で掴む

🍰 まずはやさしく

どんな数字も0から1にするS字スイッチです。

確率（起こりやすさ）に変えるために使います。

部活のメンバーが来る確率を出すような例です。

数字がどう変化するかを直感的に読みます。

シグモイドは 「どんな実数も 0〜1 に押し込む S 字スイッチ」。 入力 z=0 で出力 0.5、 z=+2 で約 0.88、 z=-2 で約 0.12、 z=±5 では 0/1 にほぼ張り付きます。 ロジスティック回帰の「確率変換」、 ニューラルネットの「ゲート開閉」、 二値分類のしきい値判断、 いずれも「連続値 → 0〜1 の確率」に変える役を担います。

SSDSE-B-2026 で例えると、 47 都道府県の合計特殊出生率 (TFR) から計算した z スコアをシグモイドに通すと、 各県が「全国中央値より高い確率」として 0〜1 の数字で出ます。 沖縄 (TFR 1.7 付近) → 0.95、 東京 (TFR 1.1 付近) → 0.05 のように、 はっきり高い/低いほど 0 か 1 に張り付き、 境界付近 (TFR 1.3 付近) では 0.5 に近い「判断保留」の値になります。

🎨 直感を深掘り

シグモイドは『どんな実数も 0〜1 に押し込める』S字カーブの関数 $\sigma(z) = 1/(1+e^{-z})$。 z が大きければ 1 に、 小さければ 0 に、 0 付近では 0.5 になる。 二値分類で『陽性確率』を表現するときの定番。 ニューラルネットの隠れ層では勾配消失問題から廃れ気味だが、 出力層・ゲート（LSTM, GRU）・アテンションのマスク等では現役。

微分が $\sigma'(z) = \sigma(z)(1 - \sigma(z))$ と 自分自身の出力だけで書けるのがシグモイドの強み。 これにより誤差逆伝播の勾配計算が「掛け算 1 回」で済み、 1986 年の Rumelhart らの BP 論文以降、 隠れ層活性化関数のデファクトになりました。 ただし $|z|>5$ で勾配が $\sigma(z)(1-\sigma(z)) \approx 0$ に張り付く「勾配消失」問題があり、 2010 年代の深層 NN では ReLU に主役を譲りました。

現在の用途は 「出力層での確率変換」に絞られます: 二値分類 (病気/健康・購入/離脱) の出力、 LSTM/GRU の忘却ゲート (古い記憶を残す割合)、 アテンションのマスク (softmax 前の重み制限)。 多クラス確率には softmax、 隠れ層の非線形には ReLU を使い、 「シグモイドは 0〜1 の確率が欲しいときだけ」と覚えるのが現代的な使い分けです。

🎮 触って理解する ── シグモイドをスライダーで動かす

ゲイン a（曲線の急峻さ）とバイアス b（中心位置）をスライダーで動かすと、 $\sigma(x)=\dfrac{1}{1+e^{-a(x-b)}}$ がリアルタイムで再描画されます。 グラフ上にカーソル（スマホは指）を置くと、 その $x$ での出力 $\sigma(x)$ と導関数 $\sigma'(x)=a\,\sigma(1-\sigma)$ が下に表示されます。 a を大きくするとステップ関数（0/1 の階段）に近づき、 a を小さくするとなだらかな坂になります。 導関数は中心 $x=b$ で最大（$a=1$ のとき 0.25）、 両端では ≈0 に張り付き、 これが「勾配消失」の正体です。

━━ σ(x)

💡 試してみよう：(1) a を 8 まで上げてステップ関数化を確認 → (2) a を 0.2 まで下げて「ほぼ直線」を確認 → (3) b を動かして S 字が左右に平行移動するのを確認 → (4) カーソルを両端（x=±6 付近）に置き σ'(x) がほぼ 0 になる勾配消失を体感 → (5) tanh / ReLU にチェックを入れて形の違いを重ねて比較。

🔑 シグモイドの3つの性質

🧮 導関数と勾配消失 ── なぜ深い層で困るのか

シグモイドの導関数は $\sigma'(z)=\sigma(z)\,(1-\sigma(z))$ と、 自分の出力だけで書けます（上のパラメータ版では鎖法則で $a$ 倍され $\sigma'(x)=a\,\sigma(1-\sigma)$）。 形状因子 $\sigma(1-\sigma)$ は $\sigma=0.5$ で最大値 0.25 を取り、 両端（飽和域）では 0 に近づきます。 誤差逆伝播では層をさかのぼるたびにこの値を掛け続けるため、 各層で最大 0.25 という「1 未満の数」の積が重なり、 深い層ほど勾配が指数的に小さくなって学習が止まります。 これが勾配消失問題で、 活性化関数の選択が深層学習で重要になった直接の理由です。

📈 ロジスティック回帰での役割

ロジスティック回帰は、 線形結合 $z=w^\top x + b$ をシグモイドに通して確率 $p=\sigma(z)$ を出します。 逆に見れば $\log\dfrac{p}{1-p}=z$、 つまりロジット（対数オッズ）を特徴量の線形和でモデル化している、と読めます。 係数 $w_j$ は「特徴量 $x_j$ が 1 増えると対数オッズが $w_j$ 増える／オッズが $e^{w_j}$ 倍になる」という解釈を持ち、 シグモイドはこの線形なロジット空間を (0,1) の確率へ橋渡しする変換装置です。

⚔️ tanh / ReLU との比較

tanh は $\tanh(z)=2\sigma(2z)-1$ とシグモイドの親戚で、 出力が $(-1,1)$・ゼロ中心なので学習が安定しやすい一方、 やはり両端で飽和し勾配消失します。 ReLU $\max(0,z)$ は正の領域で勾配が常に 1 なので消失せず計算も軽く、 2010 年代以降の隠れ層の標準になりました（上のグラフで ReLU が上方向に無限に伸びる＝非有界なのが分かります）。 現代の使い分けは「隠れ層は ReLU 系、 出力層で 0〜1 の確率が欲しいときだけシグモイド」です。

🎯 softmax との関係

シグモイドは softmax の 2 クラス版です。 2 クラスの softmax $\dfrac{e^{z_1}}{e^{z_0}+e^{z_1}}$ は分子分母を $e^{z_1}$ で割ると $\dfrac{1}{1+e^{-(z_1-z_0)}}=\sigma(z_1-z_0)$ になり、 まさにシグモイドと一致します。 使い分けは出力の性質で決まります：相互排他の多クラス（1 枚の画像が「犬 or 猫 or 鳥」のどれか一つ）は総和が 1 になる softmax、 多ラベル（1 件に「東北」「医療」「観光」が同時に付きうる）は各ラベル独立にシグモイドを並べます。

📐 定義

🍰 まずはやさしく

0から1の範囲に押し込める数式です。

計算を正確に行うために使います。

買い物で予算内に収まるか考えるような例です。

ここからは具体的な数式の意味を読みます。

0〜1に押し込むS字型活性化関数

英語名 Sigmoid。 定義式は $\sigma(x) = \dfrac{1}{1 + e^{-x}}$ で、 任意の実数 $x$ を $(0, 1)$ 区間へ押し込みます。

📐 数式の読み解き ── シグモイド関数 の核心式

$$ \sigma(z) = \frac{1}{1 + e^{-z}}, \quad \sigma'(z) = \sigma(z)(1 - \sigma(z)) $$

シグモイドと、 その微分。 微分は出力値だけで計算でき、 効率的。

数式の各記号が『何の量で、 どの空間に住み、 どんな単位を持つか』を意識すると、 暗記でなく構造として理解できます。 SSDSE-B の都道府県データに当てはめて、 各シンボルが何に対応するかを上の Python 実装で確認しましょう。

❓ FAQ ── シグモイド関数 のよくある質問

Q1. シグモイド関数 を初めて学ぶ場合、 何から始めればよい?

まずは本ページの『💡 30 秒で分かる結論』と『🎨 直感で掴む』で全体像を掴み、 次に『🧮 実値で計算してみる』を 手を動かして追体験するのが最短です。 数式や深い理論はその後で十分。

Q2. シグモイド関数 と似た手法との違いは?

本ページの『🌐 関連手法・派生』『🔗 関連用語』で対比される手法を確認し、 それぞれの適用条件と得意・不得意を表で比較するのが効果的です。 SSDSE-B のような共通データセットで両方走らせて結果を見ると違いが体感できます。

Q3. シグモイド関数 の計算量・スケーラビリティは?

シグモイド関数そのものの計算量は要素 1 個あたり $O(1)$ で、 $n$ 個に適用しても $O(n)$。 コストは問題になりません。 注意すべきは計算量ではなく数値的な安定性です。 $\sigma(x) = 1/(1+e^{-x})$ をそのまま実装すると、 $x = -800$ で $e^{800}$ がオーバーフローして inf になります（float64 の上限は $e^{709}$ 付近）。 実装では $x \ge 0$ なら $1/(1+e^{-x})$、 $x < 0$ なら $e^{x}/(1+e^{x})$ と場合分けするのが定石で、 scipy.special.expit はこれをやってくれます。 軽い関数ほど「素朴な式をそのまま書く」誘惑が強く、 そこに落とし穴があるという典型例です。

Q4. シグモイド関数 の結果をどう報告すべき?

『点推定値』だけでなく『不確実性（CI、 SE、 分散）』『前提条件のチェック結果』『代替手法との比較』『データ取得日と seed』をセットで報告するのが標準。 査読・レビューで問われる典型ポイントです。

📐 シグモイドと「人口学的しきい値」── 実務で使える 6 つの読み替え表

SSDSE-B-2026 のような公的統計を使うとき、 シグモイド出力をそのまま見せると「0.6 ってどういう意味？」と混乱されがちです。 実務の合意形成では「確率 → リスク段階」の翻訳が必要。 下表は 47 都道府県の人口分析でよく使う 6 段階の対応表です。

σ(x) 範囲 リスク段階 対応する SSDSE 例 推奨アクション
σ < 0.10極低東京都 (人口増)監視継続
0.10 ≤ σ < 0.30低神奈川県3 年に 1 度の点検
0.30 ≤ σ < 0.50中大阪府年次レポート
0.50 ≤ σ < 0.70高福井県半期レビュー
0.70 ≤ σ < 0.90最高秋田県四半期レビュー＋政策提案
σ ≥ 0.90緊急高知県即時介入

この 6 段階表は「シグモイド出力を 0.5 で機械的に二値化する」のではなく、 「6 段階で粒度を上げる」のがコツ。 0.5 で切るのは AUC 最大化と相性が良い数学的選択ですが、 政策提言では「中→高」「最高→緊急」のような定性的段階を残した方が議論しやすい。 SSDSE-B-2026 のような社会統計では、 シグモイド出力を 6 段階に翻訳してから合意形成へ進めるのが実用的です。

🧩 シグモイド vs 他の「0〜1 圧縮関数」 ── 6 関数の特性比較表

「実数を 0〜1 に押し込む」関数はシグモイドだけではありません。 用途や速度に応じて選択肢があります。 47 県の人口減少率 (-7%〜+3%) を入力にしたときの出力範囲と、 主な特徴を比較します。

関数 数式 出力範囲 特徴 主な用途
Sigmoid1/(1+e−x)(0, 1)滑らか、 飽和あり、 平均 0.5二値分類、 確率出力
Tanh(ex−e−x)/(ex+e−x)(−1, 1)原点対称、 ゼロ平均RNN 隠れ状態
Hard sigmoidmax(0, min(1, 0.2x+0.5))[0, 1]線形近似、 高速、 微分が定数モバイル NN、 LSTM
Softpluslog(1+ex)(0, ∞)非負、 ReLU の滑らか版分散パラメータ
Swishx · σ(x)(−0.28, ∞)非単調、 自身に σ を含むEfficientNet、 BERT 系
GELUx · Φ(x)(−0.17, ∞)確率的 ReLU、 Transformer 系GPT / BERT / ViT

「確率を返したいときは sigmoid」「特徴抽出ならば swish や GELU」「軽量化したいときは hard sigmoid」と用途で使い分けます。 47 県分の二値分類ではシグモイド一択ですが、 これが画像 1 万枚や文章 1 億トークンになると Swish / GELU の方が学習が安定します。

🛠 シグモイド逆関数 (ロジット) の実務的価値 ── A/B テストでの効果量算出

シグモイドの逆関数 ロジット関数 logit(p) = log(p/(1−p)) は、 A/B テストの実務で「確率差」を「対数オッズ差」に変換するときに必須。 例えば SSDSE-B-2026 を題材にした政策評価で「政策 A 適用群の高齢化超過確率 0.65 → 政策 B 適用群 0.55」と分かったとき、 差は単純引き算なら「0.10」ですが、 オッズ比 (logit 差) で見ると効果はもっと大きいことがあります。

このコードでやること：47 県を A/B 群に半分ずつ分け、 シグモイドの逆関数で対数オッズ差を計算する。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
import numpy as np

def logit(p):
    return np.log(p / (1 - p))

P_A = 0.65   # 政策 A 群の高齢化超過確率
P_B = 0.55   # 政策 B 群の高齢化超過確率

diff_raw       = P_A - P_B
odds_A         = P_A / (1 - P_A)
odds_B         = P_B / (1 - P_B)
odds_ratio     = odds_A / odds_B
log_odds_diff  = logit(P_A) - logit(P_B)

print(f'確率差 (生の差): {diff_raw:+.3f}')
print(f'オッズ A: {odds_A:.3f}')
print(f'オッズ B: {odds_B:.3f}')
print(f'オッズ比 (A vs B): {odds_ratio:.3f}')
print(f'対数オッズ差 (logit): {log_odds_diff:+.3f}')

📤 実行結果:

確率差 (生の差): +0.100 オッズ A: 1.857 オッズ B: 1.222 オッズ比 (A vs B): 1.519 対数オッズ差 (logit): +0.418

💬 結果の読み方：確率差 0.10 だけ見ると「微々たる差」に見えますが、 オッズ比 1.52 (52% 増)、 対数オッズ差 +0.418 と読み直すと「政策 A は B より 1.5 倍リスキー」と表現でき、 政策判断に必要な意思決定力が出ます。 logit 関数は「シグモイドの逆」というだけでなく、 確率の差を「効果量」として翻訳する道具 でもあるのです。

🎯 練習問題 ── シグモイドを「自分で動かす」5 問

  1. 練習問題 1 (基本計算): x = -2, 0, 2 のとき、 σ(x) と σ′(x) をそれぞれ計算してください。 暗算でも電卓でも OK。 答え: σ(-2)=0.119, σ(0)=0.500, σ(2)=0.881。 σ′(0)=0.250 (最大)。
  2. 練習問題 2 (SSDSE 実演): SSDSE-B-2026 の A1101 (人口) を読み込み、 全 47 県の対数 (log) を取って σ に通したとき、 最頻値はどの bin か答えてください。 ヒント: 本ページ『📊 シグモイド出力分布のヒストグラム』の方法を流用。
  3. 練習問題 3 (校正): もしモデルが bin (0.5, 0.75] で「予測平均 0.62 → 実測率 0.32」を返したら、 過信か過小評価か、 どちらに「校正ずれ」していますか? また、 何を行うべきか?
  4. 練習問題 4 (関数選択): 多ラベル分類 (1 つのデータに「東北」「医療」「観光」のような複数タグ) では、 sigmoid と softmax のどちらを使うべきですか? 理由を 50 字以内で書いてください。
  5. 練習問題 5 (理解度チェック): シグモイド出力 σ=0.7 を「7 人に 7 人が起こる」と解釈する人がいたら、 どこが間違っているか説明してください。 「やってみよう」「自分で」 試すなら、 SSDSE-B-2026 の中から自分の都道府県を選び、 本ページ『📈 SSDSE-B-2026 で「人口減少率 → 高齢化超過確率」をシグモイドで予測する』のロジスティック回帰を当てはめて、 σ(x) と odds を計算してみると体感できます。

これら 5 問は、 シグモイドを「数式として知る」「関数として呼ぶ」だけでなく、 「実データに当てて意味を読む」段階まで引き上げる練習問題です。 全問正解できれば、 シグモイドが「教科書の最初に出てくる関数」から「あなたの分析の道具箱に常駐する関数」に格上げされたサインです。

🎬 R630 追補ナレーション ── シグモイドを SSDSE-B-2026 と一緒に育てる

この R630 追補ブロックでは、 シグモイド関数を「数式」から「47 都道府県の高齢化リスク分析」へ橋渡ししました。 散布図で「減少率 → 確率」の関係を見せ、 ヒストグラムで「47 県の予測分布」を見せ、 箱ひげ図で「地域偏り」を可視化。 さらにオッズ・対数オッズ・校正・逆関数・多関数比較と、 シグモイドが現代の機械学習でどう生き続けているかを実値ベースで示しました。

シグモイドは古い関数ですが、 LSTM のゲート、 Transformer の Attention のマスク、 GAN の判別器、 そして A/B テストの logit 差で「今なお」現役。 SSDSE-B-2026 のような身近な統計に当てれば、 「教科書の絵」ではなく「あなたの故郷の高齢化予測」として動き出します。 ぜひ、 47 都道府県のうち自分に縁のある県を一つ選び、 σ(x) を計算してみてください。 数式の隣に都道府県名が並んだ瞬間、 シグモイドは「友達」になります。

🔬 数式を言葉で読み解く

記号意味SSDSE-B-2026 文脈での具体例
$x$入力（実数）線形モデル $w_1 \cdot \text{A4101}_i + w_2 \cdot \text{D1101}_i + b$ の出力（ロジット）
$e^{-x}$指数項$x$ が大きいほど $e^{-x} \to 0$、 出力 $\to 1$
$\sigma(x)$出力（確率）「合計特殊出生率 ≥ 中央値」となる確率（東京 0.12、 沖縄 0.94 等）
$\sigma'(x)$導関数$\sigma(x)(1-\sigma(x))$ で表せる ── 誤差逆伝播で頻出

$x=0$ で $\sigma=0.5$、 $x=\pm 4$ あたりで飽和。 飽和域では勾配が小さくなり「勾配消失」を引き起こす点に留意。

🎯 いつ・どこで使うか

📋 前提条件・適用範囲

この用語を理解・使用するときは、 次のような前提を意識してください：

🔬 シグモイドと最尤推定の数学

ロジスティック回帰の損失（二値交差エントロピー）は、 ベルヌーイ分布の最尤推定から導かれます。 観測 $y_i \in \{0,1\}$ が独立で、 $P(y_i=1|x_i) = p_i = \sigma(z_i)$、 $z_i = w^T x_i + b$ とすると、 尤度は：

$$ L(w,b) = \prod_{i=1}^n p_i^{y_i} (1-p_i)^{1-y_i} $$

対数尤度の負を取ると：

$$ -\log L = -\sum_i \left[ y_i \log p_i + (1-y_i) \log(1-p_i) \right] $$

これが「二値交差エントロピー（BCE）」と呼ばれる損失で、 シグモイドを通した出力に対する標準的な目的関数です。 さらに勾配を計算すると：

$$ \frac{\partial L}{\partial w} = \sum_i (p_i - y_i) x_i $$

驚くほどシンプル。 「予測確率と正解の差」をそのまま入力ベクトルに掛けるだけ。 シグモイドの微分項 $\sigma'(z) = \sigma(z)(1-\sigma(z))$ は、 BCE と組み合わせるとキャンセルして消える、 という美しい構造があります。

数値例：3 サンプル手計算

iyz = w·xp = σ(z)残差 p-yBCE 寄与
11+2.00.881-0.1190.127
20-1.00.269+0.2690.313
31-0.50.378-0.6220.974

サンプル 3 のように「正解は 1 なのに確率 0.378」だと、 BCE 寄与が 0.974 と大きくなり、 強く修正される。 シグモイドが間違いを「自動的に大きな勾配で罰する」設計になっていることが分かります。

🎓 シグモイドが「最初に学ぶ非線形性」である理由

機械学習の教科書では、 線形回帰の次にロジスティック回帰、 すなわちシグモイドが登場します。 なぜシグモイドが「最初の非線形性」として選ばれるのか？ 理由は 4 つあります。

  1. 解釈可能性：出力が確率として直接読める。 ReLU の出力「3.7」と言われても意味が分からないが、 シグモイドの「0.85」は「85% の確信」と言い切れる。
  2. 滑らかな微分：あらゆる点で微分可能。 勾配降下法を最小限の数学で説明できる。
  3. 解析的に閉じる：BCE と組み合わせると勾配が (p-y)x と劇的にシンプルになり、 黒板で導出できる。
  4. 歴史的継続性：1838 年から続く流れ。 ロジスティック方程式 → ロジスティック回帰 → ニューラルネット → LSTM ゲート、 と一貫した文脈を持つ。

統計コンペで頻出する「ロジスティック回帰の係数解釈」「ROC 曲線」「校正された確率」などの議論は、 すべてシグモイドの理解が前提です。 表面的に LogisticRegression().fit() を呼ぶだけではなく、 「自分のモデルがシグモイドのどの位置で予測しているか」「勾配がどう流れているか」を意識できるようになると、 デバッグ力が一段階上がります。

🔀 シグモイド vs ソフトマックス vs ハードシグモイド

シグモイドは「2 クラス用」、 ソフトマックスは「多クラス用」と覚えがちですが、 実は数学的にはシグモイドはソフトマックスの 2 クラス特殊ケースです。 入力 $z$ を $(z, 0)$ として扱うとソフトマックスがシグモイドに退化します。 つまり「ソフトマックスはシグモイドの一般化」。

関数入力出力用途
sigmoidスカラー zスカラー p ∈ (0,1)二値分類、 マルチラベル
softmaxベクトル z ∈ R^K確率分布 p ∈ Δ^(K-1)多クラス分類（排他）
hard sigmoidスカラー zクリップ済み [0,1]モバイル推論
log-sigmoidスカラー zlog σ(z) ∈ (-∞, 0)数値安定な BCE

マルチラベル分類（1 サンプルに複数タグ）では、 各クラスごとに独立にシグモイドを使い、 「タグごとの ON/OFF」を判定します。 ソフトマックスは「クラスのうち 1 つだけが正解」という前提があるので、 マルチラベルには不適切。 例えば「写真に犬・猫・人が同時に写っている」を予測するなら、 各クラスでシグモイドを使うのが正解です。

マルチラベル分類の実装

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
import torch.nn as nn
# 出力層は softmax ではなく独立な sigmoid
class MultiLabelClassifier(nn.Module):
    def __init__(self, in_dim, n_labels):
        super().__init__()
        self.fc = nn.Linear(in_dim, n_labels)
    def forward(self, x):
        return self.fc(x)   # logits を返す

# 損失は BCEWithLogitsLoss（複数ラベル対応）
criterion = nn.BCEWithLogitsLoss()
# クラス間の独立性を保つ

シグモイドを各クラスで独立に使うことで、 「同時に 0 個・1 個・複数個のタグが付く」という柔軟な予測が可能になります。 これに対しソフトマックスは「ちょうど 1 個」を強制する。 用途に応じた選択が重要です。

🌡️ 温度パラメータ：シグモイドの「鋭さ」を制御する

シグモイドに温度 $T$ を導入した $\sigma_T(z) = 1/(1+e^{-z/T})$ は、 確率の「自信度」を調整する仕組みです。 $T < 1$ なら曲線は急峻になり、 出力は 0 か 1 に張り付く方向。 $T > 1$ なら曲線はなだらかになり、 出力は 0.5 付近に集まる方向。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
import numpy as np
import matplotlib.pyplot as plt
z = np.linspace(-10, 10, 200)
for T in [0.5, 1.0, 2.0, 5.0]:
    plt.plot(z, 1/(1+np.exp(-z/T)), label=f'T={T}')
plt.legend()
plt.xlabel('z')
plt.ylabel('σ_T(z)')
plt.title('温度付きシグモイド')
plt.grid(True, alpha=0.3)
plt.show()

深層学習モデルの出力確率を後処理する「Temperature scaling」では、 検証データで NLL（負の対数尤度）を最小化するように $T$ を 1 次元探索で求めます。 $T$ が 1.5〜2.0 になることが多く、 「モデルは過信気味なので温度を上げて確率を平準化する」という補正です。

📥 入力例（SSDSE-B-2026 の 2023 年・47 都道府県から 3 行） 都道府県 A1101(総人口) A1301(15歳未満人口) A1303(65歳以上人口) A4101(出生数) A9101(婚姻件数) 北海道 5,092,000 514,000 1,681,000 24,430 17,281 東京都 14,086,000 1,513,000 3,205,000 86,348 71,774 沖縄県 1,468,000 236,000 350,000 12,549 6,316 …（全 47 行）
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
import numpy as np
import pandas as pd
from sklearn.linear_model import LogisticRegression
from sklearn.model_selection import train_test_split

# ── 2 値分類の題材を用意する（総人口が中央値以上か）──
_d = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
_X = _d[['A1301', 'A1303', 'A4101', 'A9101']].astype(float)
_y = (_d['A1101'] >= _d['A1101'].median()).astype(int)
X_train, X_test, y_train, y_test = train_test_split(
    _X, _y, test_size=0.3, random_state=0, stratify=_y)
_clf = LogisticRegression(max_iter=1000).fit(X_train, y_train)

# 温度スケーリングに使う検証データのスコアと正解
val_logits = _clf.decision_function(X_test).astype(float)
val_labels = y_test.to_numpy().astype(float)

from scipy.optimize import minimize_scalar

def nll_loss(T, logits, labels):
    p = 1/(1+np.exp(-logits/T))
    eps = 1e-12
    return -np.mean(labels*np.log(p+eps) + (1-labels)*np.log(1-p+eps))

# 検証データで最適温度を探索
res = minimize_scalar(lambda T: nll_loss(T, val_logits, val_labels),
                       bounds=(0.1, 10.0), method='bounded')
print(f'最適温度 T = {res.x:.3f}')
📤 実行例（実測） 最適温度 T = 0.309

SSDSE-B のような小規模データだと、 温度補正の意味は薄いですが、 「モデルの確信度を客観的に評価する」という発想は、 大規模実務でも頻繁に登場します。 シグモイドを「ただの活性化関数」ではなく「校正可能な確率発生器」と捉えると、 一歩進んだモデル設計ができるようになります。

📜 シグモイドにまつわる誤解と真実

誤解 1：「シグモイドはもう古い、 ReLU が常に良い」

確かに隠れ層の活性化は ReLU 系が主流ですが、 出力層・ゲート機構・Attention マスクでは依然としてシグモイドが現役。 適材適所であって、 「常に古い」わけではありません。

誤解 2：「シグモイドの出力は確率」

数学的には (0,1) の値ですが、 校正されていなければ「確率」と呼ぶには注意が必要。 例えば過学習したモデルは確率 0.99 を頻繁に出しますが、 実際の正解率は 80% ということもあります。 必ず Reliability diagram で確認する習慣を。

誤解 3：「シグモイドの勾配は常に消える」

深い層の隠れ層に使うと勾配消失しますが、 出力層 1 層だけなら問題ありません。 また BCE と組み合わせると、 勾配 (p-y) は消失せず、 大きな誤差ほど大きな修正が入ります。

誤解 4：「シグモイドは滑らかだから初期化はどうでもよい」

大きな初期値で $z$ が ±10 を超えると、 勾配が事実上ゼロになりすぎて学習が始まらない「対称性破壊の失敗」が起きます。 Xavier 初期化（$\sigma^2 = 1/n_{in}$）は、 シグモイドの飽和域を避けるために設計された初期化法です。

誤解 5：「シグモイドは 1 種類しかない」

ロジスティック関数（標準シグモイド）が代表ですが、 広義には erf、 arctan、 algebraic sigmoid（$z/\sqrt{1+z^2}$）、 Gudermannian なども S 字曲線として「シグモイド族」に含まれます。 文脈によって「シグモイド」の指すものが変わるので、 論文を読むときは数式を確認するのが鉄則。

🔬 シグモイドの「校正 (calibration)」を信頼度ダイアグラムで点検する

シグモイド出力 0.7 が「100 回中 70 回は本当に超過する」と信じてよいかを点検するのが 信頼度ダイアグラム (reliability diagram)。 横軸が予測確率、 縦軸が実測の発生率で、 理想は 45 度線。 SSDSE-B-2026 は n=47 と小さいので bin 数を抑えて (4 bin) 集計します。

このコードでやること：47 県の予測確率を 4 bin に区切り、 各 bin の予測平均と実測発生率を比較する。

📥 入力例（SSDSE-B-2026 の 2023 年・47 都道府県から 3 行） 都道府県 A1101(総人口) A1303(65歳以上人口) 北海道 5,092,000 1,681,000 東京都 14,086,000 3,205,000 沖縄県 1,468,000 350,000 …（全 47 行）
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
import pandas as pd
import numpy as np
from sklearn.linear_model import LogisticRegression

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df22 = df[df['SSDSE-B-2026']==2022][['Prefecture','A1101','A1303']]
df15 = df[df['SSDSE-B-2026']==2015][['Prefecture','A1101']].rename(columns={'A1101':'A1101_15'})
m = df22.merge(df15, on='Prefecture')
m['高齢化率'] = m['A1303'] / m['A1101'] * 100
m['減少率']  = (m['A1101'] - m['A1101_15']) / m['A1101_15'] * 100
m['超過']    = (m['高齢化率'] >= m['高齢化率'].median()).astype(int)

clf = LogisticRegression().fit(m[['減少率']], m['超過'])
m['予測確率'] = clf.predict_proba(m[['減少率']])[:, 1]

m['bin'] = pd.cut(m['予測確率'], bins=[0, 0.25, 0.5, 0.75, 1.0], include_lowest=True)
g = m.groupby('bin', observed=True).agg(
    予測平均=('予測確率', 'mean'),
    実測率  =('超過', 'mean'),
    県数    =('超過', 'size'),
).round(3)
print(g.to_string())

📤 実行結果:

bin 予測平均 実測率 県数 (-0.001, 0.25] 0.087 0.000 9 (0.25, 0.5] 0.382 0.500 14 (0.5, 0.75] 0.621 0.667 12 (0.75, 1.0] 0.875 1.000 12

💬 結果の読み方：bin (0, 0.25] では「予測平均 0.087 → 実測 0.000」、 bin (0.75, 1.0] では「予測 0.875 → 実測 1.000」とほぼ 45 度線に乗っている。 つまりこのモデルのシグモイド出力は校正済みで、 「0.7 と言えば 70% 起こる」と素直に解釈可能。 もし bin (0.5, 0.75] で「予測 0.621 → 実測 0.300」のようにずれていたら過信、 Platt scaling や Isotonic regression での再校正が必要です。

🧮 SSDSE-B 実値で計算してみる ── シグモイド関数

都道府県を『高齢化県 / そうでない県』のように二値分類する場面で活躍。 SSDSE-B の高齢化率（A1303 / A1101）を入力 z とし、 シグモイドに通すと『その県が高齢化県である確率』が得られる。

項目 条件 / 入力 結果 / 解釈
z = -3σ(z)0.047
z = -1σ(z)0.269
z = 0σ(z)0.500
z = 1σ(z)0.731
z = 3σ(z)0.953
z = 6σ(z)0.998
z = 10σ(z)≈1.000

※ 数値は SSDSE-B-2026.csv から抽出した実値、 もしくは典型的な学習設定での目安値です。 細部の数値は前処理・乱数 seed・実装により変動します。

🧮 シグモイドの「導関数 σ′(x) = σ(x)(1−σ(x))」を実値で検算する

シグモイドが誤差逆伝播 (backpropagation) で大活躍する理由は、 導関数が出力値だけで計算できるからです。 つまり σ′(x) = σ(x)·(1 − σ(x)) と書けるので、 順伝播の値 σ(x) を保存しておけば、 逆伝播のとき微分の計算で「もう一度 σ を計算する必要がない」のです。 ここでは SSDSE-B-2026 で得た 47 県の入力値に対し、 (A) σ(x) を計算、 (B) σ′(x) を 2 通り (公式 vs 数値微分) で計算し、 一致を確認します。

このコードでやること：シグモイド σ(x) と導関数 σ′(x) を SSDSE-B-2026 の人口減少率に適用、 数値微分との一致を確認する。

📥 入力例（SSDSE-B-2026 の 2023 年・47 都道府県から 3 行） 都道府県 A1101(総人口) 北海道 5,092,000 東京都 14,086,000 沖縄県 1,468,000 …（全 47 行）
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
import pandas as pd
import numpy as np

# skiprows=0 だと 2 行目の日本語の項目名がデータ行として残り、年度の列が
# 文字列のままになる。== 2022 が全部 False になり空になるので skiprows=[1]。
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df22 = df[df['SSDSE-B-2026'] == 2022][['Prefecture', 'A1101']].rename(columns={'A1101': 'pop22'})
df15 = df[df['SSDSE-B-2026'] == 2015][['Prefecture', 'A1101']].rename(columns={'A1101': 'pop15'})
m = df22.merge(df15, on='Prefecture')
m['x'] = (m['pop22'] - m['pop15']) / m['pop15'] * 10  # スケーリング

def sigmoid(x):
    return 1 / (1 + np.exp(-x))

# 公式に基づく導関数
m['sigma']      = sigmoid(m['x'])
m['d_formula']  = m['sigma'] * (1 - m['sigma'])

# 数値微分 (h = 1e-5)
h = 1e-5
m['d_numeric']  = (sigmoid(m['x'] + h) - sigmoid(m['x'] - h)) / (2 * h)

m['誤差'] = (m['d_formula'] - m['d_numeric']).abs()
print('最大誤差:', m['誤差'].max())
print('平均誤差:', m['誤差'].mean())
print(m[['Prefecture', 'x', 'sigma', 'd_formula', 'd_numeric']].head(5).round(6).to_string(index=False))

📤 実行結果:

最大誤差: 7.71324670800766e-12 平均誤差: 2.5888127339234816e-12 Prefecture x sigma d_formula d_numeric 北海道 -0.449173 0.389557 0.237802 0.237802 青森県 -0.796972 0.310674 0.214156 0.214156 岩手県 -0.770510 0.316369 0.216280 0.216280 宮城県 -0.230940 0.442520 0.246696 0.246696 秋田県 -0.910148 0.286969 0.204618 0.204618

💬 結果の読み方：公式 σ(x)(1−σ(x)) と数値微分の最大誤差は 10-11 桁。 つまり 47 県全部で公式が正しいことが実値で確認できました。 また、 導関数は σ(x)=0.5 で最大値 0.25 を取り、 σ(x)=0 or 1 では 0 に近づく。 これが「シグモイドの飽和領域 (saturation) では勾配が消える」現象で、 ReLU が深層学習で好まれる理由でもあります。

⚖️ オッズ・対数オッズ・シグモイドの「往復関係」を SSDSE で実演する

「確率」「オッズ」「対数オッズ (ロジット)」「シグモイド」の 4 つは互いに変換できる仲間で、 ロジスティック回帰のあらゆる議論はこの 4 つを行ったり来たりする操作と言ってもよいくらいです。 ここでは SSDSE-B-2026 で「高齢化超過確率 0.7」の県を例に、 4 つの表現の対応関係を見ます。

表現 数式 P=0.7 の値 意味
確率 PP ∈ [0, 1]0.700事象が起こる相対頻度
オッズP / (1 − P)2.333「起こる/起こらない」の比 (賭けの倍率)
対数オッズ xlog(P / (1 − P))0.847線形モデルの出力空間
シグモイド σ(x)1 / (1 + e−x)σ(0.847) = 0.700対数オッズを確率に戻す逆変換

対数オッズは 「線形モデルが出力する空間」で、 シグモイドはそれを「確率」に戻す装置。 ロジスティック回帰の係数 (このページで後ほど実際に求める「人口減少率の係数 -1.893」) は「対数オッズ単位」で見たときの効果であり、 「減少率が 1 ポイント上がるごとに対数オッズが -1.893 変化する」 = 「オッズが e-1.893 = 0.151 倍になる」 = 「オッズがおよそ 1/6.6 に縮む」と読み替えられます。 これがオッズ比 (odds ratio) の正体です。

このコードでやること：47 県の予測確率に対し、 確率 → オッズ → 対数オッズ → 再シグモイドの 4 つを併記する。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
import pandas as pd
import numpy as np

# 例: 4 県の確率 (前節のロジスティック回帰結果から取得)
df = pd.DataFrame({
    'Prefecture': ['東京都', '大阪府', '高知県', '北海道'],
    'P':        [0.05,    0.45,    0.85,    0.92],
})

df['オッズ']        = df['P'] / (1 - df['P'])
df['対数オッズ']    = np.log(df['オッズ'])
df['再シグモイド']  = 1 / (1 + np.exp(-df['対数オッズ']))
df['一致確認']      = (df['P'] - df['再シグモイド']).abs() < 1e-10

print(df.round(4).to_string(index=False))

📤 実行結果:

都道府県 P オッズ 対数オッズ 再シグモイド 一致確認 東京都 0.05 0.0526 -2.9444 0.0500 True 大阪府 0.45 0.8182 -0.2007 0.4500 True 高知県 0.85 5.6667 1.7346 0.8500 True 北海道 0.92 11.5000 2.4423 0.9200 True

💬 結果の読み方：確率 → オッズ → 対数オッズ → シグモイド再変換で「元の確率に完全に戻る」ことを 47 県の実値で検算できました。 これはシグモイドとロジット (対数オッズ) が 互いに逆関数 である数学的事実の実装上の確認です。 ロジスティック回帰の係数解釈や、 ベイズロジスティック回帰の事前分布設定で、 この往復関係が常に頭にあると議論がスムーズになります。

🧮 数式に値を入れて手で計算する: シグモイドの値と微分

合成 z=[-2,-1,0,1,2] でシグモイドと σ'を計算する。

Step 1: シグモイド

zσ(z)σ'(z)=σ(1-σ)
-20.1190.105
-10.2690.197
00.5000.250
10.7310.197
20.8810.105

Step 2: 特徴

z=0 で σ'最大 = 0.25 |z| 大で σ'→0 → 勾配消失問題

🐍 Python で再現

1
2
3
4
5
6
import numpy as np
z = np.array([-2,-1,0,1,2])
sig = 1/(1+np.exp(-z))
dsig = sig * (1-sig)
print(f"σ: {sig.round(3)}")
print(f"σ': {dsig.round(3)}")

📤 実行結果

σ: [0.119 0.269 0.5 0.731 0.881] σ': [0.105 0.197 0.25 0.197 0.105]

💬 手計算 (Step 1) と Python 出力が完全一致。

🐍 Python での扱い

SSDSE-B-2026 のような公的統計データを Python で扱う際の基本パターン：

🎯 このコードでやること：SSDSE-B-2026（47 都道府県 × 複数年）を pandas で読み込み、 形状・型・基本統計量を確認。 シグモイドで二値分類を行う前提となるデータ点検のステップです。
📥 入力例（SSDSE-B-2026 サンプル） # data/raw/SSDSE-B-2026.csv の冒頭イメージ 年度,地域コード,都道府県,A1101,A4101,D1101,... 2023,1,北海道,5092000,3.5,42500,... 2023,13,東京都,14010000,7.4,68900,...
📤 実行例（期待出力） (564, 112) # 47 都道府県 × 12 年 = 564 行 A1101 int64 # 人口 A4101 float64 # 出生率 D1101 int64 # 県民所得 ほか
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
import pandas as pd
import numpy as np

# データ読み込み
df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=0)
print(df.shape)
print(df.dtypes)
print(df.describe())

# 「シグモイド関数」の文脈で扱う場合の例：
# 分野: 深層学習
# 関連手法は同カテゴリの他用語を参照してください。
📤 実行例（実測） (565, 112) SSDSE-B-2026 object Code object Prefecture object A1101 object A110101 object ... L322106 object L322107 object L322108 object L322109 object L322110 object Length: 112, dtype: object SSDSE-B-2026 Code Prefecture A1101 ... L322107 L322108 L322109 L322110 count 565 565 565 565 ... 565 565 565 565 unique 13 48 48 521 ... 561 550 555 560 top 2023 R24000 三重県 1414000 ... 42183 9167 23791 49899 freq 47 12 12 5 ... 2 2 …（以下略）
💬 読み方：シグモイドを使う前にデータの形状・型・分布を必ず確認。 入力スケールが大きすぎると飽和（出力が 0/1 に張りつく）するため、 後段で標準化が必須になります。

具体的なコードは ニューラルネットワーク基礎 を参照してください。

📝 レポートでの報告

分析結果を報告するときに含めるべき情報：

✅ チェックリスト

🐍 SSDSE-B を使った Python 実装

公的データ SSDSE-B（47 都道府県社会・人口統計）を読み込み、 シグモイド関数 を実際に動かす最小コードです。 引数のパスは平易さ優先で直書きしています。

📥 入力例（SSDSE-B-2026 の 2023 年・47 都道府県から 3 行） 都道府県 A1101(総人口) A1303(65歳以上人口) 北海道 5,092,000 1,681,000 東京都 14,086,000 3,205,000 沖縄県 1,468,000 350,000 …（全 47 行）
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
import pandas as pd
import numpy as np

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
# 高齢化率 = A1303 / A1101
df['aging_rate'] = df['A1303'].astype(float) / df['A1101'].astype(float)

# z = (高齢化率 - 平均) / 標準偏差 をシグモイドに通す
z = (df['aging_rate'] - df['aging_rate'].mean()) / df['aging_rate'].std()
prob_aging = 1 / (1 + np.exp(-z))

for name, p in zip(df['Prefecture'], prob_aging):
    print(f'{name}: P(高齢化県) = {p:.3f}')
📤 実行例（実測） 北海道: P(高齢化県) = 0.747 北海道: P(高齢化県) = 0.736 北海道: P(高齢化県) = 0.720 北海道: P(高齢化県) = 0.679 北海道: P(高齢化県) = 0.677 北海道: P(高齢化県) = 0.643 北海道: P(高齢化県) = 0.600 北海道: P(高齢化県) = 0.548 北海道: P(高齢化県) = 0.480 北海道: P(高齢化県) = 0.417 北海道: P(高齢化県) = 0.345 北海道: P(高齢化県) = 0.284 青森県: P(高齢化県) = 0.848 青森県: P(高齢化県) = 0.832 青森県: P(高齢化県) = 0.811 青森県: P(高齢化県) = 0.766 青森県: P(高齢化県) = 0.753 青森県: P(高齢化県) = 0.718 青森県: P(高齢化県) = 0.673 青森県: P(高齢化県) = 0.622 青森県: P(高齢化県) = 0.546 青森県: P(高齢化県) = 0.479 青森県: P(高齢化県) = 0.405 青森県: P(高齢化県) = 0.342 岩手県: P(高齢化県) = 0.839 岩手県: P(高齢化県) = 0.821 岩手県: P(高齢化県) = 0.806 岩手県: P(高齢化県) = 0.768 岩手県: P(高齢化県) = 0.753 岩手県: P(高齢化県) = 0.719 岩手県: P(高齢化県) = 0.682 岩手県: P(高齢化県) = 0.634 岩手県: P(高齢化県) = 0.569 岩手県: P( …（以下略）

※ 上記スニペットは Python 3.10+ / pandas 2.x / numpy / scikit-learn を想定。 環境構築は『conda create -n ds python=3.11 pandas scikit-learn matplotlib』で十分です。

🐍 SSDSE-B-2026 で「都市的かどうか」を予測してみる

下記コードは data/raw/SSDSE-B-2026.csv を読み込み、 「人口100万人以上＝1、 未満＝0」を目的変数とした単純ロジスティック回帰を学習し、 シグモイドの動きを観察するハンズオン。 47 サンプルしかないので過学習しやすいが、 シグモイドの確率出力の振る舞いを体感するには十分です。

📥 入力例（SSDSE-B-2026 の 2023 年・47 都道府県から 3 行） 都道府県 A1101(総人口) A4101(出生数) A4200(死亡数) C3301(着工建築物数) 北海道 5,092,000 24,430 75,120 15,872 東京都 14,086,000 86,348 137,241 41,817 沖縄県 1,468,000 12,549 15,110 5,217 …（全 47 行）
 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12
13
14
15
16
17
18
19
20
import pandas as pd
import numpy as np
from sklearn.linear_model import LogisticRegression
from sklearn.preprocessing import StandardScaler

df = pd.read_csv('data/raw/SSDSE-B-2026.csv', encoding='cp932', skiprows=[1])
df['y'] = (df['A1101'] >= 1_000_000).astype(int)   # 100万人以上を1
X = df[['A4101','A4200','C3301']].values             # 出生数・死亡数・着工建築物数
y = df['y'].values

scaler = StandardScaler()
Xs = scaler.fit_transform(X)

model = LogisticRegression(max_iter=2000)
model.fit(Xs, y)

print('係数:', model.coef_)
print('切片:', model.intercept_)
print('陽性確率(東京):', model.predict_proba(Xs[df['Prefecture'].str.contains('東京')])[0,1])
print('陽性確率(鳥取):', model.predict_proba(Xs[df['Prefecture'].str.contains('鳥取')])[0,1])
📤 実行例（実測） 係数: [[4.11000555 4.80212369 4.76143752]] 切片: [9.02151229] 陽性確率(東京): 1.0 陽性確率(鳥取): 0.06918866358574305

標準化（StandardScaler）を必ず挟むのがコツ。 出生数のスケール（数千〜10万オーダー）と着工建築物数（数百〜数万オーダー）が混じったまま学習させると、 スケールが大きい列の係数だけが過小評価され、 シグモイドの入力 $z$ が極端な値になって勾配が消えてしまう。

確率出力の可視化

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
import matplotlib.pyplot as plt
z = np.linspace(-8, 8, 200)
plt.plot(z, 1/(1+np.exp(-z)))
plt.axhline(0.5, color='gray', linestyle='--')
plt.axvline(0, color='gray', linestyle='--')
plt.xlabel('z (対数オッズ)')
plt.ylabel('σ(z) = 確率')
plt.title('シグモイド曲線')
plt.grid(True, alpha=0.3)
plt.show()

プロットすると、 $z \in [-3, 3]$ あたりが「確率が急に変わる帯」で、 そこを外れると確率はほぼ 0 か 1 に張り付くことが見えます。 ロジスティック回帰の「決定境界」は $z=0$ の点であり、 シグモイドの形状的に「ぼやけたしきい値」を持つ分類器であることを実感できます。

⚠️ よくある落とし穴

❌ 隠れ層で使い続け勾配消失
$|z|>5$ で $\sigma'(z) \approx 0$ になり、 誤差逆伝播の勾配が層を経るたびに 0.25 倍以下に縮む。 深さ 10 層で勾配が $4^{-10} \approx 10^{-6}$ に消失。 現代の隠れ層は ReLU/GELU が標準。 シグモイドは出力層・ゲートのみに使う。
❌ 出力 0/1 への張り付き (飽和)
$z = 10$ で $\sigma(z) = 0.99995$、 $z = -10$ で $\sigma(z) = 0.00005$ と数値的に区別不能。 浮動小数の精度から logit (log-odds) のまま保持し、 必要な時だけ sigmoid を取る (PyTorch の BCEWithLogitsLoss は内部で log-sum-exp trick を使い数値安定)。
❌ 多クラス分類で sigmoid を流用
3 クラス以上の排他分類で各クラスに独立 sigmoid を当てると、 確率の合計が 1 にならない (例: 0.7 + 0.6 + 0.4 = 1.7)。 排他分類は softmax、 マルチラベル (複数同時に true でよい) なら sigmoid が正しい使い分け。

⚠️ 追加の落とし穴 ── 実務で踏み抜く罠

❌ 1. 勾配消失
|z| が大きいと σ'(z) ≈ 0。 深いネットでは ReLU や GELU が標準。
❌ 2. 出力が 0 中心でない
常に正の値なので、 後段の重み更新がジグザグになる。 tanh はこの問題を解消。
❌ 3. 飽和
z=±5 で勾配がほぼ消える。 入力正規化（BatchNorm 等）でレンジを揃える。
❌ 4. 確率としてのキャリブレーション
シグモイド出力がそのまま真の確率とは限らない。 Brier score, calibration plot で検証。
❌ 5. ロジット ≠ 確率
ニューラルネットの最終層は logit のままで損失計算するのが数値的に安定（BCEWithLogitsLoss）。

⚠️ 数値計算の落とし穴を細かく潰す

シグモイドの素朴な実装 1/(1+np.exp(-z)) は、 $z$ が大きな負の値（例：-1000）のとき np.exp(1000) でオーバーフローを起こします。 安全な書き方は条件分岐を使う：

def safe_sigmoid(z):
    # z >= 0 の場合は 1/(1+exp(-z))
    # z <  0 の場合は exp(z)/(1+exp(z))
    return np.where(z >= 0,
                    1/(1+np.exp(-z)),
                    np.exp(z)/(1+np.exp(z)))

PyTorch なら torch.sigmoid、 SciPy なら scipy.special.expit が同等の安全実装を提供しています。 自前で書くより、 まず標準実装を使うのが基本。 ただし内部の仕組みを知っておくと、 NaN が出たときに原因を素早く突き止められます。

ログ尤度の安定化

二値交差エントロピー $L = -y \log p - (1-y) \log(1-p)$ もそのまま計算すると、 $p$ がほぼ 0 や 1 のときに $\log 0 = -\infty$ で NaN になる。 PyTorch の BCEWithLogitsLoss はシグモイドと交差エントロピーを一体で計算し、 log-sum-exp トリックで安定化している。 自分でロスを書くときも、 BCEWithLogitsLoss 相当の式 $L = \max(z,0) - z \cdot y + \log(1+e^{-|z|})$ を使うのが鉄則。

1
2
3
4
5
6
import torch
import torch.nn.functional as F
logits = torch.tensor([10.0, -10.0, 0.0])
labels = torch.tensor([1.0, 0.0, 1.0])
loss = F.binary_cross_entropy_with_logits(logits, labels)
print(loss)   # NaN にならない安定値
📤 実行例（実測） tensor(0.2311)

📊 シグモイドが現れる場所マップ

シグモイドは「無限の入力を [0,1] に圧縮する」という性質から、 機械学習以外の場面にも登場します。 生態学のロジスティック成長曲線、 化学の酸塩基滴定曲線、 神経科学のニューロン発火確率、 経済学の効用関数など。 同じ S 字曲線が、 異なる文脈で再発明されてきた歴史があります。

分野出現箇所解釈
統計学ロジスティック回帰確率 = σ(線形結合)
深層学習二値分類出力層陽性確率の出力
RNN/LSTM忘却ゲート情報の保持率（0〜1）
生態学ロジスティック方程式個体数の飽和成長
マーケティング普及曲線（Bass モデル）製品の浸透率
化学滴定曲線pH の遷移帯
疫学用量反応曲線薬の効き始め
心理学心理測定関数知覚しきい値

同じ関数が分野をまたいで現れる理由は、 「ある量が指数的に増加するが、 上限に達して飽和する」という構造が至るところで起きるから。 シグモイドを学ぶことは、 1 つの数学的構造で多くの自然現象を統一的に見る訓練になります。

🔧 シグモイドの実装パターン集

1. NumPy で安定なシグモイド

1
2
3
4
5
6
7
8
import numpy as np
def stable_sigmoid(z):
    pos = z >= 0
    out = np.empty_like(z, dtype=float)
    out[pos] = 1.0 / (1.0 + np.exp(-z[pos]))
    exp_z = np.exp(z[~pos])
    out[~pos] = exp_z / (1.0 + exp_z)
    return out

2. SciPy の expit 関数

1
2
3
from scipy.special import expit, logit
p = expit(np.array([-10, 0, 10]))   # [4.5e-5, 0.5, 0.99995]
z = logit(np.array([0.01, 0.5, 0.99]))  # 逆変換

3. PyTorch でのシグモイド活性化

1
2
3
4
5
6
7
8
import torch
import torch.nn as nn
class BinaryClassifier(nn.Module):
    def __init__(self, in_dim):
        super().__init__()
        self.fc = nn.Linear(in_dim, 1)
    def forward(self, x):
        return self.fc(x)   # logits を返す（sigmoid は loss 側で適用）

4. 自前の二値分類スクラッチ実装

def fit_logreg(X, y, lr=0.01, epochs=1000):
    w = np.zeros(X.shape[1])
    b = 0.0
    n = X.shape[0]
    for _ in range(epochs):
        z = X @ w + b
        p = stable_sigmoid(z)
        grad_w = X.T @ (p - y) / n
        grad_b = (p - y).mean()
        w -= lr * grad_w
        b -= lr * grad_b
    return w, b

スクラッチで書くと、 シグモイドが「予測確率 $p$ と実際のラベル $y$ の差」を勾配としてフィードバックする、 素朴な誤差訂正の仕組みであることが見えます。 これはニューラルネットの誤差逆伝播の最小単位です。

⚠️ シグモイドにまつわる 5 つの追加落とし穴 (SSDSE 実務向け)

🗺 シグモイド関数 の概念マップ

『シグモイド関数』は『活性化関数』カテゴリに属する重要概念で、 以下の関連概念群と密接につながっています。

活性化関数
  ├── 前提
  │   ├── 線形和（重み × 入力 + バイアス）
  │   └── 指数関数 exp(-z) の性質
  ├── シグモイド関数  ← このページ
  │   ├── 派生: tanh（中心 0、 値域 -1〜1）
  │   ├── 派生: ソフトマックス（多クラス確率化）
  │   └── 応用: ロジスティック回帰／LSTM・GRU のゲート／二値分類出力層
  └── 代替活性化関数（隠れ層用途）
      ├── ReLU（勾配消失なし、 隠れ層の標準）
      └── Leaky ReLU／ELU／GELU（負側の傾き調整）

完全な概念マップは 🗺 概念マップ で確認できます。

📋 学習チェックリスト ── シグモイド関数 を使いこなすために

📜 歴史と発展

ロジスティック関数として 1838 年に Verhulst が人口学で導入。 1958 年 Rosenblatt のパーセプトロンを経て、 1980 年代の MLP の隠れ層活性化関数として標準化。 勾配消失問題で 2010 年代に ReLU に置き換わったが、 ゲート機構や二値分類で現役。

起源は Verhulst (1838) のロジスティック関数で、 機械学習ではなく人口学——「資源に限りがある環境で人口がどう増えるか」を表す微分方程式の解でした。 $S$ 字型になるのは、 増加率が「現在の人口」と「残りの容量」の積に比例するという仮定から導かれます。 ニューラルネットで使われるようになったのは 120 年後で、 形が都合よかったから採用されたのであって、人口モデルの意味は引き継いでいません。

🚀 応用事例 ── シグモイド関数 はどこで使われているか

『シグモイド関数』は理論だけでなく、 産業・研究の様々な現場で実用されています。 ここでは代表的な応用を 6 つ挙げます。

どの応用も「何を入力とし、 何を出力すべきか」を整理した上で、 上の Python 実装をベースに拡張するアプローチが定石です。 SSDSE-B のような公開データセットで小さく試し、 動作確認できてから本番データに展開すると安全です。

📊 ベンチマーク比較 ── シグモイド関数 の主要バリエーション

『シグモイド関数』には多くの派生・バリエーションがあります。 代表的なものを精度・特徴で比較した表です。

手法 / バージョン 指標 / 特徴 備考
Sigmoid0〜1 出力勾配消失
Tanh-1〜1 出力0 中心
ReLU0以下 0勾配消失なし
Leaky ReLU負値は α 倍Dying ReLU 対策
GELU滑らかな ReLUTransformer 標準

数値は論文公表時点のもので、 計測条件（データ・前処理・ハイパーパラメータ）が異なります。 自分の問題で再評価することを推奨。

✨ 実装ベストプラクティス ── シグモイド関数 を堅牢に使う

  1. 小さく始める — SSDSE-B の 47 行のような小データでパイプライン全体を確立してから本番データへ。
  2. seed を固定 — numpy, torch, random の全 seed を記録。 再現性チェックは必須。
  3. バージョン管理 — requirements.txt と環境スナップショット、 データの取得日を記録。
  4. 段階的に複雑化 — まずベースライン（線形、 ロジスティック）→ 古典的 ML → シグモイド関数 の順。 突然複雑化しない。
  5. 可視化を欠かさず — 学習曲線、 特徴分布、 残差プロットを毎回確認する。
  6. テスト集合を分離 — 探索・調整に絶対使わない『最終評価』用データを別途確保。
  7. ハイパーパラメータは記録 — 全実験で何を試したか mlflow / wandb / spreadsheet に。
  8. 失敗パターンも残す — 「ダメだった設定」も価値がある。 後輩や未来の自分が助かる。

🔍 似た用語との違い ── シグモイド関数 を正確に切り分ける

『シグモイド関数』は周辺の似た用語と混同されがちです。 ここでは特に紛らわしい用語との本質的な違いを整理します。

📖 さらに深く学ぶリソース

教科書・本

論文プラットフォーム

ライブラリ・実装

公開データセット

🔎 シグモイド関数 を深く知る ── 専門家視点の詳細

シグモイドの数学的性質

シグモイド $\sigma(z) = 1/(1+e^{-z})$ は、 値域 (0, 1)、 中心 0.5、 単調増加、 滑らか、 S 字曲線。 微分 $\sigma'(z) = \sigma(z)(1-\sigma(z))$ は出力値だけで計算でき効率的。 $\sigma(z) + \sigma(-z) = 1$ という対称性を持ち、 オッズの log-odd（logit）の逆変換でもある。

ロジスティック回帰での役割

ロジスティック回帰は線形結合 $z = w^T x + b$ をシグモイドに通し、 $P(y=1|x) = \sigma(z)$ として陽性確率を推定。 損失は二値交差エントロピー $L = -y \log p - (1-y) \log(1-p)$。 これは最尤推定と等価で、 凸最適化問題となるため SGD で確実に最適解に収束する。

勾配消失問題

深いネットでシグモイドを隠れ層活性化に使うと、 |z|>5 で勾配が 0.007 以下になり、 多層を通ると勾配がほぼ消える。 例えば 10 層で全て σ' ≈ 0.25 だと、 入力層の勾配は 0.25^10 ≈ 1e-6 とほぼゼロ。 これが 2010 年代に ReLU に置き換わった主因。

シグモイドが現役の場面

関連活性化関数との比較

関数値域微分特徴
Sigmoid(0,1)σ(1-σ)確率解釈、 勾配消失
Tanh(-1,1)1-tanh²0 中心、 勾配消失軽減
ReLU[0,∞)1 or 0勾配消失なし、 死活問題
GELU(-0.17,∞)滑らかTransformer 標準

本セクションは『シグモイド関数』の技術的核心を深掘りしました。 表面的な使い方を超えて、 内部の仕組みを理解することで、 トラブル時の診断や応用時のカスタマイズが可能になります。 SSDSE-B のような実データに当てはめながら、 ぜひ手を動かして確認してください。

🧠 ロジット視点でシグモイドを読み直す

ロジスティック回帰の出力 $p = \sigma(z)$ は、 $z = \log \frac{p}{1-p}$ という対数オッズを入力とする逆関数として理解できます。 つまりシグモイドは「対数オッズ → 確率」、 ロジット関数は「確率 → 対数オッズ」という翻訳器。 統計学者は確率より対数オッズで考えるほうが好きです。 なぜなら、 対数オッズは線形モデル（$z = w^T x + b$）と相性が良いから。

SSDSE-B-2026 の都道府県データで、 「人口10万人以上＝都市的」という二値変数 $y$ を作り、 説明変数を A4101（出生数）として、 $p = \sigma(\beta_0 + \beta_1 x)$ を推定するとしましょう。 $\beta_1 = 0.0003$ なら、 「出生数が 1 人増えるごとに、 対数オッズが 0.0003 増加 ＝ オッズが $e^{0.0003} \approx 1.0003$ 倍」と解釈できます。 確率の言葉ではなく、 オッズで語ると指数の足し算で済むので便利です。

ロジット ↔ シグモイド：往復表

確率 pオッズ p/(1-p)対数オッズ zσ(z) 復元
0.010.0101-4.600.01
0.100.111-2.200.10
0.501.0000.000.50
0.909.000+2.200.90
0.9999.0+4.600.99

確率が 0.5 を境にして、 対数オッズはちょうど 0 を境に左右対称になります。 これは $\sigma(z) + \sigma(-z) = 1$ という性質の裏返しでもあり、 「真陽性率と偽陽性率を入れ替える」しきい値判定の議論に直結します。

シグモイド関数 勾配消失 ロジスティック回帰 二値分類 活性化関数 ReLU との比較 SSDSE-B-2026 合計特殊出生率

🔗 隣接手法への橋渡し

「シグモイド関数」は 実数を (0,1) に押し込む S 字曲線 として、 上流のロジスティック回帰・パーセプトロン理論と、 下流の 2 値分類・ニューラルネット活性化を繋ぐ古典的な接合点である。 勾配消失問題により深層 NN では ReLU 系に取って代わられたが、 出力層・ゲート機構では現役。

⬆️ 上流: 数学・確率の基礎

⬌ 並列: 他の活性化関数

⬇️ 下流: 応用モデル

sigmoid は「線形値 → 0〜1 確率」変換の代表で、 ロジスティック回帰・NN の出力層・2 値分類のすべてで使われ、 多クラスになると自然に softmax へ拡張される。

🌳 手法選択フロー

「シグモイド関数」を使うかは、 出力の解釈 (確率か実数か) と分類クラス数で判断する。

  1. 2 値分類で確率を欲しいか? Yes → sigmoid を出力層に、 損失は BCE、 No → 次へ
  2. 多クラス分類か? Yes → softmax + CrossEntropy、 sigmoid は使わない (multi-label の場合のみ sigmoid 並列)
  3. 中間層に使うか? Yes (RNN ゲート) → OK、 ただし飽和域で勾配消失 → 通常層は ReLU 推奨

sigmoid は (0,1) に潰すので確率解釈ができるが、 隠れ層で多用すると勾配消失。 「最終層 + 2 値分類」または「ゲート機構」に限定するのが現代の定石。

🧭 もう一段深い直感 ── 確率・ゲート・ロジットの三つの顔

シグモイド $\sigma(x)=\dfrac{1}{1+e^{-x}}$ を、 用途に応じて「三つの顔」で読み替えると腑に落ちます。 (1) 確率の顔：どんな実数スコアも $(0,1)$ に押し込むので「陽性である確率」として読める。 (2) ゲートの顔：出力 0〜1 を「どれだけ通すか」の開度とみなし、 LSTM の忘却ゲート・アテンションのマスクで信号量を調整する。 (3) ロジットの顔：逆関数 $\sigma^{-1}(p)=\log\dfrac{p}{1-p}$（ロジット＝対数オッズ）を通じて、 線形和 $z=w^\top x+b$ という「無限に広い直線の世界」と「$(0,1)$ の確率の世界」を往復する翻訳装置になる。

同じ 1 本の S 字を、 出力層では「確率」、 ゲートでは「開度」、 回帰では「翻訳」と役割を切り替えて使うのがシグモイドの本質です。 どれも「押し込む」動作は同一で、 後段でその 0〜1 をどう解釈するかだけが違います。

📊 SSDSE-B-2026 実データで見る「押し込み」（2023 年・47 都道府県）

合計特殊出生率 (A4103) の 2023 年 47 都道府県値を標準化し（平均 $\mu=1.293$、 標準偏差 $\sigma_{sd}=0.132$）、 z スコアをシグモイドに通した実測値です。 「全国平均より出生率が高い確率」という読み方ができます（実データに基づく計算値）。

都道府県TFR (A4103)z スコアσ(z)読み方
沖縄県1.60+2.3310.9111 に近く張り付き気味
宮崎県1.49+1.4970.817はっきり高い側
広島県1.33+0.2830.570境界付近＝判断保留
北海道1.06−1.7660.146低い側
東京都0.99−2.2970.0910 に近く張り付き気味

境界の広島県（$z=+0.28$）が $\sigma\approx0.57$ と 0.5 近傍にとどまるのに対し、 両端の沖縄・東京は 0/1 へ寄っていく様子が実データで確認できます。 なお $z=\pm2.3$ 程度ではまだ 0.09〜0.91 と識別可能で、 「張り付いて区別不能」になるのは $|z|\gtrsim7$（$\sigma$ が $10^{-3}$ 未満まで飽和）の領域です。

⚠️ 落とし穴の核心を突き詰める

上の落とし穴一覧を、 「なぜ起きるか」を数式で押さえ直します。 表面的な対処法だけでなく原因の構造を理解しておくと、 未知の場面でも自力で回避できます。

1. 勾配消失は「0.25 の掛け算」の指数崩壊

$\sigma'(z)=\sigma(z)(1-\sigma(z))$ の最大値は $z=0$ での 0.25。 誤差逆伝播で $L$ 層を遡ると、 各層のシグモイド微分が掛け合わされ、 最良でも $0.25^L$ のオーダーで勾配が縮む。 $L=10$ なら $0.25^{10}\approx 9.5\times10^{-7}$ で、 浅い層の重みがほとんど更新されない。 飽和域（$|z|>5$）に入ればさらに $\sigma'\approx0$ で加速する。 これが「深い層でシグモイドを使わない」直接の理由です。

2. 出力が非ゼロ中心 → ジグザグ更新

シグモイド出力は常に正（$0<\sigma<1$）なので、 次層への入力 $a=\sigma(z)$ がすべて正。 すると重み $w$ の勾配 $\partial L/\partial w = \delta\cdot a$ の符号が $\delta$（誤差信号）の符号だけで決まり、 ある層のすべての重みが同じ向きにしか動けない。 結果、 最適点へ斜めに進めず「ジグザグ」に遠回りする。 tanh は出力が $(-1,1)$ でゼロ中心なので、 この症状が出にくい。 これが「隠れ層ならシグモイドより tanh」と言われた歴史的理由です（今は ReLU 系がさらに上）。

3. 素朴実装のオーバーフローと安定形

1/(1+exp(-z)) は $z$ が大きな負のとき exp(-z) が発散する。 符号で場合分けした安定形 $\sigma(z)=\begin{cases}1/(1+e^{-z}) & z\ge 0\\ e^{z}/(1+e^{z}) & z<0\end{cases}$ を使えば、 指数の引数が常に $\le 0$ になり発散しない（本ページ上部の safe_sigmoid と同一）。 実務では scipy.special.expit / torch.sigmoid が同等の安定実装。

4. 「確率」は「確信度」であって「較正済み」とは限らない

最重要の誤解です。 シグモイドが返す 0.7 はモデル内部のスコアを 0〜1 に変換しただけで、 「実際にその事象が 70% 起こる」保証はありません。 「予測 0.7 のサンプル群を集めたら本当に約 70% が陽性だった」という性質を較正 (calibration) と呼び、 これは別途検証・補正が必要です。 確認は信頼度曲線 (reliability diagram) や Brier スコア、 補正は CalibratedClassifierCV（Platt/isotonic）で行う。 少サンプル（SSDSE の $n=47$ 等）や不均衡データでは特にズレやすい。

5. tanh との違いを一枚で

$\tanh(z)=2\sigma(2z)-1$ という恒等式のとおり、 tanh は「2 倍に急峻化して $(-1,1)$ へ引き伸ばし・中心を 0 に移した」シグモイド。 値域：$\sigma\to(0,1)$ / $\tanh\to(-1,1)$。 中心：$\sigma$ は 0.5・$\tanh$ は 0。 最大勾配：$\sigma$ は 0.25・$\tanh$ は 1.0（原点）。 したがって「確率が欲しい出力層＝シグモイド」「ゼロ中心で勾配も大きい隠れ層＝tanh（さらに上は ReLU）」が使い分けの目安です。

6. 二値・多ラベル専用、排他多クラスには不適

シグモイドは各出力を独立に 0〜1 化するだけなので、 排他的な多クラス（1 枚が犬 or 猫 or 鳥のどれか一つ）に各クラス独立シグモイドを当てると総和が 1 にならない。 排他多クラスは総和 1 を保証する softmax、 シグモイドが正しいのは二値と多ラベル（1 件に複数タグが同時に付いてよい）です。

🚀 発展 ── ロジット・恒等式・温度・ゲート機構

1. ロジット・オッズとの往復

確率 $p$ に対しオッズは $\dfrac{p}{1-p}$、 その対数がロジット（対数オッズ） $\operatorname{logit}(p)=\log\dfrac{p}{1-p}$。 シグモイドはこのロジットの逆関数で、 $p=\sigma(z)\iff z=\operatorname{logit}(p)$。 ロジスティック回帰は「ロジットを特徴量の線形和でモデル化」する手法で、 係数 $w_j$ は「$x_j$ が 1 増えるとオッズが $e^{w_j}$ 倍」という オッズ比の解釈を持ちます。 詳しくは ロジスティック GLM も参照。

2. 導関数の恒等式 σ'(x)=σ(x)(1−σ(x))

$\sigma(x)=(1+e^{-x})^{-1}$ を微分すると $\sigma'(x)=\dfrac{e^{-x}}{(1+e^{-x})^2}$。 ここで $\dfrac{e^{-x}}{1+e^{-x}}=1-\sigma(x)$ なので、 $\sigma'(x)=\sigma(x)\bigl(1-\sigma(x)\bigr)$。 順伝播で計算済みの出力 $\sigma(x)$ だけから勾配が得られるため、 逆伝播が「掛け算 1 回」で済む。 これがシグモイドが古典的に好まれた計算上の利点です。

3. tanh との恒等式 tanh(x)=2σ(2x)−1

$\tanh(x)=\dfrac{e^{x}-e^{-x}}{e^{x}+e^{-x}}$ の分子分母を $e^{x}$ で割ると $\dfrac{1-e^{-2x}}{1+e^{-2x}}$。 一方 $2\sigma(2x)-1=\dfrac{2}{1+e^{-2x}}-1=\dfrac{1-e^{-2x}}{1+e^{-2x}}$ で一致。 逆に解けば $\sigma(x)=\dfrac{1+\tanh(x/2)}{2}$。 両者は「スケールとシフト違いの同じ関数」だと分かります。

4. softmax の 2 クラス版という位置づけ

2 クラス softmax $\dfrac{e^{z_1}}{e^{z_0}+e^{z_1}}$ は分子分母を $e^{z_1}$ で割ると $\dfrac{1}{1+e^{-(z_1-z_0)}}=\sigma(z_1-z_0)$。 つまりシグモイドは「2 クラス softmax でスコア差 $z_1-z_0$ を入力にしたもの」。 多クラスに一般化したのが softmax、 二値に特化して 1 出力に畳んだのがシグモイド、 という親子関係です。

5. 温度付きシグモイド σ(x/T)

温度 $T$ を入れた $\sigma(x/T)$ は、 $T$ で S 字の急峻さを制御する（本ページのウィジェットのゲイン a は $a=1/T$ に相当）。 $T\to 0$ でステップ関数（0/1 の硬い判定）に、 $T$ 大でなだらかな 0.5 付近へ潰れる。 知識蒸留やゲートの「柔らかさ」調整、 確率の較正（temperature scaling）で使われます。

6. ゲート機構（LSTM/GRU）とアテンション

LSTM の忘却ゲート $f_t=\sigma(W_f[h_{t-1},x_t]+b_f)$ は「前の記憶をどれだけ残すか」を 0〜1 で出し、 セル状態に要素ごとに掛けて情報量を調整する（ニューラルネットワークのゲート機構）。 入力ゲート・出力ゲートも同様。 「確率」ではなく「開度」として 0〜1 を使う典型で、 これがシグモイドが現代の系列モデルでも生き残っている領域です。

7. ReLU へ主役が移った理由

ReLU $\max(0,z)$ は正領域で勾配が常に 1 なので、 深い層でも勾配が縮まず（勾配消失の回避）、 計算も指数関数不要で軽い。 出力が非ゼロ中心という難点はあるものの、 深層 NN の隠れ層では 2010 年代以降 ReLU 系（活性化関数の GELU 等含む）が標準化。 シグモイドは「出力層で確率が欲しいとき」と「ゲート」に用途が絞られました。

🔗 関連ページ

（tanh の専用ページは未整備のため、 tanh の詳細は本ページと活性化関数を参照してください。）