🔖 キーワード索引

「フレーム問題（frame problem）」は人工知能・認知科学の古典的難問のひとつ。 本ページでは「フレーム問題」を取り巻く中核キーワードを以下にチップで一覧化する。 各キーワードは関連する概念・手法・思想史を含み、 文献検索や学習計画の起点になる。

これらのキーワードは「フレーム問題の理解 → 歴史的展開 → 現代 AI での再登場」のプロセスを構成する。 各章で詳しく解説する。

🎨 直感で掴む

ダニエル・デネット（Daniel Dennett）の有名な比喩を引きます。

この比喩のミソは、 「考慮すべきこと」と「無視すべきこと」を分ける作業そのものが計算的に爆発すること。 人間は「常識」で瞬時にやってのけますが、 形式化すると無限後退が起きます。

🎨 概念図で押さえる（フレーム問題を視覚で理解）

フレーム問題は「行動の結果として何が変わり、 何が変わらないか」を AI に列挙させると、 候補が爆発して有限時間で結論が出ない、 という難問です。 以下 3 点の概念図で「無関係な事柄の爆発」「関連性の境界線」「現代 AI での緩和策」を視覚的に整理します。

図A: 状況の中の "無関係な事柄" の爆発

→ AI が「箱を取る」という単純な行動を計画するときも、 「時計は止まるか」「壁の色は変わるか」「月の位置は」など、 影響しない事柄をすべて検討対象に入れると爆発します。 人間は無意識に「明らかに無関係なもの」をフィルタリングしますが、 これを論理的に定式化できない、 というのがフレーム問題の核心です。

図B: 関連性の境界 — フレーム公理の必要性

→ 古典 AI では「変わらないものリスト（フレーム公理）」を明示的に書く必要がありました。 しかし変わらない事柄は事実上無限に存在するため、 すべてを列挙できません。 マッカーシーとヘイズが 1969 年に指摘したこの問題は、 記号的 AI の根本的な壁となりました。

図C: 現代 AI における緩和策の階層

→ 現代の深層学習（特に LLM）は、 大量の文章から「何と何が関連するか」の確率分布を暗黙的に学習することで、 フレーム問題を一定程度緩和しています。 ただし「常識の事前学習」が前提となるため、 分布外の場面（例: 災害現場の特異な状況）では関連性判断が誤り、 ハルシネーションや不適切な行動として顕在化します。 完全な解決には至っておらず、 今後も AGI 設計上の中心課題であり続けます。

🎨 概念図で押さえるフレーム問題の本質

フレーム問題を 3 枚で総まとめ。 ① 状態爆発の構造、 ② 関連 / 無関連の境界引きの困難、 ③ 現代 LLM での暫定的緩和と残る課題。

💬 ①状態の組み合わせ爆発、 ②関連 / 無関連の境界引きが無限後退、 ③ LLM で緩和されたが OOD では再燃 — この 3 視点でフレーム問題の核心と現代的位置づけが押さえられる。

🎨 概念図で押さえる（フレーム問題の全体像）

📝 理解度チェック

1. フレーム問題を一言で言うと？ （答：行動の結果として「何が変わり何が変わらないか」を有限時間で列挙できない問題）
2. McCarthy & Hayes が問題提起したのは何年？ （答：1969 年）
3. Dennett の「ロボットと爆弾」が示すのは？ （答：関連性判断そのものが無限後退する構造）
4. LLM はフレーム問題を「解決」したか？ （答：No。 分布内で緩和しただけで OOD 場面では再燃）
5. 身体化認知（embodied cognition）はフレーム問題にどう答える？ （答：環境を計算リソースとして使うことで関連性の絞り込みを身体・環境に分散）
6. 現代 AI のうち、 フレーム問題的な現れが顕著な 3 例は？ （答：自動運転・LLM の長文 attention・強化学習の状態選別）

6 問中 5 問以上正解で「フレーム問題の歴史と現代的位置づけを理解した」と自己評価できる。 5 問未満なら「直感で掴む」「数式を言葉で読み解く」を再読してから戻ること。

📐 定義／数式

古典的な形式化（状況計算、 McCarthy & Hayes 1969）：

問題：宇宙に無数にある「変わらないこと」をすべて明示的に書く必要がある（フレーム公理）。 これが現実には書けない。

📐 フレーム問題 ── 時代別アプローチ比較

🌏 フレーム問題の現代的文脈 6 領域

🎓 フレーム問題と向き合うエンジニアへ

フレーム問題は、 AI システムを設計・運用するすべての人にとっての『前提知識』となるべき。 完全解決は半世紀の研究でも達成されていないが、 問題の本質を理解することで、 (a) 自分のシステムの限界を正しく認識し、 (b) Edge Case 対応戦略を設計し、 (c) 人間とのインタラクション設計（Human-in-the-Loop）を妥当化し、 (d) 過剰な期待をステークホルダーに持たせない、 という 4 つの実務的価値を得られる。

2026 年現在の AI システムは、 古典 AI の論理的解決を諦め、 統計的・学習的アプローチで近似する流れが主流。 ただし『学習データ外で破綻する』『ハルシネーションを起こす』『Adversarial Example に脆い』という新しい形のフレーム問題を抱える。 これらに対する万能解はなく、 (1) 大規模学習データ、 (2) Domain Randomization、 (3) Continuous Learning、 (4) Human Oversight、 (5) 信頼度低い時の安全フォールバック、 という 5 つの組合せで対処する。

SSDSE-B-2026 を用いた政策評価の文脈でも、 フレーム問題は顔を出す。 『教育費を 10% 増やしたら学力は？』を分析するとき、 直接効果 → 間接効果 → 副次効果 → 遠隔効果 と無限に波及する可能性のうち、 どこで線を引くかは分析者の責任。 Causal DAG で 5〜8 ノードに切り取り、 残りは『感度分析』『仮定明示』で扱う、 が誠実な実務的回答。 観察データだけで因果を断定することは原理的に困難である、 という認識が前提。

AGI の Alignment（人間の意図に沿わせる）は、 フレーム問題の最新形。 『AI が何を考慮すべきか』を人間が完全に指示できない、 という形で。 RLHF（人間フィードバック強化学習）は部分解だが、 完全解ではない。 AI Safety 研究は、 フレーム問題への現代的応答の集大成と言える。 エンジニアとしてこの文脈を理解し、 過剰な楽観も悲観も避け、 着実に部分解を積み重ねていく姿勢が、 健全な AI 開発の前提となる。

🛠 フレーム問題対策 ── 実務チェックリスト

AI システム設計・運用時にフレーム問題を意識する 25 項目：

1. システムが想定する『フレーム』（入力範囲・出力範囲・前提条件）を明示文書化したか
2. フレーム外の入力に対する挙動を定義したか（rejection, fallback）
3. 学習データの分布範囲を把握しているか
4. 分布外検知（OOD Detection）の仕組みはあるか
5. Adversarial Example への脆弱性を評価したか
6. Edge Case シナリオを 10 個以上洗い出したか
7. シミュレータで多様な状況をテストしているか
8. Continuous Learning の仕組みはあるか
9. 性能劣化検知のトリガーは設定されているか
10. 人間オーバーライドの仕組みはあるか
11. 信頼度が低い予測を区別する仕組みはあるか
12. Causal DAG で『何を考慮し、 何を捨象するか』を明示したか
13. 副次的効果の連鎖を Causal Mediation Analysis で評価したか
14. 反事実シミュレーション（What-if）の機能はあるか
15. ドメイン専門家のレビューを受けたか
16. ステークホルダーに『AI の限界』を説明したか
17. 過剰な期待を煽る表現を排除したか
18. Postmortem で『フレーム外』が失敗原因かを分析する文化はあるか
19. 新環境デプロイ前に Domain Randomization で頑健性を検証したか
20. LLM ならコンテキストウィンドウの制約に対応した RAG 設計があるか
21. ハルシネーション検知の仕組みはあるか
22. Self-Critique / Chain-of-Thought で内部検証する仕組みはあるか
23. 規制対応（説明可能性、 公平性）の要件は満たされているか
24. AGI Alignment の議論を継続フォローしているか
25. 失敗を blameless に振り返り、 フレーム拡張する文化はあるか

これら 25 項目を AI システム設計・運用フェーズで確認することで、 フレーム問題による事故を未然に防げる確率が大幅に向上する。

📖 フレーム問題 ── 哲学的補遺

フレーム問題は AI の技術問題にとどまらず、 認知科学・心理学・哲学を貫く普遍的問題である。

1. 認知科学的視点：人間はフレーム問題をどう解いているのか？ 認知科学者は『注意機構（attention）』『ワーキングメモリ』『文脈効果』『カテゴリ知覚』を手がかりに研究を進めている。 確定的な答えはないが、 人間は『大量の経験』『感情』『社会的文脈』を統合して、 直感的に関連性を判断していると考えられる。 これを AI が獲得するには、 単純な大規模学習では不十分かもしれない。

2. 哲学的視点（Dennett の路線）：Dennett は『フレーム問題は AI 不可能論ではない』と論じた。 人間も同じ問題を抱えており、 ヒューリスティクス（直感的判断）で何とかしているだけ。 AI も同様に、 完全解決ではなく実用的近似で十分機能できる。 これが現代主流の立場。

3. 哲学的視点（Searle の路線）：Searle は『中国語の部屋』思考実験で『記号操作と理解は別』と論じた。 AI は記号を操作するだけで、 真の理解には到達しない、 という立場。 Dennett と対立。 フレーム問題はこの議論と関連するが、 同じではない。

4. 進化生物学的視点：人類は数百万年の進化で『生存に必要な関連性判断』を獲得した。 AI はその進化過程を圧縮する形で『大量データ学習』を行う。 ただし進化的時間軸での『暗黙的知識』を AI が完全に取得できるかは未解決。

5. 社会科学的視点：政策評価・経済予測でフレーム問題は『何を変数とするか』として現れる。 Causal DAG での明示化が現実解。 社会システムは無限に複雑で、 完全モデル化は原理的に不可能。

6. AI Safety 視点：AGI の Alignment 問題はフレーム問題の最新形。 『AI が何を考慮すべきか』を人間が完全指示できない、 という形で。 RLHF、 Constitutional AI、 Debate 等が部分解として研究中。

フレーム問題は、 技術的・哲学的・社会的に多面性を持つ深い問題。 完全解決を目指すのではなく、 多視点で部分解を積み重ねていく姿勢が、 知的にも実務的にも妥当である。

🎯 まとめと次のステップ ── フレーム問題

📋 フレーム問題 ── 現代 AI 領域別の現れ方

🚀 次に進む先

🎁 フレーム問題 ── 学習者への補遺

📖 さらなる参考リソース

• 本サイト内の関連グループ教材で全体像を確認することを推奨します
• 公的統計データ SSDSE-B-2026 を用いた実際の分析例は『論文一覧』からアクセス可能です
• 論文ベースの再現実装で『教科書では分からない実装ノウハウ』を吸収することが、 真の理解への近道となります
• 各用語ページの 🔗 関連用語セクションから、 前提・並列・発展概念へリンクを辿ることで、 用語の地図が次第に頭の中に形成されます
• 定期的に同じ用語ページを再訪することで、 学習の段階に応じて新しい発見があります。 1 度目は『概要把握』、 2 度目は『応用領域』、 3 度目は『深掘り』というように

🔬 数式を言葉で読み解く

🔬 数式を言葉で読み解く（フレーム問題の形式化）

🧮 実値で計算してみる

身近な例：「コーヒーを淹れる」という単純行動でも、 暗黙の前提は膨大。

• 水道は出る／停電していない／カップは机から落ちない／猫は飛び込まない／重力は変わらない…
• これらを全部リストアップすると即座に組み合わせ爆発。 だが人間は「特に異変がないなら通常通り」と無意識に扱う

このギャップが、 古典AIが「玩具世界（toy world）」を出ると急に脆くなる主因でした。

🧮 応用思考 ── 政策介入の波及効果とフレーム問題

🏭 産業／思考事例 6 件

⚖️ 解決アプローチ比較

🧠 古典 AI の関連問題

💥 失敗例 5 件

📝 演習 5 題

📖 用語辞典 10 語

📑 参考文献・出典

• McCarthy, J., Hayes, P. (1969). Some Philosophical Problems from the Standpoint of Artificial Intelligence. Machine Intelligence 4.
• Dennett, D. (1984). Cognitive Wheels: The Frame Problem of AI. In Minds, Machines, and Evolution.
• Fikes, R., Nilsson, N. (1971). STRIPS: A New Approach to the Application of Theorem Proving to Problem Solving. Artificial Intelligence.
• Reiter, R. (1980). A Logic for Default Reasoning. Artificial Intelligence 13.
• Shanahan, M. (1997). Solving the Frame Problem. MIT Press. — フレーム問題の包括的論述
• Ha, D., Schmidhuber, J. (2018). World Models. arXiv:1803.10122.
• Harnad, S. (1990). The Symbol Grounding Problem. Physica D 42.
• Searle, J. (1980). Minds, Brains, and Programs. Behavioral and Brain Sciences.
• Russell, S., Norvig, P. (2020). Artificial Intelligence: A Modern Approach (4th ed). Pearson.
• SSDSE-B-2026 公式ページ — 独立行政法人統計センター

🧮 フレーム問題の形式論理 ── 詳細展開

🧮 数式に値を入れて手で計算する: 状態遷移の組合せ爆発

合成データでアクション数とオブジェクト数から状態空間サイズを計算する。

Step 1: 状態空間

Step 2: 公式

🐍 Python で再現

1
2
3
4
5
6

import numpy as np
ns = np.array([5, 10, 20, 50])
ks = np.array([2, 3, 5, 10])
spaces = ks.astype(object) ** ns.astype(object)
for n, k, s in zip(ns, ks, spaces):
    print(f"n={n}, k={k}: {s:.2e}")

📤 実行結果

💬 手計算 (Step 2) と Python 出力が完全一致。

🐍 Python 実装

フレーム問題そのものは「コードで解ける」性質の問題ではないが、 現代 AI が採用する「暗黙的な解決策」の縮図を最小スニペットで体験できる。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10
11
12

# フレーム問題そのものは「コード一行で示す」性質ではないが、
# 「行動の副作用」を有限の枠で扱う簡易シミュレーション
state = {'coffee': False, 'lights_on': True, 'cat_on_table': False}

def make_coffee(state):
    new_state = state.copy()           # フレーム公理の代用：他はそのまま
    new_state['coffee'] = True         # 明示的に変える事実だけ更新
    return new_state

print(make_coffee(state))
# → {'coffee': True, 'lights_on': True, 'cat_on_table': False}
# このパターン（事実をコピーして必要分だけ書き換え）が現代の暗黙的解決策の縮図

🐍 補強コード例 ── 非単調な「デフォルト推論」

フレーム問題の古典的な近似解のひとつが「デフォルトでは何も変わらない、 ただし例外を明示する」という非単調推論。 その最小イメージを示す。

 1
 2
 3
 4
 5
 6
 7
 8
 9
10

# デフォルト：行動 a は述語 p を変えない（フレーム公理の代用）
# 例外だけを明示的に列挙する ＝ 非単調推論の発想
effects = {'take_battery': {'battery_pos', 'bomb_pos'}}  # 変わるものだけ

def changes(action, fact):
    # 明示された例外に含まれなければ「変わらない」とみなす
    return fact in effects.get(action, set())

print(changes('take_battery', 'bomb_pos'))  # True（R1 が見落とした副作用）
print(changes('take_battery', 'wall_color'))  # False（列挙不要な無関係事実）

⚠️ よくある落とし穴

🌐 関連手法・派生

• 限定推論（circumscription） — McCarthy が提案。 「言及されない事実は変わらない」と仮定して推論する非単調論理
• STRIPS / PDDL — プランニングの標準言語。 「前提」「効果」だけを書く枠組みで実用上フレーム問題を回避
• 深層強化学習 — 環境のモデルを明示せず、 試行錯誤で関連性を統計的に学ぶ。 別の角度からの回避策
• LLM ＋ ツール使用 — 言語モデルが「常識的に何を確認すべきか」を文脈から推測。 工学的には実用的だが説明性は弱い

🌐 フレーム問題が現れる現代 AI

📜 フレーム問題 主要文献年表

📝 フレーム問題 ── AI 哲学から現代エンジニアリングまで

💭 フレーム問題 追加 FAQ（15 問）

📋 フレーム問題関連 ── 主要文献

🔗 関連用語（前提・並列・発展）

役割で色分け：前提／上位／並列／発展／応用

🔗 関連ページ橋渡し

• AI の歴史 ─ フレーム問題は AI 史の中心問題
• シンボルグラウンディング ─ 兄弟問題
• AI 中核 ─ 横断教材
• 機械学習 ─ 現代版フレーム問題
• 深層学習 ─ End-to-End 学習による回避
• 大規模言語モデル ─ コンテキスト管理
• Transformer ・ アテンション ─ 関連性選別の機構

❓ FAQ 20 問

📜 フレーム問題 略史

🧪 形式論理的補遺 ── フレーム公理

🚶 フレーム問題を体感する思考実験

📚 関連グループ教材

この用語の全体像を学ぶには、 横断的な教材で文脈を掴むのが効率的です。

• 📚 AIの歴史 — 第1次〜第3次AIブームの中での位置づけ
• 📚 AIコア技術 — 探索・推論・学習の全体像

🔎 深掘り解説

歴史の流れ

• 1969年：McCarthy & Hayes 「Some Philosophical Problems from the Standpoint of Artificial Intelligence」で問題提起
• 1984年：Dennett「Cognitive Wheels: The Frame Problem of AI」で「ロボットと爆弾」の比喩
• 1980年代：限定推論／状況計算／非単調論理が議論される
• 1990年代：Cycプロジェクト（手作業常識DB）が長期化、 限界が見える
• 2000年代：機械学習・統計的手法が台頭、 古典AI議論は背景化
• 2020年代：LLMが「常識的」振る舞いを示すが、 説明可能性は依然課題

哲学への影響

フレーム問題は、 古典AIの工学的課題から始まったが、 やがて心の哲学へ波及しました。 Jerry Fodor は「グローバルな関連性判断こそ、 モジュール化された心では説明できない」とし、 認知科学の中核的難題に位置づけました。

逆に Andy Clark 等は「身体化された認知（embodied cognition）」「環境を計算リソースとして使う」立場から、 「閉鎖系として心を考えるからフレーム問題が出る」と批判します。 つまり「机上で考えず、 実世界とインタラクションすれば情報の絞り込みは身体・環境が代行する」という見方です。

現代AIでの再登場

形は変わってもフレーム問題は恒久的です。

✅ 使う前のチェックリスト

• ☐ フレーム問題 が今のタスクに本当に適切か再確認した
• ☐ 前提条件（独立性、 正規性、 サンプル数等）を満たしているか確認した
• ☐ データの尺度・分布・欠損・外れ値を確認した
• ☐ 結果だけでなく「不確実性」（CI、 標準誤差）も把握した
• ☐ 解釈と限界を区別して文書化した
• ☐ 関連する別の手法と比較したうえで本手法を選んだ
• ☐ 落とし穴（このページの ⚠️ セクション）に該当しないか確認した
• ☐ 関連グループ教材で全体像と位置付けを把握した

📖 さらに学ぶには

本サイト内

• 論文一覧に戻る — フレーム問題 を実際に使った再現論文をハンズオン形式で読む
• このページ上部の「🔗 関連用語」から派生概念へ
• 「📚 関連グループ教材」で横断的な学習教材へ

外部リソース

• scikit-learn 公式ドキュメント — 標準実装と例
• StatQuest with Josh Starmer (YouTube) — 直感的な統計／ML 解説
• Cross Validated (Stack Exchange) — 統計／ML の質問サイト
• arXiv — 最新の手法論文プレプリント

困ったときは

1. データの可視化（散布図、 ヒストグラム、 箱ひげ図）で異常を確認
2. サンプルサイズ・欠損・外れ値を確認
3. 仮定が満たされているか診断（正規性検定、 等分散性検定など）
4. 類似研究での標準的な手法を確認
5. 結果を複数手法でクロスチェック（頑健性確認）

🔗 同カテゴリの他用語

🎯 解説の目的・参照範囲ガイド

📚 フレーム問題にまつわる小話

🎬 コードツアー ── STRIPS で簡易ブロック世界

 1# STRIPS スタイルでブロック世界をシミュレート
 2# フレーム問題：これ以外は変わらない、 と暗黙仮定
 3
 4class State:
 5    def __init__(self):
 6        self.facts = set()  # 真である事実のみ保持（閉世界仮定）
 7    
 8    def add(self, fact):
 9        self.facts.add(fact)
10    
11    def remove(self, fact):
12        self.facts.discard(fact)
13    
14    def holds(self, fact):
15        return fact in self.facts
16
17class Action:
18    def __init__(self, name, precond, add_list, delete_list):
19        self.name = name
20        self.precond = precond
21        self.add_list = add_list
22        self.delete_list = delete_list
23    
24    def applicable(self, state):
25        return all(state.holds(p) for p in self.precond)
26    
27    def apply(self, state):
28        if not self.applicable(state):
29            raise ValueError(f"{self.name} 不可能")
30        for d in self.delete_list: state.remove(d)
31        for a in self.add_list: state.add(a)
32        # これ以外の facts は不変（フレーム公理を暗黙）
33
34# 使用例：A を B の上に積む
35stack_a_on_b = Action(
36    name="stack(A, B)",
37    precond=["clear(A)", "clear(B)", "holding(A)"],
38    add_list=["on(A, B)", "clear(A)", "handempty"],
39    delete_list=["clear(B)", "holding(A)"],
40)
41
42# 注意：このシミュレータは『閉世界仮定』の典型
43# 現実世界では『副次効果』が無限にあり、 これでは不十分

🔍 フレーム問題を多視点で見る

🎭 フレーム問題 思考シナリオ 6 件

📚 フレーム問題と現代 AI の関係

📖 フレーム問題 深堀り用語辞典

🗺 フレーム問題 学習ロードマップ

💬 フレーム問題 議論対話

✅ AI システム設計時のフレーム問題チェック

📖 フレーム問題 拡張ケース 6 件

📊 フレーム問題 vs 関連問題マッピング

📊 解決アプローチの世代別比較

🔗 隣接手法への橋渡し

「フレーム問題」は単独で完結する手法ではなく、 隣接領域と連携することで真価を発揮する。

• 上流: 入力データの前処理・整備 — シンボルグラウンディング問題 ・ 常識推論
• 並列: 類似目的を持つ代替手法 — 分岐問題 (Finger 1987) ・ 資格問題 (McCarthy 1980)
• 下流: 出力結果の評価・解釈 — RAG (Retrieval-Augmented Generation) ・ World Models (Ha & Schmidhuber 2018)

上流のシンボルグラウンディングや常識推論で「何が関連するか」を提供し、 並列の Finger / McCarthy 系問題と接続し、 下流の RAG・World Models で実装解決を試みる。 単独の哲学問題ではなく、 AI 設計の現場で繰り返し直面する境界条件として位置づける。

🌳 AI システム設計でフレーム問題を意識する判断

🌳 AI システム設計でフレーム問題を意識する判断

🛠 AI システムでのフレーム問題対処

フレーム問題を実務 AI 設計で扱うときの判断は、 以下のフローで整理すると見通しが立つ。

1. Step 1: タスクの世界は閉じているか開いているか?
   • 閉じている (ゲーム・数学・厳格な業務手順) → STRIPS / PDDL でフレーム公理を明示的に列挙、 古典プランニングで対応可
   • 開いている (自然言語・自動運転・社会調査) → フレーム問題が顕在化、 暗黙学習 + 人間介入 + Edge Case 収集体制を組む
2. Step 2: 副次効果の重みはどれくらいか?
   • 軽い (チャット応答・推薦) → End-to-End モデルでハルシネーション許容、 RAG で事実性を補強
   • 重い (政策評価・自動運転・医療) → Causal DAG で副作用ノードを明示、 シミュレータで多段波及を確認
3. Step 3: 環境変化の速さは?
   • 静的・年単位 → 一度学習 + 年次再学習で十分
   • 急変・分単位 → Continuous Learning + データドリフト監視 + 人間オーバーライド経路を確保
4. Step 4: ドメイン知識が手に入るか?
   • 豊富 (Cyc 型常識・専門家ルール) → Neuro-symbolic ハイブリッドで明示ルール + 学習を併用
   • 乏しい → LLM の暗黙常識に依存、 ただし ハルシネーション を前提に Self-Critique を組む

フレーム問題は「完全解決」を諦め、 ドメイン知識 + Causal DAG + 学習 + 人間介入の 4 点で冗長に守るのが現代の標準スタンス。 SSDSE 政策評価のような社会科学的問題でも、 切り取るフレーム (人口・経済・教育の何ノードに絞るか) は分析者が責任を持って明示する。