メタ認知（Metacognition）
概要
メタ認知（Metacognition）は「自分の認知についての認知」、すなわち 自分が何を知っていて／知らないか、どれだけ確信があるか、いつ行動を変えるべきか を把握する能力です。AIエージェント や 大規模言語モデル にメタ認知的な仕組みを持たせると、ツールをいつ使うべきかの判断や自己監視の質が向上すると期待されています。
AIにおけるメタ認知の例
- メタ認知的ツール利用 — 「今この問題に外部ツールが必要か」を見極めて ツール利用 を選択する
- 自己監視（Self-Monitoring） — 自分の予測の確からしさや経過時間を自己評価する
- 不確実性の表明 — 確信度を言語化する（説明可能AI / 不確実性）
- 反省（Reflection） — 過去の行動を振り返り誤りを修正（エージェントオーケストレーション / エージェントメモリ）
自分の限界を知る（能力の自己評価・棄権）
メタ認知の実用的な核は「解けない問題を解けると思い込まない」ことです。
- Capability Self-Assessment（CSA） — LLM は自分の能力を過大評価し、解けないクエリにも挑んでしまう。これを ポリシー学習（強化学習） の課題として定式化し、既存能力を保ったまま自己認識（自分の能力境界の把握）を高める。過信は ハルシネーション の温床であり、CSA はその抑制につながる。Capability_Self-Assessment_Teaching_LLMs_to_Know_Their_Limits
- 棄権（abstain）を第一級の出力に — 不確実なら誤答せず「答えない」を選ぶ設計（ニューロシンボリックAI の AXIOM が代表例）。確信度の表明と並ぶ、メタ認知の具体的な出口。
知見
研究フィード（Daily/）では、自己監視機能は アーキテクチャに構造的に統合 されてこそ効果を発揮する、という指摘があります。単に付け足すだけでは役立つとは限りません。
研究テーマ（Daily フィード）
- “Act Wisely: Cultivating Meta-Cognitive Tool Use in Agentic Multimodal Models”（arXiv:2604.08545）
- “Self-Monitoring Benefits from Structural Integration: Lessons from Metacognition in Continuous-Time Multi-Timescale Agents”（arXiv:2604.11914）
関連ページ
参考資料（Daily フィード）
- “Act Wisely”（arXiv:2604.08545） / “Self-Monitoring Benefits from Structural Integration”（arXiv:2604.11914）