第3部|限界編
第10章 限界を3つに分ける ― できない/わからない/任せるべきでない
この章の要点
- AIの限界には、技術・根拠・情報管理・倫理・能力形成などの違いがある
- 「できない」「わからない」「任せるべきでない」を分けて考える
- 技術が変わっても、目的・価値・責任を判断の軸として持つ
「人間にしかできない」で止めない
AIの役割を考えるとき、「人間にしかできないこと」を並べたくなるかもしれません。しかし、技術や利用環境が変わると、その境界も変化します。
そこで役立つのが、限界の種類を分ける考え方です。今は難しいのか、効果がわからないのか、できても任せるべきでないのか。理由を分けると、何を確認し、いつ見直すかが明確になります。
限界には、いくつかの種類がある
限界の種類 | 考えたいこと | 仕事での例 |
|---|---|---|
技術的な限界 | 誤り、文脈不足、偏り、計算や推論の間違い | 実在しない論文を挙げる、情報不足の症例で断定する |
実証的な限界 | 出力の良さが、実際の成果につながるか | 読みやすい説明文でも、行動の変化につながるとは限らない |
情報・安全の限界 | 個人情報、守秘、外部送信、利用条件 | 利用条件を確認していないAIに、預かった情報を入れる |
倫理・社会的な限界 | 責任、公平性、著作権、本人の意思 | 本人への説明や合意を曖昧にしたまま、AIの案を採用する |
能力形成の限界 | 自分で考え、確かめる力が保たれるか | 毎回AIの仮説から考え始め、自分で評価しなくなる |
同じ「任せない」でも、問題の所在は異なります。技術の向上だけで解決するものと、使い方や責任の設計を見直す必要があるものを区別しましょう。
「できない」「わからない」「任せるべきでない」
さらに、実務で判断しやすいように、3つに整理してみます。
- できない:今の技術や環境では、実施が難しいこと
- わからない:できそうでも、効果や妥当性の根拠が十分ではないこと
- 任せるべきでない:実行できても、倫理や責任、リスクの観点から委ねるべきではないこと

たとえば、接続されていない内部データを参照することと、AIの説明が学習に役立つかを確かめることとでは、問題の種類が違います。前者は利用環境、後者は効果を確かめる方法が論点になります。
また、最終的な説明や採用判断については、AIに支援してもらいながらも、責任を持つ人を明確にしておく必要があります。
境界は見直しても、判断の軸は持つ
「できない」は、技術や接続先が変わると「できる」に変わることがあります。「わからない」は、新しい根拠によって判断が変わるかもしれません。
だからこそ、機能の有無だけで判断を終えないことが大切です。何を良くしたいのか、誰に影響するのか、誰が説明し責任を持つのか。この軸を持って、任せ方を更新していきましょう。
試してみる問い
自分の仕事から、3つの区分に当てはまる作業を1つずつ挙げてみてください。それぞれについて、「何が変われば判断を見直すか」も書いてみましょう。
第10章のまとめ
- 限界の種類によって、必要な確認や対応は変わる
- 実施の難しさ、効果の不確かさ、委ねる妥当性を混同しない
- 技術と根拠を見直しながら、目的・価値・責任を見失わない