第3部|限界編

第10章 限界を3つに分ける ― できない/わからない/任せるべきでない

11 / 16

この章の要点

  • AIの限界には、技術・根拠・情報管理・倫理・能力形成などの違いがある
  • 「できない」「わからない」「任せるべきでない」を分けて考える
  • 技術が変わっても、目的・価値・責任を判断の軸として持つ

「人間にしかできない」で止めない

AIの役割を考えるとき、「人間にしかできないこと」を並べたくなるかもしれません。しかし、技術や利用環境が変わると、その境界も変化します。

そこで役立つのが、限界の種類を分ける考え方です。今は難しいのか、効果がわからないのか、できても任せるべきでないのか。理由を分けると、何を確認し、いつ見直すかが明確になります。

限界には、いくつかの種類がある

限界の種類

考えたいこと

仕事での例

技術的な限界

誤り、文脈不足、偏り、計算や推論の間違い

実在しない論文を挙げる、情報不足の症例で断定する

実証的な限界

出力の良さが、実際の成果につながるか

読みやすい説明文でも、行動の変化につながるとは限らない

情報・安全の限界

個人情報、守秘、外部送信、利用条件

利用条件を確認していないAIに、預かった情報を入れる

倫理・社会的な限界

責任、公平性、著作権、本人の意思

本人への説明や合意を曖昧にしたまま、AIの案を採用する

能力形成の限界

自分で考え、確かめる力が保たれるか

毎回AIの仮説から考え始め、自分で評価しなくなる

同じ「任せない」でも、問題の所在は異なります。技術の向上だけで解決するものと、使い方や責任の設計を見直す必要があるものを区別しましょう。

「できない」「わからない」「任せるべきでない」

さらに、実務で判断しやすいように、3つに整理してみます。

  • できない:今の技術や環境では、実施が難しいこと
  • わからない:できそうでも、効果や妥当性の根拠が十分ではないこと
  • 任せるべきでない:実行できても、倫理や責任、リスクの観点から委ねるべきではないこと
できないは現時点の技術・環境で実施が難しいこと、わからないは効果や妥当性の根拠が不十分なこと、任せるべきでないは倫理・法制度・専門職責任・リスクから不適切なこと。
実施が難しいこと、効果や妥当性が不明なこと、責任やリスクから委ねるべきでないことを分けます。図中の例を、自分の仕事に当てはめてみましょう。(提供スライドより)

図を大きく開く

たとえば、接続されていない内部データを参照することと、AIの説明が学習に役立つかを確かめることとでは、問題の種類が違います。前者は利用環境、後者は効果を確かめる方法が論点になります。

また、最終的な説明や採用判断については、AIに支援してもらいながらも、責任を持つ人を明確にしておく必要があります。

境界は見直しても、判断の軸は持つ

「できない」は、技術や接続先が変わると「できる」に変わることがあります。「わからない」は、新しい根拠によって判断が変わるかもしれません。

だからこそ、機能の有無だけで判断を終えないことが大切です。何を良くしたいのか、誰に影響するのか、誰が説明し責任を持つのか。この軸を持って、任せ方を更新していきましょう。

試してみる問い

自分の仕事から、3つの区分に当てはまる作業を1つずつ挙げてみてください。それぞれについて、「何が変われば判断を見直すか」も書いてみましょう。

第10章のまとめ

  • 限界の種類によって、必要な確認や対応は変わる
  • 実施の難しさ、効果の不確かさ、委ねる妥当性を混同しない
  • 技術と根拠を見直しながら、目的・価値・責任を見失わない

← 目次に戻る