第1部|地図編
第1章 「できる」と「任せてよい」は違う
この章の要点
- 答えを出せることと、その答えが正しいことは別である
- AIが知っている情報と、知らない情報を分けて考える
- 正確さ・影響の大きさ・責任の所在から、任せてよい範囲を判断する
きれいな答えほど、立ち止まってみる
AIに質問すると、見出しが整い、専門用語も使われた、説得力のある文章が返ってきます。忙しいときには、そのまま採用したくなることもあるでしょう。
しかし、流暢であることは、正しいことの保証にはなりません。臨床仮説でも、研究の考察でも、事業計画でも、この点は共通しています。
大切なのは、「答えを作れたか」と「その答えを仕事に使ってよいか」を、別の問いとして扱うことです。

生成AIは、何をしているのか
AIには、画像を認識するもの、数値を予測するもの、条件に合う組み合わせを探すものなど、さまざまな種類があります。生成AIは、その中でも文章や画像などを作るAIです。
文章を扱う大規模言語モデル(LLM)は、文脈に続く語を予測する学習を土台として、応答の仕方が調整されています。推論や外部ツールの利用にも対応しますが、それだけで出力の正しさが保証されるわけではありません。
たとえば、実在するように見える文献名を挙げたり、情報の足りない症例について断定したりすることがあります。基礎的な仕組みや得意・不得意は、概論 第4章でも整理しています。
入っていない情報は、判断の材料にならない
外部検索やデータと接続していないAIは、接続先の最新情報や、相手先の内部事情を参照できません。目の前の人の表情、動作、生活環境も、伝えられていなければ判断の材料にできません。
つまり、同じ問いでも、与えられた情報によって答えは変わります。AIの提案を読むときには、「何を根拠にしているのか」「何がまだわかっていないのか」を確かめる必要があります。
「任せてよいか」を考える3つの観点
使う前に、次の3点を確認してみましょう。
- 正確さ:どの部分を、どの資料や事実と照合するか
- 影響:間違っていた場合、誰にどのような影響が出るか
- 責任:最終的に採用を決め、説明するのは誰か
見出し案をいくつか出してもらう場合と、介入方針を決める場合では、必要な確認の重さが違います。使える機能が同じでも、任せてよい範囲まで同じになるわけではないのです。
試してみる問い
最近AIに頼んだ仕事を1つ選んでみてください。その答えが間違っていたとしたら、誰が困るでしょうか。また、使う前に何を確かめれば、誤りに気づけたでしょうか。
第1章のまとめ
- 生成AIの流暢さと、内容の正確さは分けて評価する
- AIが参照できない情報を、知っているものとして扱わない
- 正確さ・影響・責任から、作業に合った確認方法を決める