第1部|地図編

第1章 「できる」と「任せてよい」は違う

2 / 16

この章の要点

  • 答えを出せることと、その答えが正しいことは別である
  • AIが知っている情報と、知らない情報を分けて考える
  • 正確さ・影響の大きさ・責任の所在から、任せてよい範囲を判断する

きれいな答えほど、立ち止まってみる

AIに質問すると、見出しが整い、専門用語も使われた、説得力のある文章が返ってきます。忙しいときには、そのまま採用したくなることもあるでしょう。

しかし、流暢であることは、正しいことの保証にはなりません。臨床仮説でも、研究の考察でも、事業計画でも、この点は共通しています。

大切なのは、「答えを作れたか」と「その答えを仕事に使ってよいか」を、別の問いとして扱うことです。

流暢で説得力のある答えを出せることと、事実や根拠に基づいて正しいことを対比した図。接続されていない最新情報、組織の内部情報、患者の実際の状態は把握できない。
流暢な答えと、事実や根拠に基づく正しい答えは別です。AIが参照できる情報の範囲も確認しましょう。(提供スライドより)

図を大きく開く

生成AIは、何をしているのか

AIには、画像を認識するもの、数値を予測するもの、条件に合う組み合わせを探すものなど、さまざまな種類があります。生成AIは、その中でも文章や画像などを作るAIです。

文章を扱う大規模言語モデル(LLM)は、文脈に続く語を予測する学習を土台として、応答の仕方が調整されています。推論や外部ツールの利用にも対応しますが、それだけで出力の正しさが保証されるわけではありません。

たとえば、実在するように見える文献名を挙げたり、情報の足りない症例について断定したりすることがあります。基礎的な仕組みや得意・不得意は、概論 第4章でも整理しています。

入っていない情報は、判断の材料にならない

外部検索やデータと接続していないAIは、接続先の最新情報や、相手先の内部事情を参照できません。目の前の人の表情、動作、生活環境も、伝えられていなければ判断の材料にできません。

つまり、同じ問いでも、与えられた情報によって答えは変わります。AIの提案を読むときには、「何を根拠にしているのか」「何がまだわかっていないのか」を確かめる必要があります。

「任せてよいか」を考える3つの観点

使う前に、次の3点を確認してみましょう。

  • 正確さ:どの部分を、どの資料や事実と照合するか
  • 影響:間違っていた場合、誰にどのような影響が出るか
  • 責任:最終的に採用を決め、説明するのは誰か

見出し案をいくつか出してもらう場合と、介入方針を決める場合では、必要な確認の重さが違います。使える機能が同じでも、任せてよい範囲まで同じになるわけではないのです。

試してみる問い

最近AIに頼んだ仕事を1つ選んでみてください。その答えが間違っていたとしたら、誰が困るでしょうか。また、使う前に何を確かめれば、誤りに気づけたでしょうか。

第1章のまとめ

  • 生成AIの流暢さと、内容の正確さは分けて評価する
  • AIが参照できない情報を、知っているものとして扱わない
  • 正確さ・影響・責任から、作業に合った確認方法を決める

← 目次に戻る