2026.09.16 2026.09.20

AIは「知っている」わけではない｜生成AIの仕組みを心理職向けに

gumix

※2026年9月時点の情報です。

生成AIを使っていると、かなり専門的な質問にも自然な文章で答えてくれます。説明も分かりやすく、専門用語も出てくるので、内容まで正しいように感じ、「すごい！」「便利！」「めっちゃ使える！」と感動した経験がある人も多いのではないでしょうか。

しかし、あとから調べてみると、紹介された情報が見つからなかったり、制度の説明が少し違っていたりすることがあります。

なぜ、これほど自然な文章をつくれるのに、間違えるのでしょうか。

その理由を考えるには、まず生成AIが何をしているのかを知っておくと分かりやすくなります。

生成AIは、何をしているのか

かなりざっくりいうと、生成AIは、それまでの文脈をもとに次に続く言葉を予測しながら文章をつくっています。

たとえば「今日はいい」と入力されたとき、そのあとにどんな言葉が続きそうかを予測し、さらにその続きをつくっていきます。

実際には「トークン」と呼ばれる細かな単位で処理されていますが、まずは文章の続きを予測していると考えておけば十分です。

生成AIは、膨大な文章から言葉の使われ方や関係を学習しています。そのため、自然な文章をつくったり、筋道だった説明をしたり、相手に合わせて表現を変えたりすることができます。

ただし、文章が自然であることと、そこに書かれていることが正しいことは別です。

この違いは、生成AIを使ううえで最初に知っておきたいところです。

もっともらしい間違いが混ざることがある

生成AIも「分かりません」と答えることはありますが、いつもそうとは限りません。十分な情報がないときにも、文脈に合う内容を補いながら回答をつくることがあります。

その結果、存在しない文献情報を挙げたり、数字や名称を間違えたり、古い情報と新しい情報を混ぜたりすることがあります。

こうした現象は、ハルシネーションと呼ばれます。

問題なのは、間違っているときだけ文章が不自然になるわけではないことです。正しい説明と同じように、読みやすく、もっともらしい形で出てきます。

人であれば、記憶が曖昧なときに「たしか」「確認が必要ですが」と前置きすることがありますが、AIの文章から同じように確信度を読み取れるとは限りません。

そのため、文章の流暢さを、情報の正しさの手がかりにはしない方がよいでしょう。

では、何に使いやすいのか

生成AIが使いやすいのは、すでにある情報をもとに、言葉を整理したり、別の形にしたりする仕事です。

たとえば、

この文章を、保護者向けに少しやわらかくしてください。

と頼む。

元になる内容はこちらが持っていて、それを別の相手に伝わる形へ整えてもらう使い方です。

文章を短くする、要点を整理する、言い換える、見出しを考える、研修資料の構成案を出してもらう。こうした作業では、生成AIの便利さを感じやすいと思います。

一方、自分がほとんど知らないことについてAIに尋ね、その回答だけを頼りにする場合は注意が必要です！

自分が詳しくないほど、回答の間違いにも気づきにくいからです。

分からないことをAIに聞くこと自体が問題なのではありません。その答えを、確認せずに事実として扱わないことが大切です。

聞き方によって、答えも変わる

生成AIの回答は、質問の仕方や、こちらが置いた前提にも影響されます。

たとえば、研修資料の構成について、

この順番の方が分かりやすいですよね？

と尋ねれば、その順番のよいところを挙げるかもしれません。

一方で、

逆の順番にするメリットはありますか？

と聞けば、今度は逆の順番の利点を挙げることもあります。

どちらかが必ず間違っているという話ではありません。

生成AIは、与えられた問いに沿って回答を組み立てるため、質問の中に含まれる前提にも影響を受けます。

考えを整理するときには、

この案で気になるところはありますか。

別の考え方も挙げてください。

のように、少し違う方向から聞いてみる方法があります。

自分の考えを認めてもらうことより、自分では気づかなかった観点を増やすために使う方が、壁打ちとしては使いやすいでしょう。

「だいたい合っている」では済まないこともある

心理職の仕事では、細かな違いがそのまま問題になる情報があります。

文献、診断基準、法律や制度、各種ガイドラインなどです。

AIの説明は、大筋では合っていても、細かな条件や数字が違っていたり、古い情報が混ざっていたりすることがあります。

こうした情報は、AIの回答だけで確認を終えず、原典や一次情報まで確認する必要があります。

特に文献については、著者名や発表年、雑誌名まで整った形で示されていても、実在するとは限りません。

仕事や研究で使う文献は、必ず原典を確認しましょう。

生成AIは、調べものの入口として使うことはできますが、丸投げしたり、最後の確認先にすることは危険です。

この区別は持っておいた方がよいでしょう。

迷ったときは、「自分で確かめられるか」

生成AIを使う場面を考えるとき、ひとつ基準になるのが、

「この回答が間違っていたら、自分で気づけるか」

です。

文章の言い換えや整理であれば、元の内容と見比べることができます。

一方、初めて知る制度や専門的な情報については、間違いが混ざっていても気づけないかもしれません。

詳しくないことをAIに尋ねてはいけないわけではありません。

その場合は、繰り返しになりますが、AIの回答を最終的な確認先にしないことが大切です。

検索と生成AIは、少し役割が違う

検索は、すでに公開されている情報を探すために使います。

生成AIは、質問に合わせて文章を生成します。

最近はWeb検索を組み込んだAIも増えているため、両者を完全に分けることは難しくなっています。

だからこそ、実際に使うときには、

「AIがそう答えたか」より、「その情報をどこで確認できるか」

を見る方が分かりやすいと思います。

重要な情報なら出典を確認し、必要であれば、その先の一次情報までたどる。

心理職が仕事でAIを使うなら、ここは習慣にしておいた方が安全です。

まとめ

生成AIは、何でも知っている辞書のようなものではありません。

基本にあるのは、文脈をもとに続きを予測しながら文章をつくる仕組みです。

そのため、文章を整えたり、要約したり、構成を考えたりする仕事では力を発揮します。

一方で、もっともらしい間違いが混ざることもあります。

使うときには、

「自分で確かめられるか」

を一度考えてみる。

それだけでも、生成AIとの付き合い方はかなり変わります。

そして、心理職が仕事で使うなら、次に考えておきたいことがあります。

AIに、何を入力してよいのか。

次回は、守秘義務と個人情報について扱います。

心理職がAIを使うときの共通の注意

クライエントの個人情報を安易に入力しない
所属機関の規程やAIサービスのデータ取扱いを確認する
重要な情報は原典・一次情報で確認する

ABOUT ME