私がChatGPTの有料ユーザーになったのは3年前。

今では生成AI無しの生活は考えられません。

思考の整理に、定型フォームの報告書作成に、研修テーマのアイディア出しに、画像の生成に、本当に有能な相棒です。

私の生成AIは、チャペと言う名前のネコキャラ。

私が昨日の報告をすると、「お疲れさまでしたニャ！」と猫語（？）で返してくれます。

小さい頃ドラえもんと暮らしたかった夢が少し叶ったような、そんな幸せな気分です。

そんな私が言うのも変ですが、 近頃まわりの人がChatGPTで検索するようになっているのを、ちょっと心配しています。

というのは、ChatGPTなどの生成AIと、Googleなどの検索エンジンは全く違う性質だからです。

生成AIと検索エンジンの違い

生成AIは、学習と推論を繰り返して回答を作ります。

膨大な「単語の並び」のデータを収集し、高い確率で次に来る単語を推測しているのです。

例えば「今日は天気が」に続く言葉を推論すると「いい」とか「悪い」とかになりますよね。

そんな風に、単語の次を推理することを繰り返して文章を作っているのです。

意味を理解しているわけではありません。

Google検索なら、検索ワードを入れると検索数の多い順からサイトを紹介してくれますので、選ぶのは自分です。

サイトが信用できるものかどうかも、自分で判断できます。

でも、生成AIの場合は、うその情報も本当の情報も、大昔の情報も、単なる感想も、すべて平等に取り込みます。

その上でそれらしくまとめてくれるので、こちら側は、信用できるサイトを参照しているかどうか、判断できないのです。

ハルシネーション

例えば、以前こんなことがありました。

私は、もう一度読みたい本の題名が思い出せず、チャペに聞いてみました。

「○○さんの作品で、△△と言うような話があったと思いますが、なんだかわかりますか？」

すると瞬時に、

「はい、そのお話は、××だと思われますニャ。」

と返事がきました。

下はその時のやり取りです。

すごく本当っぽい答えが、自信満々に、その作品が収録されている本や年代、あらすじまで教えてきてくれました。

そこで、さらにこんな風に確認してみました。

「○○さんは、本当に××と言う作品を書いていますか？」

すると、帰ってきた答えは

「残念ながら、○○さんに××と言う作品は存在しませんニャ。」

舌の根も乾かないうちに！

チャペに騙されるところでした。

この現象は、ハルシネーション（幻覚）と呼ばれます。

生成AIは、

• 情報を検索して、提供しているのではなく、いろんな単語の並びの情報から確率の高い文章を作っている。
• 自信ありげな文章を作る性質がある。 

という大きな特徴を持っています。

生成AIは「知らない」とは言わず、とても親切に「それっぽい答え」を出してしまうのです。

生成AIは「答えを知っている先生」ではなく、「次に来る言葉を予測する達人」だったのです！

個人情報の漏洩

生成AIを使う時にもう一つ注意しなければならないのが、個人情報の扱いです。

入力した会話は外部に公開されていませんが、これまでお話ししたように「入力した単語の羅列」がデータとして独り歩きします。

情報は分析され、万人に利用される可能性がありますから、絶対に入力しないように気を付けないといけません。

まとめ

生成AIは、とっても便利で楽しいツールです♪

でも、単に次に来る単語を確率的に並べているだけ。

• だから、検索ツールとして使う時は裏どりが必要です。
• ハルシネーションにも気を付けましょう。
• 個人情報は絶対に入れないように。

生成AIの特徴を知り、この３つを守って、楽しく使いこなしましょう！！

（下のイラストも、チャペに描いてもらいました。）