AIに嘘をつかれた話

以前、あるクライアントへの
提案書を作っていたときの話です。

競合3社の価格帯を調べる必要があって、
AIに「〇〇業界の平均単価を教えて」と聞いたんですよね。

すると、すごく丁寧に数字付きで返ってきたんです。

「業界平均は月額3.2万円、
大手3社の平均は5.8万円」

みたいな感じで。

そのまま提案書に入れかけたんですが、
なんとなく気になって自分で裏を取ってみたら……

全部デタラメでした（笑）

存在しない調査データを、
さも本物のように出してきたんです。

あれは本当にゾッとしましたね。

AIがつく嘘を、ハルシネーションという

というのも、「AIは嘘をつく」って
知ってる人は知ってる常識みたいなものなんです。

この「AIがつく嘘」のことを
ハルシネーションといいます。

で、こういう話をすると
「だからAIは信用できない」ってなる人が多いんですが、
私はちょっと違う方向に考えたんですよね。

「そもそも、なぜAIは嘘をつくのか？」と。

AIが嘘をつく原因は、こちらの聞き方にある

というのも、よく考えてみると、
AIが嘘をつくのって、こっちの聞き方に原因があるんです。

「〇〇の市場規模を教えて」と聞くと、
AIは「答えなきゃ」と思って、
知らなくても何かを返そうとします。

こういう聞き方が、
ハルシネーションの原因になるんですよね。

でもこれ、人間でも同じだと思いませんか？

上司に「来月の売上見込みは？」と聞かれたら、
わからなくても何か答えないといけない空気になる。

で、適当に答える（笑）

それと同じことがAIにも起きるってことです。

大事なのは、聞く「順番」

ただ、今の私はAIでリサーチするとき、
ハルシネーションがほぼゼロの状態で使えています。

「え、どうやって？」と思うかもしれません。

1つは、プロンプトで制御することですが、
もう1つ大事なのは、聞く「順番」なんですよね。

いきなり答えを聞くんじゃなくて、
段階を踏んで対話していく。

そうすると、AIは
ハルシネーションを起こさなくなるんです。

私はこの「聞く順番」を、
リサーチから戦略の組み立て、
コンセプトの仕上げまで、
一連の流れとして体系化しました。

これを使うようになってから、
以前は3日かかっていたリサーチが
半日で終わるようになったんです。

しかも精度は上がっている。

ただ、ここで
「そのプロンプトだけでも教えてよ」
と思った方もいるかもしれません。

気持ちはわかるんですが、
プロンプトだけ知っても
あまり意味がないんですよね。

なぜかというと、
プロンプトそのものを生み出す
「考え方」がわかっていないと、
AIの仕様が変わった瞬間に応用が利かなくなるからです。

なので、ここではひとつだけ。

道具ではなく、一緒に考える相手として使う

この違いだけでも、ぜひ今日から試してみてください。