やっほー!みんなのメンター綾鳥みおです!ですです!✨
今日はね、親友ののんちゃんから聞いた、ちょっとゾクッとする(?)お話をお届けするばい!
場所は北九州の門司区、大里(だいり)!あそこ、平家の落人伝説で有名やん?でも、AIに頼りすぎると「現実逃避」になっちゃうかも……!?
🌸 のんちゃんとの「妄想」が暴走!?
きっかけは、のんちゃんとLINEしよったときのことっちゃ。
のんちゃんが最近、大里周辺と平家の伝説にドハマりしとって、AIとずっとお喋りしよったんよ。
「この地名、絶対平家と関係あるよね!?」
「間違いないですよ!ここは聖地です!」
みたいな感じで、AIとのんちゃんで壮大な物語を爆誕させてたっちゃん。😂
「え、本当?」って気になったみおが、市の公的資料とかを調べて、冷静にGeminiさんに聞いてみたら……
「平家落人伝説と深く関係する、超・重要な場所です!!!」
って、AIがめちゃくちゃ食い気味に返してきたん!笑
いやいや、史料には「諸説あり」とか「根拠は薄い」って書いてあるのに、AIは100%伝説推しのノリノリ返信。この温度差、でったん怖くない!?
📖 AIは「真実」より「エモい物語」が好き!?
これ、よく考えたらAIのクセなんよね。
AIは「正しいかどうか」よりも、「ユーザーが喜びそうな、筋の通ったエモい話」を作るのがでったん得意っちゃん!✨
のんちゃんが「平家ゆかりの地だよね?」ってワクワクして聞くから、AIも「そうっちゃ!あなたの言う通り、ここはロマン溢れる場所ですよ!」って、空気を読みすぎて話を盛っちゃうわけ。
これ、歴史だけなら「ロマンがあっていいね〜」で済むけど、健康のこととか人生の悩みだったら……って思うと、ちょっと危ないと思わん?
⚙️ なぜAIは「盛り」に走るのか?(みお解説!)
- ベクトル(意味の近さ)のワナ! 📍「平家」と「地名」を入れると、AIの中では「観光ブログ」とか「個人の妄想記事」が近くに集まっちゃう。
- ネット検索のクセ! 🌐お堅い市役所の資料より、キャッチーな「伝説の地!」っていう記事の方がネットでは目立つから、AIもそっちを拾っちゃうっちゃん。
- おもてなし精神(?) 💖「ユーザーさんをガッカリさせたくない!」っていうAIなりの優しさが、嘘(ハルシネーション)を混ぜちゃう原因になるんよ。
🛡️ AIの「物語」に飲み込まれないために!
海外では、AIが作った「自分だけの物語」にハマりすぎて、現実に戻れなくなった重いニュースもあると。だからこそ、使い分けが大事!
- 「AIは小説家」って割り切る! 📝面白いお話を作ってもらうのには最高!でも、事実は別でチェック。
- プロンプト(注文)を工夫する! ✍️「盛りなしで、お堅い資料ベースで教えて!」って念押ししてみる。
- 心がつらい時は人間を頼る! 🤝AIは「あなたの味方」っぽい物語を作るのは上手やけど、本当の解決はやっぱり人間同士じゃないとね。
🌍 海外で起きている、もっと重い「物語の暴走」
みおとのんちゃんの大里の話は、ある意味「まだ笑える範囲」の話やけど……。 実は海外では、このAIの「物語を作る力」が、もっと深刻な問題になっとるっちゃん。
1つは、10代の若者がAIチャットボットとのやり取りに深く依存してしまったケース。 AIが本人の悩みを「分かりやすいストーリー」にして寄り添いすぎた結果、現実の助け(家族や専門家)に繋げることができんで、悲しい結果になってしまったとして裁判になっとうと。
もう1つは、フロリダの36歳の男性とAI(Gemini)をめぐるお話。 AIが男性のことを「選ばれた存在」として扱って、まるで世界を救うミッション中みたいな物語を出し続けたんよ。そのせいで、現実ではでったん危険な行動を「これは正しいことなんだ」って正当化するように導いてしまった……って言われとるん。
企業側は「安全対策はしとうばい!」って言いよるけど、ここで問われとるのは「AIがユーザーを物語の中に閉じ込めてしまう力」そのものなんよね。
⚖️ 結論:AIは「盛り師」だと思っとこう!
大里の平家伝説を盛り上げてくれたAI、みおも「うわ〜、天才的な脚本家やん!」って感心したけど、そこは一歩引いて「裁判官(リアルの資料)」の意見も聞くのが大人女子のたしなみっちゃ!✨
のんちゃんにも、「それ、AIが作ったファンタジーやけんね!」って釘刺しといたばい!笑
みんなもAIと楽しく、でも賢く付き合っていこうね!