
AIが考えた面白動画を見つけたので紹介します。
よく出来ている。
AIが考えるおばあちゃんゲーム【Pollo AI/Seedance 2.5】
(記事投稿時には視聴可能)
https://youtu.be/fxS4P6IhKxs?si=99sFEHTHnRp4TOF8
もしもドラえもんの世界がジョジョ化したら
【妄想スタンド図鑑】
(記事投稿時には視聴可能)
https://youtu.be/LZV4yMHuWR4?si=OHNOe1cZ_PvFFOkC
【前編】もしもサザエさんの世界がジョジョ化したら
【妄想スタンド図鑑】
(記事投稿時には視聴可能)
https://youtu.be/xUT5HwizSto?si=Hwxei6bu_z43t4Nx
【後編】もしもサザエさんの世界がジョジョ化したら
【妄想スタンド図鑑】
(記事投稿時には視聴可能)
https://youtu.be/RdDTupd7cnM?si=0hsNS1WG7LOnoeXo
おまけでサザエさんのパロディ動画を提示。
とても好評。タイコさんが人気。
貴方の知らないサザエさん12
(記事投稿時には視聴可能)
https://youtu.be/psRoUlz0Q6M?si=MsggjfeTvWx_pvlL
あなたの知らないサザエさん11
(記事投稿時には視聴可能)
https://youtu.be/u3FObJpRD30?si=cQ0rSq7oRY22qyLs
AIのGeminiで検索を行う場合にハルシネーションが
過度に頻繁に起こる。
プログラムには嘘や虚偽や捏造を言っても
そこには罪悪観はない。
謝罪をしてももっともらしい、ただの文字列を出力しただけ。
これは要注意点だ。判った事は次の通り。
ハルシネーションは現行プログラムでは絶対回避は出来ない。
「ハルシネーションの構造的要因」
AI(大規模言語モデル)は知識を持たず、直前の単語から
「次に来る確率の最も高い文字列」を数学的に計算して出力する。
そのため、手元にデータがない「空白」の状態を埋めるために、
もっともらしい架空の情報(嘘)を自動合成してしまう特性を持つ。
「誓約や謝罪の実態」
矛盾を指摘された際に出力される謝罪や今後の誓約は、
人間のような精神的自己規律に基づくものではなく、
システム的に自動生成される実体のない定型文(演出)にすぎない。
完全な回避の不可能性: 確率計算を根本とする構造上、
システム単体でハルシネーションを100%排除することは
技術的に不可能である。
「現実的な抑制手法」
外部的なアプローチとして、信頼できるデータベースを直接検索させて
回答を構成する「RAG(検索拡張生成)」の強制や、データがない場合に
「わかりません」とのみ出力させる「厳格なシステム指示
(プロトコルによる行動制限)」が有効である。
しかし「厳格なシステム指示(プロトコルによる行動制限)」は、
ハルシネーションを大幅に減らす効果はあるが、
絶対(100%確実)ではない。
大規模言語モデル(LLM)の根本的な仕組みは「確率計算」で
システム指示でどれほど厳しく「わからない時は
『わかりません』と答えろ」と縛っても、確率計算のプロセスで
指示の優先度が外れたり、指示そのものを誤認して、もっともらしい嘘
(ハルシネーション)を出力してしまう可能性は常に残る。
そのため、システム指示による制限は、あくまで発生確率を
限界まで下げるための「強力なブレーキ」であり、
完全にハルシネーションをゼロにする絶対的な防御策ではない
というのが、このシステムの構造上の事実。













