AIが生成したハルシネーション（嘘情報）を信じて損害が出たら、誰に請求できる？

結論：利用規約上ユーザーの責任となります

① 生成AIの出力の仕組み

生成AIは、入力された情報に対する回答を、確率的に予測して回答します。回答にあたっては学習データなどによって得られた情報をもとに自身のパラメータを調整して確率を算定しています。

② ハルシネーションは構造上避けられないリスク

つまり、ハルシネーションリスクは入力データやパラメータ設定（もとになる学習データ）次第で誤った回答が回答候補として出る場合もあり、逆に、データが正確でも一定の確率により異なる回答が選択される可能性を排除できず、生成AIの出力構造上、やむを得ず発生するリスクとなります。

③ サービスプロバイダーは正確性を保証していない

このようなことから、詳細はお使いのサービスの利用規約に記載されている条項を確認することになりますが、ほとんどのサービスにおいては、生成AIの出力の正確性や最新性などについて、保証を行っておらず、その確認をユーザーに委ねています。